木星链 木星链
Ctrl+D收藏木星链

区块链:科学家警告称,遏制算法不会停止超级智能人工智能

作者:

时间:1900/1/1 0:00:00

一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。

他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题:我们如何确保超智能机器为我们的利益服务?

研究人员构想了一种理论上的遏制算法,该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。

声音 | Bitcoin Unlimited首席科学家:闪电网络存在诸多安全问题:Bitcoin Unlimited首席科学家Peter R. Rizun最近表示,比特币闪电网络用户在交易时可能会损失所有资金。据他介绍,比特币闪电网络存在问题,大多数问题是它有bug,而且动态收费可能会意外增加。例如,他已经确认用户可能会因为L1费用而赔钱。[2019/4/9]

但是,他们的分析发现,建立一种可以控制这种机器的算法从根本上来说是不可能的,人类与机器中心主任IyadRahwan说:

Penta首席科学家Steve Melnikoff博士受邀访问浙江大学,探讨区块链产学研联动:Penta首席科学家Steve Melnikoff博士携CMO Stephane Laurent等核心成员受邀前往浙大数据分析和管理国际研究中心开展访问交流,与浙大计算机学院副教授、数字资产和区块链研究所(筹)所长张宏鑫,浙大管院教授、数据营销研究所所长陈熹一行就区块链在供应链金融中的应用、抗量子计算密码研究、未来经济治理模型、区块链底层技术等话题展开学术探讨。Melnikoff博士认为与其说区块链将改变或颠覆什么,不如说它是提供了一种新的视角去解决老的问题,会导出更好的方法,虽然不知真正落地应用的拐点何时出现,但是还有很大机会。张宏鑫副教授则代表研究所表示欢迎Melnikoff博士担任客座教授并与Penta开展更多学术交流和技术应用方面的合作。[2018/6/7]

如果将问题分解为理论计算机科学的基本规则,就会发现,命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况,您将不知道遏制算法是否仍在分析威胁,或者它是否已停止遏制有害的AI。实际上,这使遏制算法无法使用。

阿里云AI首席科学家闵万里:区块链的技术值得研究,但需要时间沉淀:阿里云AI首席科学家闵万里接受专访时认为,“极度狂热后,必然会迅速冷却,区块链概念持续火爆,主要原因在于有人从中牟利,且存在以讹传讹的现象,很多人会陷入一个非理性的状态,投机者最终留下的是一片废墟。但是,区块链的技术值得研究。闵万里说,长久以来,信任问题始终未得到解决,该技术或许可让人们的信用体系逐步完善,但还需要时间的沉淀,“我对这项技术还是保持非常开放的态度”。[2018/4/19]

研究发现,由于计算的基本局限性,没有一种算法可以计算出AI是否会危害世界:

假设超级智能将包含一个程序,该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序,那么严格的围堵要求对该程序进行仿真,这在理论上是不可能的。

到目前为止,这种类型的AI仍仅限于幻想领域。但是研究人员指出,这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。

研究的合著者,马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说:“已经有机器独立执行某些重要任务,而程序员却没有完全了解他们是如何学习的。”

“因此提出了一个问题,在某个时候这是否可能变得不可控制并且对人类构成危险。”

标签:区块链NIKOKOFMEL区块链上班都是干什么的Unikoin GoldKOF TokenMELEGA

币安app官方下载最新版热门资讯
比特币:比特币暴涨暴跌,为何没有跌停涨停、熔断,到底谁是韭菜!

悟空挖矿:比特币暴涨暴跌,到底谁是韭菜!比特币是一种很神奇的东西,虚拟化的东西,靠着资本的运作,价值节节攀升,他区别于传统的投资市场,没有股市的跌停、涨停、熔断机制,可以无限制的上涨下跌.

1900/1/1 0:00:00
比特币:澎湃 | 比特币矿工的喜与忧:矿机价格与币价齐飞,担心暴跌再来

澎湃新闻记者叶映荷来源:澎湃新闻2017年冬天,内蒙古的夜很冷,室外温度低于零下20摄氏度。在一座荒凉的“矿场”里,由于没有什么娱乐活动,来自浙江杭州的比特币矿工冯胜在“上下铺式,能睡七八个人”.

1900/1/1 0:00:00
GAT:Gate.io已完成DOCK主网升级和代币兑换

Gate.io已经完成DOCK主网络升级,并为用户兑换了DOCK主网络资产。目前Gate.io平台提供的是DOCK的主网币。同时我们已经开通主网币充值和提现服务.

1900/1/1 0:00:00
BAYC:关于BNT(Bancor) 交易送积分 轮盘转不停 奖励发放公告

HomiEx已完成"BNT(Bancor)交易送积分轮盘转不停"所有奖励已全部分发,请在“钱包-资产记录”查看分发结果.

1900/1/1 0:00:00
HYD:库币上线Hydra Chain (HYDRA)!

亲爱的库币用户:我们很高兴的宣布,库币将上线HydraChain(HYDRA)项目并支持交易对HYDRA/USDT.

1900/1/1 0:00:00
比特币:比特币日内弱势缩量反弹乏力,后市日线或画下跌三法组合形态

上一篇文章笔者写到比特币日线要开启一两天的反弹,昨天到今天已经持续反弹两天了,可能今天就要结束反弹了,因为今天日内的反弹是缩量且乏力的,可能反弹就到戛然而止了.

1900/1/1 0:00:00