区块链:科学家警告称，遏制算法不会停止超级智能人工智能

一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。

他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？

研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。

声音 | Bitcoin Unlimited首席科学家：闪电网络存在诸多安全问题:Bitcoin Unlimited首席科学家Peter R. Rizun最近表示，比特币闪电网络用户在交易时可能会损失所有资金。据他介绍，比特币闪电网络存在问题，大多数问题是它有bug，而且动态收费可能会意外增加。例如，他已经确认用户可能会因为L1费用而赔钱。[2019/4/9]

但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：

Penta首席科学家Steve Melnikoff博士受邀访问浙江大学，探讨区块链产学研联动:Penta首席科学家Steve Melnikoff博士携CMO Stephane Laurent等核心成员受邀前往浙大数据分析和管理国际研究中心开展访问交流，与浙大计算机学院副教授、数字资产和区块链研究所（筹）所长张宏鑫，浙大管院教授、数据营销研究所所长陈熹一行就区块链在供应链金融中的应用、抗量子计算密码研究、未来经济治理模型、区块链底层技术等话题展开学术探讨。Melnikoff博士认为与其说区块链将改变或颠覆什么，不如说它是提供了一种新的视角去解决老的问题，会导出更好的方法，虽然不知真正落地应用的拐点何时出现，但是还有很大机会。张宏鑫副教授则代表研究所表示欢迎Melnikoff博士担任客座教授并与Penta开展更多学术交流和技术应用方面的合作。[2018/6/7]

如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。

阿里云AI首席科学家闵万里：区块链的技术值得研究，但需要时间沉淀:阿里云AI首席科学家闵万里接受专访时认为，“极度狂热后，必然会迅速冷却，区块链概念持续火爆，主要原因在于有人从中牟利，且存在以讹传讹的现象，很多人会陷入一个非理性的状态，投机者最终留下的是一片废墟。但是，区块链的技术值得研究。闵万里说，长久以来，信任问题始终未得到解决，该技术或许可让人们的信用体系逐步完善，但还需要时间的沉淀，“我对这项技术还是保持非常开放的态度”。[2018/4/19]

研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：

假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。

到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。

研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”

“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”

标签：区块链NIKOKOFMEL区块链上班都是干什么的Unikoin GoldKOF TokenMELEGA

币安app官方下载最新版热门资讯