人工智能:人工智能存在的威胁：康复中的生物自恋者的反思

原文作者：TrentMcConaghy

AI?最终可能会控制我们所有的资源，这是对人类生存的威胁，我们如何预防呢？安全?AI?只能说是海市蜃楼，还有另一种方法：加入机器，我们甚至可以利用当今的市场力量逐步做到这一点，但我们必须克服生物自恋。

我的观点基于?20?年来的?AI?研究、模拟电路、摩尔定律和去中心化。

1.1我们给?AI?资源

我们已经开始走这条路了，我们正在让狭义的AI控制我们工厂中的机器人，自动驾驶的汽车，我们乘坐的飞机，一点一点地，我们让?AI?越来越多地控制我们的资源，这些系统不断优化：改变设计变量以最小化资源使用和其他目标。目前，每个?AI?系统的应用领域都非常狭窄。

我们将建立更高级别的网络，以结合自动驾驶汽车或供应链的各个网络，我们也会为AI提供在这些级别进行优化的方法，这一切都将以效率的名义进行。

我们将建立这些更高级别的?AI?系统，这样就没有任何一家企业或个人拥有它们。为了实现这一目标，我们将通过将AI放入DAO来分散它们，这也意味着我们将无法拔掉插头，除非我们想让现代世界关闭。

谷歌更新隐私政策，允许抓取数据用于人工智能训练:7月4日消息，谷歌近日发布其隐私政策更新，现在允许其获取任何公开可用的数据并将其用于人工智能（AI）培训目的。政策更新表明，谷歌现在正在向公众及其用户明确表示，在线公开上传的任何内容都可以用于其当前和未来开发的人工智能系统的培训过程。[2023/7/4 22:17:32]

这些更高级别的AI系统将具有复杂的紧急行为，这些行为是通过组合下面可能简单的AI系统而产生的，正如蚁群的行为比简单的蚂蚁要丰富得多。Holland、Dorigo和其他人已经在许多场景中证明了这一点。

这些去中心化的新兴?AI?将继续优化，一些设计变量将涉及人类，在许多任务中，人类是沉重的资源负载，在许多任务中，与硅相比尤为沉重。因此，为了最大限度地减少资源使用，这个?AI?将简单地优化人类，一切以效率为名。

糟糕的是，AI?现在控制着我们的资源。

这很了不起，为了获取我们的资源，AI?甚至不需要“醒来”，即达到人类水平的智能，它比那更平凡，我们将自己控制AI，它会简单地优化我们的需求。

Kraken新任CTO：人工智能对加密货币行业的影响日益增长:6月5日消息，加密货币交易所Kraken任命Vishnu Patankar担任新任首席技术官（CTO）。Vishnu Patankar表示，人工智能作为他正在考虑的技术之一，人工智能对加密货币行业的影响日益增长。此外，他还认为生成人工智能和应用于NFT的个性化、欺诈预防、网络安全都是加密货币和人工智能之间的共生领域。 他的重点将放在将公司扩展到最有前途的加密领域，同时保持对安全和客户的关注。

据悉，Patankar此前作为StockX首席技术官，曾帮助公司推出NFT产品。[2023/6/5 21:17:21]

速度比人们意识到的要快。2.为什么?AI?控制我们的资源是不好的？

一旦AI控制了我们的资源，无论是我们给它还是AI拿走它，我们都将与AI争夺资源，一开始可能不对，但随着时间的推移，这几乎是不可避免的。

一旦AI优化并意识到人类是资源大户，它们可能会迅速果断地采取行动，将人类从资源方程式中移除。是的，人类可能会消失，人类的口袋可能会在核战争和全球变暖中幸存下来，但如果我们站在AI的错误一边，游戏可能就完全结束了，AI?可以说是人类面临的最大生存威胁。

人工智能平台H2O.ai完成1亿美元E轮融资，澳大利亚联邦银行领投:11月8日消息，硅谷人工智能平台H2O.ai完成1亿美元E轮融资，澳大利亚联邦银行（CBA）领投，Pivot Investment Partners、Crane Venture Partners和Celesta Capital参投。此前7500万美元的D轮融资由高盛领投，后者同样参与了此轮融资。H20.ai的投前估值为16亿美元，高盛、富国银行、Capital One和平安的投资部门均是其投资者和客户。CBA计划将H20.ai的服务整合进银行的众多系统，包括客户奖励、线上零售、信用评估以及欺诈检测，以提供个性化定制的金融科技式服务。上周，CBA宣布计划提供加密货币服务，成为发达国家里首家计划提供此类服务的主流银行。（澳大利亚经济评论）[2021/11/8 21:33:06]

即使你不害怕这个，但你应该感到害怕。

旁白：人们可以将“AI觉醒”视为“人类”的下一次进化，因为毕竟我们会建造它们。那为什么感觉不对呢？我的看法是，这是因为我们个人的思维模式没有延续下去。我们宁愿留下来享受乐趣！

上海静安区签约15个大数据人工智能区块链重大项目:10月22日，上海静安区先后与“上海市静安区推进城市数字平台及新型智慧城市建设项目”、“智慧园区智能应用试点项目”等15个大数据人工智能区块链重大项目签约。静安政府还在全市率先出台上海首个大数据产业的专项扶持资金，已为近百家企业提供了各类资金超过一个亿。目前上海市大数据产业已形成以静安为核心引领的“1中心+4基地”发展格局。（市商网）[2020/10/22]

安全的?AI。建立“安全机器”并进行监管。

加入机器。上传人脑，或逐步合并。

让我们逐一探讨。

向OpenAI投入了10亿美元用于更透明的AI研究。他一直在假设如果?AI?醒来，我们就可以对其进行监管，而这个假设是错误的。试想一下，如果蚂蚁“反抗”我们并想要监管。我们会听他们的吗？一旦?AI?达到我们的智能水平，一秒后，它就会超过我们的水平。?10倍可能紧随其后。不需要多少10倍的时间，我们就会像AI的蚂蚁一样。

有些人认为我们可以创造友好的?AI，也许你可以。但所有?AI?都会友好吗？我看不出有什么方法可以阻止不友好的AI。您是否会抓住机会推动AI向前发展，希望所有AI都以某种方式变得友好。

声音 | 广西自治区大数据发展局钟穗：将积极布局人工智能、区块链等新兴产业:据广西日报消息，5月30日，在广西深化“放管服”改革情况新闻发布会上，广西自治区大数据发展局副局长钟穗表示，将以项目实施为抓手，推动数字产业发展。积极布局人工智能、空间地理信息、区块链等新兴产业，已落地实施中国-东盟（华为）人工智能联合创新中心、中国-东盟地理信息小镇等项目。[2019/5/30]

OpenAI实际上对人类来说可能更糟，因为它在没有真正保护的情况下更多地催化了AI。

所有AI的安全AI都是海市蜃楼，仅仅因为我们希望某事成真但并不能使它成真。

3.2加入机器

AI?可以醒来，而这只是时间问题。

如果?AI?占用了我们的资源，我们的神经元将很难与之竞争。

我建议我们给自己找一个有竞争力的基质，克服你的神经元，克服你的生物皮囊自我。不要打败他们，加入他们。或者不要，如果你更愿意让AI偷走我们的星球甚至更远的地方，我更喜欢前者。

哪种基质？得益于50年的摩尔定律，硅是一种出色的基板，这是我们首先面临?AI?风险的部分原因。那是最明显的底物；使用它很有意义。

那么，我们如何将自己移植到硅片上呢？这里有两个主要的：Ems和Bandwidth，让我们探索一下。

本书，探讨Ems的影响，无论是好是坏。

Ems的最新技术是什么？简而言之，我们还有很长的路要走，在给定的人身上，我们需要收集足够的数据来重现动态。

一种通用方法是大脑扫描，fMRI可以观察整个大脑随时间变化的动态，但仅使用血流作为代理，所以它很慢而且有损，脑电图速度更快但只能看到表面电信号，近红外线也很快，可以看到更远的地方，但达不到所需的全部深度。光遗传学可以出色地捕捉整个大脑中神经元发射的动态，但需要基因工程，以便神经元也发射光子。最后，电路终于变得足够小，可以想象在整个大脑中部署纳米级传感器。

另一种方法是对大脑的每个组件进行黑盒化，监控每个组件的输入和输出，然后为每个组件建立模型，研究人员已经在小鼠大脑的组成部分上完成了这项工作，并取得了巨大成功。这种技术可以与全脑扫描相辅相成。

BandwidthScenario中，我们自己和计算之间的带宽达到我们自己之间的带宽水平，然后它继续前进，最终，我们可以拔掉插头。

与Em方案一样，BW方案使我们与硅处于同等竞争地位，但与Em场景不同的是，它可以从今天开始，利用今天的市场力量逐步发生。

4.讨论

我们在赛跑，AI?醒来并获取资源，而不是人类加入机器。

资本加速了前者。我们如何加快后者？

一个好方法是积极地为其提供资金，让它发展得更快，对于Em场景，这意味着对大脑扫描和相关领域的研究，而不仅限于针对病人。对于Bandwidth场景，这意味着对BCI的研究，以及包括BCI及其他在内的未来智能手机的积极上市。我认为后者更有可能，因为如果市场起飞，每年投入数百亿美元的研发资金将很容易。

催化?Bandwidthscenario?的另一种方法是在设计新网络和平台时简单地偏向于此。是的，这很模糊！我也希望我在这里有更具体的想法，但也许你作为读者有。

也许还有其他方法？我希望作为读者的你看到问题已经从“我们如何阻止人工智能接管？”转变为“我们如何阻止?AI?接管？”?到“我们如何催化Bandwidth场景？”?来，戴上你的工程师帽子！

进一步阅读

我的其他AIDAO帖子都是针对这篇帖子构建的：

第一部分：AIDAO?及其实现的三条路径

第二部分：AIDAO?的狂野和危险

第三部分：这篇文章

人工智能、区块链和奇点的其他交叉点。每篇文章都有更多链接。

人工智能区块链

最近关于奇点和去中心化的科幻读物

笔记

本文部分基于：

我于2016年6月2日在伦敦发表的演讲名为“我们是神经自恋者吗？AI对人类的生存威胁和务实的解决方案”，以及?2012年至今的其他演讲。

?2.2016年8月18日在柏林举行的“AI?的崛起”活动中就此主题发表的演讲。这是视频和幻灯片。

致谢

非常感谢

GregMcMullen,KalinHarvey,ScottVolk,TroyMcConaghy,JanBalcar,EesmyalSantos-Brault,MashaMcConaghy,BrucePon,KaiWu,SimondelaRouviere,AlRobertson,MichaelMainelli,EmmaStamm,AlanShapiro,VinayGupta,samim,HarmvandenDorpel,

许多来自AI社区的朋友，当然还有长时间的讨论，这导致了这篇文章中的想法。

标签：人工智能AND区块链加密货币人工智能币圈Diamond Hands玩区块链挣的钱合法吗中国加密货币

芝麻开门交易所热门资讯