人工智能:马斯克等千人联名签署公开信：《暂停巨型人工智能实验》全文

马斯克等千人联名签署公开信《暂停巨型人工智能实验》。具体网页见：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

具有与人类相媲美的智能的人工智能系统，可能对社会和人类产生深远的风险，这已经得到了大量研究的证实，并得到了顶级AI实验室的支持。正如广泛认可的阿西洛马人工智能原则所述，先进的人工智能可能会给地球生命历史带来深刻的变革，因此应该用相应的关注和资源进行规划和管理。遗憾的是，即使在近几个月里，AI实验室在开发和部署越来越强大的数字智能方面陷入了失控的竞赛，而这些数字智能甚至连它们的创造者都无法理解、预测或可靠地控制，这种规划和管理的水平也没有得到实现。

加密交易所Coinone上市主管承认受贿指控:金色财经报道，韩国加密货币交易所Coinone的前上市主管“Mr Jeon”承认了收受贿赂的指控。他被指控收取近20亿韩元(合151万美元)，作为将虚拟资产(如“Furiever Coin”)上市的回报。“Furiever Coin”仅在该交易所上市，此后与首尔江南区一起绑架案和谋杀案调查有关。

Coinone上市团队负责人和另一名经纪人也遭到指控，但他们的律师表示，他们尚未完成对证据的审查，并将在6月15日的下一次审判听证会上对指控作出回应。[2023/5/26 9:44:14]

当代AI系统现已在通用任务方面具有与人类竞争的能力，我们必须问自己：我们是否应该让机器充斥着我们的信息渠道，传播宣传和虚假信息？我们是否应该将所有工作自动化，包括那些有成就感的工作？我们是否应该开发可能最终超越、取代我们的非人类智能？我们是否应该冒着失去对文明的控制的风险？这些决策不能交由未经选举的科技领袖来做。只有在我们确信AI系统的影响将是积极的，风险将是可控的情况下，才能开发强大的AI系统。这种信心必须有充分的理由，并随着系统潜在影响的增大而增加。OpenAI最近关于通用人工智能的声明指出：“在某些时候，可能需要在开始训练未来系统之前获得独立审查，而且各个最先进的系统训练尝试，应该就限制用于创建新模型的计算增长速度达成一致意见。”我们同意。那个时候就是现在。

AEX：拟每月将部分平台资产打折转让给客户以换取AUSD销毁:1月8日消息，加密交易平台 AEX 发布《平台情况说明及解决方案 (2)》，称当前部分平台高管的强制措施仍未解除，预计短期内不具有解除的可能性。并在此前「软性兑付」方案的基础上增加方案 2，以进一步增加客户的选择空间，加快客户的资金回流速度。具体措施包括：

1. AEX 会委托第三方律所及第三方管理公司，在遵从可税性、合法性的前提下，将部分回款预期相对能预知的项目权益，以较低折扣转让给客户（一般为 2-4 折），法币交割。（据悉，资产包括影视作品票房收益权、将要上市的企业股票等期限、回报都相对有预知范围的资产。）

2. 参与前提是客户实名签署权益购买合同、完成《合格投资者问卷》、并按规则发送指定数量的 AUSD 至黑洞地址销毁（根据项目不同而不同）以获得抢购资格，每个项目发布时，会在项目公告中，单独约定销毁所需的 AUSD。

3. 项目及参与方式由第三方公司通过公众号发布（预计 1 月中旬发布首个项目），每个项目拟支持 1-49 人参与，客户通过联系客户经理完成合同事项，如最终本项目参与人数超过 49 人，则以销毁 AUSD 时间在先的客户为准，预计每月会推出 1-2 个项目，客户可以选择性参与。[2023/1/8 11:01:18]

因此，我们呼吁所有AI实验室立即暂停至少6个月的时间，停止训练比GPT-4更强大的AI系统。这种暂停应该是公开的、可验证的，并包括所有关键参与者。如果这样的暂停无法迅速实施，政府应该介入并实行禁令。

英国数字银行Revolut与加密支付应用Elrond达成合作:金色财经报道，英国数字银行 Revolut 与加密支付应用Elrond达成合作，Elrond的数字Token EGLD将能在这款金融科技应用上进行交易。数据显示，Revolut公司估值已达到330亿美元，当前在全球范围内客户群规模超过2000万，旨在帮助欧盟和英国用户购买、持有和出售加密货币来增加金融包容性。（prnewswire）[2022/8/27 12:52:13]

AI实验室和独立专家应利用这段暂停时间共同制定并实施一套先进的、共享的AI设计和开发的安全协议，这些协议应由独立的外部专家严格审计和监督。这些协议应确保遵守它们的系统在排除合理怀疑之后是安全的。这并不意味着暂停AI发展，而只是从危险的竞赛中退一步，避免发展出具有突现能力的更大、更不可预测的黑箱模型。

AI研究和发展应该重新关注如何使当今强大的、处于技术前沿的系统更加精确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

与此同时，AI开发者必须与政策制定者合作，大力加快AI治理系统的发展。这些至少应包括：致力于AI的新的、有能力的监管机构；对高能力AI系统和大量计算能力的监督和追踪；源头和水印系统，以帮助区分真实与合成以及追踪模型泄漏；强大的审计和认证生态系统；对AI造成的损害承担责任；技术AI安全研究的充足公共资金支持；以及应对AI带来的严重经济和颠覆的有充足资源的机构。

人类可以与AI共享繁荣的未来。在成功创造出强大的AI系统后，我们现在可以享受一个“AI夏天”，在这个时期，我们可以收获硕果，为所有人带来明确的利益，让社会有机会适应。社会已经在其他可能对社会产生灾难性影响的技术上按下了暂停键。我们在这里也可以做到。让我们享受一个漫长的AI夏天，而不是毫无准备地跳入秋天。

标签：人工智能OINCOINCOI人工智能chatGPTcointiger官网手机版Work Force CoinSand Coin

ICP热门资讯