木星链 木星链
Ctrl+D收藏木星链
首页 > 火星币 > 正文

人工智能:暂停巨型人工智能实验 马斯克、ChatGPT之父、图灵奖得主等全球大佬都签了

作者:

时间:1900/1/1 0:00:00

3月22日,生命未来研究所(FutureofLife)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。

目前该公开信已获得超过1100个人士支持,其中包括埃隆马斯克、山姆·奥特曼、约书亚·本吉奥等知名人士。

公开信正文

大量研究表明,具有人类竞争智能的AI系统可能对社会和人类构成深远的风险,这一观点也得到了顶级AI实验室的认可。

印度NPCI发布澄清公告后Coinbase宣布暂停使用UPI支付方式:4月11日消息,加密货币交易所Coinbase周日在印度停止了对统一支付接口(UPI)的支持。Coinbase的移动应用上写道:这种支付方式暂时无法使用。请尝试其他支付方式。对此带来的不便,我们深表歉意。

此外,Coinbase 在一份声明中表示:我们已得知NPCI最近发布的关于加密货币交易所使用UPI的声明。我们致力于与NPCI和其他相关机构合作,以确保我们符合当地的期望和行业规范。

此前消息,Coinbase与印度国家支付公司(NPCI)开发的单窗口移动支付系统UPI合作,之后Coinbase在印度推出其加密货币交易服务后数小时后暂停,印度国家支付公司随后澄清了与Coinbase的合作,称未有加密货币交易使用其UPI。(印度经济时报)[2022/4/11 14:16:49]

正如广泛认可的阿西洛马人工智能原则中所述,高级AI可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。

OKEx已暂停ETC存取款:8月6日午间,针对ETC再次遭遇51%攻击一事,OKEx首席执行官Jay Hao发推称,为保障用户资金安全,OKEx已暂停ETC存取款,直到ETC主网升级完成。[2020/8/6]

不幸的是,这种级别的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至他们的创造者——都无法理解,预测或可靠地控制。

当代人工智能系统现在在一般任务上变得与人类具有竞争力,我们必须扪心自问:

我们是否应该让机器用宣传和谎言充斥我们的信息渠道?

我们应该自动化所有的工作,包括令人满意的工作吗?

我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维?

公告 | 火币全球站暂停IOST新币充提:火币全球站宣布,由于钱包升级,现已暂停IOST新币的充提业务,待升级完成后将第一时间恢复,具体时间将以公告另行通知。[2019/3/17]

我们应该冒险失去对我们文明的控制吗?

此类决定显然不能委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的大小而增加。

OpenAI最近关于通用人工智能的声明指出,“在某些时候,在开始训练未来系统之前进行独立审查可能很重要,并且对于最先进的努力来说,同意限制用于创建新系统的计算增长率楷模。”我们同意这一观点,并且认为现在就要行动起来。

因此,我们呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。

公告 | OKEx暂停ETH及ERC-20代币提币:OKEx发布公告称,由于ETH钱包升级,为了保证平台用户资产安全,OKEx现暂停ETH及其他ERC-20代币的提币,并将于后续升级完成且运行稳定后,重新开放提币功能,具体时间请关注后续通知。[2018/6/30]

人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,无可置疑。

这并不意味着总体上暂停AI开发,只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。

人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。

与此同时,AI开发人员必须与政策制定者合作,以显着加快开发强大的AI治理系统。这些至少应包括:

韩国加密货币虚拟交易账户注册从1月1日起暂停:据韩联社援引消息人士,目前韩国有关监管机构禁止新客户注册虚拟交易账户,韩国银行业将在此期间启用新的实名制系统。该系统上线后,只有通过实名认证的账户才能进行存取款。消息人士预计该系统在1月20日正式上线,而目前已有的加密货币投资者仍然能使用虚拟账户进行加密货币交易。[2018/1/1]

专门负责AI的新的和有能力的监管机构;

监督和跟踪高性能人工智能系统和大量计算能力;

出处和水印系统,以帮助区分真实与合成并跟踪模型泄漏;

强大的审计和认证生态系统;

人工智能造成的伤害的责任;

为技术人工智能安全研究提供强大的公共资金;

以及资源充足的机构来应对人工智能将造成的巨大的经济和破坏。

人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后,我们现在可以享受“AI之夏”,收获回报,设计这些系统以造福所有人,并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。

我们可以在这里这样做。让我们享受一个漫长的AI夏天,而不是毫无准备地陷入秋天。

云集行业大佬

目前已有超过1000人在该公开信上上签字,包括马斯克、山姆·奥特曼、约书亚·本吉奥、巴勃罗·贾里洛·埃雷罗等行业大佬。

以下是部分名单:

ElonMusk,SpaceX、Tesla和Twitter的首席执行官

SamAltman,OpenAI首席执行官

SteveWozniak,苹果联合创始人

EmadMostaque,StabilityAI首席执行官

YoshuaBengio,因开发深度学习而获得图灵奖,蒙特利尔学习算法研究所所长

StuartRussell,伯克利计算机科学教授,智能系统中心主任,标准教科书“人工智能:现代方法”的合著者

PabloJarillo-Herrero,麻省理工学院物理学教授,美国国家科学院沃尔夫物理学奖

JohnJHopfield,普林斯顿大学名誉教授,联想神经网络的发明者

ConnorLeahy,Conjecture首席执行官

……

顶级精英的忧虑

业内人士对于AI的担心有增无减。

OpenAl公司的首席执行官山姆·阿尔特曼(SamAltman)近日表示,他对人工智能(AI)技术的潜力感到兴奋,但也对一些潜在的滥用行为“有点害怕”。还表示“它有巨大的前景也有巨大的能力,但随之而来的危险也是巨大的。”

「人工智能教父」GeoffreyHinton近日在CBSNEWS的采访表示,人工智能正处于一个「关键时刻」,通用人工智能(AGI)的出现比我们想象的更加迫近。

马斯克在2023年世界政府峰会上谈及ChatGPT,认为短期内人们需要警惕人工智能的安全问题,并呼吁对人工智能进行监管。

“我担心的是,对于人工智能来说,如果它出了问题,从监管的角度来看,反应可能太慢了。我想说,未来文明面临的最大风险之一是人工智能。”

但人工智能既有消极的一面,也有积极的一面。

”它前途无量,力量强大,但也伴随着巨大的危险。看看核物理学的发现,我们可以得到核能发电,但是它也带来了核弹。”

”总之,我认为我们应该深切关注这个问题,我们应该对从根本上对公众构成风险的事情进行某种监管。”马斯克表示。

写在最后

从ChatGPT3、ChatGPT4,再到文心一言,AI几乎正在呈指数级速度发展发展,处于人工智能时代的飓风中,未来人类又应该何去何从......

标签:人工智能INBOINCOIN人工智能软件coinbase下载苹果版kucoin哪里开户DaftCoin

火星币热门资讯
LAT:一文详解Flatcoins:下一个DeFi热门叙事?

原文作者:0x?ShinChan|加密?KOL原文编译:FelixPANews像Base最近发布的文章中提到的那样.

1900/1/1 0:00:00
元宇宙:一键生成元宇宙 AI又杀疯了

人类十几年的进步水平,AI用几个月就能轻易实现。在展示了超强的文本对话能力和一键生图功能后,AI大模型不打算停下,开始挑战搭建3D空间这一更高难度的动作.

1900/1/1 0:00:00
ACE:Facebook宣布将于4月11日起结束对数字收藏品的支持

金色财经报道,Facebook在其帮助中心发布公告称,将逐步结束对数字收藏品的支持。这些变更将于2023年4月11日起开始生效。用户第三方电子钱包内容不会受到影响.

1900/1/1 0:00:00
IBC:模块化世界中的模块化IBC

深入研究模块化区块链如何影响IBC状态层的设计。 模块化区块链和Rollup的设计灵活性也促使IBC具有更高的灵活性.

1900/1/1 0:00:00
LAYER:Layer2交互很热 但这些Layer1同样值得关注

原文:《别再只盯着Layer2空投,Layer1或将风云再起》作者:比推BitpushNewsAsherZhang哪些Layer1项目值得关注?加密大V都看好哪些项目?这些项目大热背后的深层逻辑.

1900/1/1 0:00:00
比特币:比特币的流动性问题远比想象复杂

作者丨Dali@Web3CN.Pro2020年3月15日,美联储将基准利率下调100个基点至0%-0.25%,并承诺增持至少7000亿美元债券.

1900/1/1 0:00:00