cLA:开卷！Anthropic Claude 模型升级到 10 万 token，可将《了不起的盖茨比》整本吞下

撰文：KyleWiggers

来源：TechCrunch

图片来源：由无界AI工具生成

从历史上看，甚至在今天，记忆力差一直是阻碍文本生成式人工智能发挥作用的一个因素。正如《大西洋》杂志最近发表的一篇文章?所说，即使是像ChatGPT这样复杂的生成式文本人工智能，其记忆力也像金鱼一样。每次模型生成响应时，它只考虑到非常有限的文本量，因此它也无法总结一本书或审查一个主要的编码项目。

以太坊Layer 2网络5月支付总费用创历史新高，超过1600万美元:金色财经报道，以太坊的Layer 2网络在 5 月经历了主网支付费用的激增，达到近 9000 个以太坊，价值 1620 万美元。这比 1 月份 Layer 2 支付的总费用增加了五倍，这主要归因于以太坊主网络上飙升的 gas 成本。其中，Arbitrum 成为主网支付费用的主要贡献者，产生了 4260 ETH 的成本，约合 760 万美元。zkSync 的 Era 主网以 2250 ETH，约合 400 万美元位居第二。[2023/5/27 9:45:18]

但Anthropic正试图改变这种状况。

Zcash开发团队ECC在重组中裁员近50%，解雇13名员工:5月25日消息，据官方推特，Zcash开发团队Electric Coin Co.（ECC）今天宣布对公司进行重组，这将缩小团队的重点并将一些Zcash支持功能转移到更广泛的社区，以提高Zcash发展的弹性和可持续性。

ECC表示，该公司在这次重组中解雇13名员工，约是其团队的一半。在接下来的几周内，ECC将发布修订后的路线图，重点是赋予ZEC持有者权力并赋予他们发言权。[2023/5/25 10:38:52]

今天，这家人工智能研究初创公司宣布，它已将Claude的上下文窗口从9000个token扩展到了10万个token。上下文窗口指的是模型在生成额外文本之前考虑的文本，而token代表原始文本。

美股三大指数收盘涨跌不一，标普500指数涨0.05%:金色财经报道，美股三大指数收盘涨跌不一，道指跌0.17%，纳指涨0.18%，标普500指数涨0.05%，热门科技股多数上涨。[2023/5/9 14:50:56]

那么，这意味着什么呢？正如前面所提到的，具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容--导致它们偏离主题。在几千字左右之后，小模型也会忘记最初的指示，只根据上下文窗口中的最后的信息来进行响应。

鉴于大上下文窗口的好处，找出扩展的方法已成为OpenAI等AI实验室的主要关注点，要知道，OpenAI将整个团队都投入到了这个问题上了。OpenAI的GPT-4在上下文窗口的大小方面保持着之前的领先地位，其规模最高可达32,000个token，而改进后的ClaudeAPI已然超越了这一数字。

第五届数字中国建设峰会公益数字藏品发布:金色财经报道，由国家互联网信息办公室、国家发展和改革委员会、科技部、工业和信息化部、国务院国有资产监督管理委员会、福建省人民政府共同主办的“第五届数字中国建设峰会”于2022年7月23日在福建省福州市开幕。本届峰会主办方将首次利用区块链技术推出“数字中国建设峰会公益数字藏品纪念函”（以下简称“数字中国数字藏品纪念函”）。

本次峰会专属的数字纪念函，限量2022份，在官方指定平台全部免费发行。[2022/7/24 2:33:50]

有了更强的“记忆力”，Claude应该能够相对连贯地交谈几个小时——甚至几天——而不是几分钟。也许更重要的是，它应该也不太可能偏离轨道。

在博文中，Anthropic对Claude增加上下文窗口的其他好处进行了介绍，包括该模型消化和分析数百页材料的能力。Anthropic称，除了阅读长文本，升级后的Claude可以帮助从多个文件甚至一整本书中检索信息，回答哪些需要跨文本的“综合知识”问题。

Anthropic列出了一些可能的用例：

对财务报表或研究报告等文件进行消化、总结和解释

根据公司的年度报告，分析其风险和机会

评估一项立法的优点和缺点

识别风险、主题和跨法律文件的不同论证形式。

阅读数百页的开发者文档，呈现技术问题的答案

通过将整个代码库放入上下文中并智能地构建或修改它来快速制作原型

“普通人可以在5个小时左右阅读10万个token的文本，然后可能需要大量的时间来消化、记忆和分析这些信息，”Anthropic继续说道。“Claude现在可以在不到一分钟的时间内做到这一点。例如，我们把《了不起的盖茨比》的全部内容输入进了Claude......并修改了其中一行，说Mr.Carraway是‘一个在Anthropic从事机器学习工具的软件工程师’。当我们要求Claude发现有什么不同时，它在22秒内就给出了正确答案。”

此外，Anthropic的合作伙伴AssemblyAI也进行了相关测试。在视频演示中，该团队用Claude-100k将一个长播客转录成58K单词，然后使用Claude进行总结和问答。该团队给出的评价是：insane！太疯狂了！

目前，更长的上下文窗口并不能解决围绕大型语言模型的其他与记忆有关的挑战。Claude，像其同类的大多数模型一样，无法将信息从一个会话保留到下一个会话。而且与人脑不同的是，它把每一条信息都视为同等重要，这使得它并不能成为一个特别可靠的叙述者。一些专家认为，解决这些问题将需要全新的模型架构。

不过，就目前而言，Anthropic似乎走在了前列。

标签：cLAAUDANTPICTerraClassicKRWAUDT价格Aston Martin Cognizant Fan Tokenpickle币前景

瑞波币热门资讯