过去半个世纪,集成电路产业在摩尔定律的指引下飞速发展,算法效率一直保持着大跨度提升。2018年世界上最快的计算机IBMSummit比1945年世界第一台电子计算机ENIAC计算速度提高了近30万亿倍。
然而,随着摩尔定律接近物理极限,芯片研发和生产成本大幅上升,未来依靠算力提升计算性能的空间有限。靠提升计算机硬件性能可能越发难以满足海量计算的需要,未来的解决之道在于提升算法的效率。
MIT的这篇新论文总结了过去80年来,算法效率的提升究竟有多快。
提起算法,它有点像计算机的父母,它会告诉计算机如何理解信息,而计算机反过来可以从算法中获得有用的东西。
算法的效率越高,计算机要做的工作就越少。对于计算机硬件的所有技术进步,以及备受争议的摩尔定律的寿命问题来说,计算机硬件的性能只是问题的一方面。
NEAR将于本月启动夜影协议第一阶段并引入Chunk-Only Producers:9月9日消息,NEAR宣布将于本月启动夜影协议第一阶段并引入Chunk-Only Producers,Chunk-Only Producers仅负责在一个分片中生成区块。NEAR计划引入250至400名Chunk-Only Producers,该阶段预计将于本月下旬启动。
据悉,之后的第二和第三阶段均将于2023年启动,第二阶段会将状态和处理都将完全分片,第三阶段则将实现动态分片,网络将被动态拆分为分片,然后根据资源利用率进行合并,进一步提高网络可扩展性。[2022/9/9 13:20:23]
而问题另一方面则在硬件之外:算法的效率问题。如果算法的效率提升了,对同一计算任务需要的算力就会降低。
虽然算法效率问题可能不太受关注,但你是否注意到,经常使用的搜索引擎是否突然变快了十分之一,而在大型数据集中活动,就感觉就像在泥泞中跋涉一样艰难缓慢。
Compound将于2日后启动多链借贷协议Compound III:8月24日消息,DeFi借贷协议Compound发推称,关于启动Compound III和首先在以太坊上部署USDC的提案现已获得通过,会在2天后启动Compound III。
6月底,Compound Labs向社区发布多链借贷协议Compound III代码库。Compound III的设计考虑到借款人,具有资本效率、Gas效率、安全且易于管理。主要更改包括:Compound III部署具有单一的可借(生息)基础资产、为每个抵押资产设置抵押大小限制、有单独的借款抵押因子和清算抵押因子、风险管理/清算引擎已完全重新设计、直接使用Chainlink进行喂价等。[2022/8/24 12:45:51]
这些都与算法效率有关。
今日Celsius地址已累计向Aave协议偿还6000万枚USDC:7月11日消息,据欧科云链链上天眼监测显示,北京时间19:36:12被OKLink ETH浏览器标记为 Celsius Network 的钱包地址(0x8ace开头)再向 Aave 协议偿还1,000万枚USDC,加上此前偿还的2笔交易,今日已累计偿还6,000万枚USDC。[2022/7/11 2:05:50]
近日,麻省理工学院计算机科学与人工智能实验室(CSAIL)的科学家提出疑问:算法效率的提升速度到底有多快?
关于这个问题,现有数据大部分是叙事性的,其中很大一部分是面向特定算法的案例研究,再把这些研究结果加以推广。
面对实证研究数据的不足,研究团队主要利用了来自57部教科书和1110多篇研究论文的数据,以追溯算法效率提升的历史。
Meta计划针对VR头显推出Meta账号,以取代Facebook账号:7月9日消息,当地时间周四,Meta CEO马克·扎克伯格宣布,下个月起,用户登录Quest时,不再需要Facebook账号。公司计划推出Meta账号,以供用户在VR设备中使用。(科创板日报)[2022/7/9 2:02:00]
其中有些论文的结论中直接给出了新的算法有多高效,有的论文则需要作者使用“伪代码”进行重构。
研究人员总共研究了113个“算法系”,即解决计算机科学教科书中最重要的同一问题的算法集。他们对每个算法族的历史进行了回顾,跟踪每次针对某一问题提出的新算法,并特别注意更高效的算法。
一名狗狗币投资者起诉马斯克并索赔2580亿美元指控后者“实施金字塔计划”:6月17日消息,一名狗狗币投资者当地时间周四将特斯拉CEO马斯克告上法庭,指控后者为支持狗狗币而实施金字塔计划,向其索赔2580亿美元。在一份提交给曼哈顿联邦法院的诉状中,原告Keith Johnson指控马斯克、特斯拉和SpaceX公司“敲诈勒索,吹捧狗狗币并推高其价格,但随后却让其价格暴跌。诉状称,被告人自2019年起就知道狗狗币没有价值,但却大肆宣传以从其交易中获利。马斯克利用他作为世界首富的地位,经营和操纵狗狗币金字塔计划,以获取利润和曝光,并以此为乐。(财联社)[2022/6/17 4:33:08]
图1算法发现和改进。(a)每十年发现的新算法系的数量。(b)已知算法系的比例每十年都有所提高。(c)首次发现时算法系的渐近时间复杂度分类。(d)同一时间复杂度的算法转换到另一个时间复杂度的每年平均概率。在和中“>n3”的时间复杂度表示超过多项式级,但不到指数级。
最早的算法系可追溯到上世纪40年代,每个算法系平均有8个算法,按时间顺序效率逐步提升。为了共享这一发现,团队还创建了“算法维基”页面。
研究人员绘制了图表,标识这些算法族效率提升的速度,重点关注算法分析最多的特征——这些特征往往决定了解决问题的速度有多快。
图2算法系的相对效率提升,使用渐近时间复杂度的变化计算。参考线是SPECInt基准性能。(a)与该系列中的第一个算法相比,四个算法系的历史改进。(b)算法改进对“最近邻搜索”算法系列的输入大小(n)的敏感度。为了便于比较算法改进效果随时间的变化,在图(b)中将算法系和硬件基准的起始时间段对齐。
结果显示,变数很大,但也发现了关于计算机科学变革性算法效率提升的重要信息。即:
1、对于大型计算问题,43%的算法系的效率提升带来的收益,不低于摩尔定律带来的收益。
2、在14%的问题中,算法效率提升的收益远超硬件性能提升的收益。
3、对于大数据问题,算法效率提升收益特别大,因此近年来,这一效果与摩尔定律相比越来越明显。
当算法系从指数复杂度过渡到多项式复杂度时,情况出现了最大的变化。
所谓指数复杂度算法,就像一个人猜密码锁的密码一样。如果密码盘上只有一位数,那么任务很简单。如果像自行车锁一样,表盘是4位数,估计你的自行车很难有人偷得走,但仍然可以一个个试。如果是表盘是50位的,就几乎不可能破解了,需要的步骤太多了。
图3基于渐近时间复杂度计算的110个算法系效率提升的年平均速度分布,其中问题规模为:(a)n=1000,(b)n=100万,(c)n=10亿。硬件性能提升线表示从1978年到2017年,SPECInt基准性能的平均年增长率
这类问题也是计算机面对的难题,随着问题的规模越来越大,很快就会超过计算机的处理能力,这个问题光靠摩尔定律是解决不了的。
解决之道在于找到多项式复杂度的算法。
研究人员表示,随着摩尔定律终结这个话题越来越多地被提及,我们需要将未来的解决方案的重点放在算法的效率提升上。
图4前导常数在算法性能提升中的重要性评价
研究结果表明,从历史上看,算法效率的提升带来的收益是巨大的。不过二者之间存在着频度的差异,摩尔定律带来的提升是平滑而缓慢的,而算法效率的提升是阶梯式的跃进,但出现没那么频繁。
本文通讯作者尼尔·汤普森说:
这是业界第一篇说明算法效率提升速度的论文。通过我们的分析,可以得出算法改进后,使用同样的算力可以完成多少任务。
随着问题的规模不断增大,比如达到数十亿或数万亿个数据点,算法效率的提升带来的收益,比硬件性能的提升更重要,而且重要得多。
在我们开始逐步为算力不足发愁的时代,在摩尔定律越来越显出疲态的今天,这一发现可能为未来解决超大型计算问题开辟一条新的思路。
参考链接:
https://news.mit.edu/2021/how-quickly-do-algorithms-improve-0920
https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9540991
编辑:星际视界Sue
标签:UNDCOMOMPCompoundUNDG币Cardano Comicsfomp币2023最新消息Compound Basic Attention Token
亲爱的Beam社区2021年10月21日,$BEAMX将启动第一个BEAM质押活动,在前3个月将发放1,000,000BEAMX.
1900/1/1 0:00:00——元宇宙的突然火爆引发了大众的参与和学习,于是我准备从宏观角度出发,逐步为大家分享关于这方面的内容。大家都在议论“元宇宙”,却少有人真正理解“元宇宙”.
1900/1/1 0:00:00ZONFFWeekly是ZonffPartners每周为大家带来的市场概况分析及未来行情展望上周美联储利空落地后,对抗通胀的现货买盘重新入场,需求强劲,投资者应坚定持有多头仓位.
1900/1/1 0:00:00当去中心化金融的成功提醒我们区块链治理的早期,其挑战也是如此。以太坊上的高额费用正在将DeFi用户推向L2提供的解决方案,这对去中心化治理产生了相应的影响,在去中心化治理中,进行链上投票的成本高.
1900/1/1 0:00:00Polkadot生态研究院出品,必属精品波卡一周观察,是我们针对波卡整个生态在上一周所发生的事情的一个梳理,同时也会以白话的形式分享一些我们对这些事件的观察.
1900/1/1 0:00:00Q1:首先请Yibo对Orca项目做一个简单的介绍A1:Orca是Solana上最人性化的DEX,是一个拥有纯AMM功能和能以最用户友好的方式进行交易、提供LP的交易所.
1900/1/1 0:00:00