木星链 木星链
Ctrl+D收藏木星链
首页 > Bitcoin > 正文

区块链:分片技术——提升区块链TPS的利刃-ODAILY

作者:

时间:1900/1/1 0:00:00

编者按:本文来自哈希未来,作者:陈致佳蒙绎泽江泽武,星球日报经授权转发。

报告摘要:

分片是源自数据库的扩容技术,可用于提高区块链系统的可扩展性,基本思想是将网络中的节点分成不同的碎片,各分片可以并行处理不同交易,这样可以并行处理相互之间未建立连接的交易,以提高网络并发量。它的特点是随着节点数目的增加,网络吞吐量也随之增加。核心难点在于数据分片的关键特征值确定,以及元数据在片区之间通信的延迟造成的不一致性问题,频繁的跨碎片之间的通信会使得区块链网络性能大大降低。由于每个片区里的数据是分开更新的,在设计应用逻辑时必须确保信息的成功更新,同时也需要预留出一定的鲁棒性来应对一个达成最终一致性过程中可能出现的不一致性。

在区块链中的分片根据对象分为交易分片、网络分片和状态分片,其中值得注意的是,在区块链中采用网络分片技术,也就是将矿工分成几个子网络分别负责验证该碎片上的交易,需要保证恶意节点的数目足够小,也因此在分配矿工的规则上需要注意保证随机性。在区块链中应用分片技术,还需要考虑的问题是对各种攻击如女巫攻击,DDOS攻击、双花攻击的防御,需要在权衡效率的同时,保证每个分片内的总节点数目足够多,并且诚实的节点占大多数,分片技术对安全性要求极高,同时,区块链系统中的节点数目比传统数据库中的可能要多,并且面临带宽的限制,需要充分考虑到延迟带来的不一致性导致的性能和安全性问题,因此鲜少有落地的相关项目。需要在大规模的网络中进行长时间的测试验证,并结合严谨的理论方案证明,才能令人信服。

Hubble Chain 分片技术进入测试阶段:据官方消息,Hubble Chain 技术团队自主研发的分片技术(Sharding)现已进入第一轮的测试,该技术将大大提高网络数据吞吐量。有了 Sharding 分片技术的助力,哈勃公链在安全性、扩展性、性能效率、资源消耗四方面的性能,都将取得突破性的技术进展。[2020/5/3]

传统概念里的分片技术,是将数据库分割成多个碎片并放置在不同的服务器上。在现代的云服务中,数据常常被托管在不同站点并进行分区。这一做法的原因包括使多台计算机之间的负载平衡,进而提高可扩展性;通过多站点存储数据,来提高可用性等。而区块链分片技术则是基于数据库分片概念的一种扩容技术。

无论在区块链领域或数据库领域,分片时要进行的第一步工作都是提取数据的关键特征值,并将关键特征值按照一定的规则来划分给不同的碎片来处理。关键特征值的选择非常重要,它关系着数据的表示唯一性保障以及分片的效果。关于特征值的选取方法,一个言简意赅的标准:basedonwhatyouthinktheprimaryaccesspatternwillbe。因此我们在区块链项目中经常可以看到分片的依据是用户的私钥/账户地址等等,因为这些值是唯一性且不随时间改变的,分片时逻辑比较清晰。

V神:分片技术的缺点是需在最开始设置参数或依赖治理:以太坊创始人V神刚刚发推称,分片技术(sharding)的一个缺点是,由于没有好的协议和方法告诉你有多少节点,你必须在最开始设置确定容量和最小安全节点数之间的参数,或依赖治理。[2020/3/16]

在传统的数据库技术中,数据的分片主要有三种方式:

1.哈希方式,直接取模:例如有3个碎片,就将数据经过哈希运算后用3求模,根据结果分配至特定的碎片,此种策略的目的是减少碎片负载不均衡的发生,因为哈希函数计算出来的结果毫无规律,也就打破了因为一些关键特征值和负载的量相关的情况,因此数据更有可能均匀分散于各个碎片之间。一个反例则是,如果数据的关键特征值是注册时间顺序的话,刚注册的数据更为活跃,则有可能会把它们都分到某一个碎片里。但是这一方法的缺点在于如果有新的碎片加入,重新平衡分片比较困难;其优点则在于不需要额外维护状态信息。

2.一致性哈希:无虚拟节点的一致性哈希方式是指数据按照特征值映射到首尾相连的哈希环上,同时也将节点按照一定规则映射上去,数据顺时针找到的第一个节点为其所存储的节点。有虚拟节点的一致性哈希和此类似,不过是将虚拟节点映射到哈希环上,也因此一个实际的物理节点可以占据哈希环上的多个范围。此种方法需要维护状态信息,也就是数据具体被分到哪个节点了,但是优点在于如果碎片的数目需要增加,则重新平衡分片更为容易。但是分片状态信息的维护需要考虑一致性问题,较为复杂。

动态 | MultiVAC:已在分片技术获得了“突破”:据cointelegraph报道,根据11月5日的新闻稿,区块链平台MultiVAC声称已经在区块链扩容技术分片(sharding)中获得了“突破”。MultiVAC报告称使用64个分片实现了每秒30784次交易(TPS)。虽然所使用的所有分片的交易总量在其峰值时超过30K,但单个分片达到533 TPS。MultiVAC还在新闻稿中声称,他们的“全维分片扩展解决方案”或可用于大规模商业应用,以及低性能计算机上的加密挖掘。[2018/11/10]

3.Rangebased:按照关键特征值划分成不同区间,每个节点对应一个或多个区间,类似一致性哈希的方式,也需要维护状态信息。

在区块链系统中,需要有机制来知道哪个节点实现了哪个分片,在传统数据库系统中分片信息一般需要专门的服务器存储,有时为了减轻元数据服务器的压力,分布式系统中,会在其他节点缓存元数据。在区块链中的思路也大体一致,需要保证在节点之间缓存的元数据的一致性,或者引入一个类似的主服务器来保证性能,但都带来了一致性的挑战。

现场 | 以太坊核心技术开发者王筱维: 以太坊分片技术直线提升解决传统交易拥堵:金色财经9月8日现场报道,以太坊行业峰会上,王筱维作了2018年第三季度Sharding开发进度的报告和以太坊主链架构的解析。

她表示,Sharding是提供安全、去中心化和可拓展性难题的一种方案。其构想是,一笔交易不必发动全网都去处理,只需让网络中的一部分节点(矿工)处理。于是,以太坊网络被划分成很多片,同一时间每一分片都可以处理不同的交易,这样性能将直线提升,解决传统的交易拥堵问题。[2018/9/8]

多个副本的一致性、可用性是CAP理论讨论的范畴,主要有两种可用的方案。

第一种是主从同步,首先选出主服务器,只有主服务器提供对外服务,主服务器将元数据的更新信息以日志的方式存至某个共享的存储空间,然后从服务器从共享存储空间读取日志并应用,达到与主服务器一致的状态,如果主服务器被检测到故障,那么会重新选出新的主服务器。在网络分割的情况下,有可能出现大家认为原来的主服务器已经宕机了,就选举出新的主服务器,但是实时上原来的主服务器还在继续提供服务,这就导致出现了“双主”现象,为了解决这种问题,需要想办法把旧的主服务器隔离,使其不能正常对外提供服务。为了保证元数据的强一致性,在进行准备切换的时候,新的主服务器必须要在确认元数据完全同步之后才能继续对外提供服务。为了达到这个目的,一种方式是当元数据变化时立即通知所有的缓存服务器,并锁定数据,例如如果系统要完成的任务需要多个碎片里同时对状态进行更新,那么在更新完成之前,访问将被拒绝。另一种在高度可扩展的NoSQL数据库中经常实现的复制数据之间保持高度一致性的方法是使用读写仲裁和版本控制。这种方法避免了锁定数据,代价是读取和写入数据的过程中会带来额外的复杂度。

Penta发布全新PSG分片技术:Penta(梵塔网络/PNT)发布了全新的PSG(Penta Sharding Graph)分片技术,它可以通过对不同地址或DAPP的交易采用动态分组的方式实现区块链的并行处理,并自动协调交易的并行和串行处理,同时采用自动压力平衡技术,有效提升交易的并行处理能力。另外,PSG分片采用的DSC共识算法机制,确保了包括智能合约等交易的一致性,以及共识生成区块时与主链一致的公平性。在整体系统的安全性、跨分片交易事务的一致性方面也有显著提高。分片技术被认为是可扩展性问题最可能的解决方案,近日Vitalik Buterin多次谈到以太坊分片技术,包括QuarkChain等项目也都有用到该技术,PSG分片技术的出世或许将对交易环节的可扩展性带来重要意义。[2018/5/16]

第二种方式,通过分布式一致性协议来达到多个副本件的一致,比如Paxos和Raft协议,协议可以实现所有备份均可以提供对外服务,并且保证强一致性。

区块链的状态分片是指每个节点只存储了一部分的区块链状态信息,亦需要类似的机制来维护状态信息,以知道哪个片存储了需要的状态。需要解决的一致性问题和以上所述类似,而交易分片的实现更为简单。在基于账户的区块链系统中,每一笔交易将会有一个发送者的地址,然后系统可以根据发送者的地址分配一个碎片。这确保了两笔双花交易将在相同的碎片中得到验证,因此系统可以很容易地检测到双花交易,而不需要进行任何跨碎片的通信。如果节点是确定的,那么几乎不存在上述讨论的元数据的更新带来的问题。但是如果交易验证时涉及到跨碎片之间的通信,通常开销成本很高,将影响网络的吞吐量和经济效益。

区块链的网络分片指将矿工划分成几个组,同时验证交易,提高系统并行处理交易的能力,进而可提高TPS。通常可以通过定期以随机数生成来决定选取达成共识的节点,只要将其映射到已经编好号的碎片中问题也就变的好处理多了。但是如果有节点宕机,重新分配节点时,就需要在碎片之间形成一致性共识。值得注意的是,在区块链中采用网络分片技术,也就是将矿工分成几个子网络分别负责验证该碎片上的交易,需要保证恶意节点的数目足够小,也因此在分配矿工的规则上需要注意保证随机性。

分片技术的关键在于由于每个片区里的数据是分开更新的,在设计应用逻辑时必须确保在平衡效率的前提下,对信息进行成功更新,同时也需要预留出一定的鲁棒性来应对一个达成最终一致性过程中可能出现的不一致性。在区块链中应用分片技术,还需要考虑的问题是对各种攻击如女巫攻击,DDOS攻击、双花攻击的防御,需要在权衡效率的同时,保证每个分片内的总节点数目足够多,并且诚实的节点占大多数,分片技术对安全性要求极高,同时,区块链系统中的节点数目比传统数据库中的可能要多,并且面临带宽的限制,需要充分考虑到延迟带来的不一致性导致的性能和安全性问题,因此鲜少有落地的相关项目。需要在大规模的网络中进行长时间的测试验证,并结合严谨的理论方案证明,才能令人信服。

参考文献:

1.《带着问题学习分布式系统之数据分片》,https://www.cnblogs.com/xybaby/p/7076731.html

2.《分片技术——区块链扩容问题的良方》,http://www.8btc.com/sharding-blockchain-scalability

3.《sharding》,https://docs.mongodb.com/manual/sharding/

4.《Shardingpattern》,https://docs.microsoft.com/en-us/azure/architecture/patterns/sharding

5.《DatabaseshardingexplainedinplainEnglish》,https://www.citusdata.com/blog/2018/01/10/sharding-in-plain-english/

6.卢晓明,《被看做公链未来的分片技术,究竟离我们还有多远?》,https://www.odaily.com/post/5132394

7.币学院,《分片概述、Zilliqa和QuarkChain》,http://8btc.com/article-4660-1.html

标签:区块链DINSHAING区块链专业学什么dingo币挖矿radioshack币暴VIKING价格

Bitcoin热门资讯
ORG:疫情过后想见你-ODAILY

2020年的2月14日,对所人来说都是一个特殊的情人节,COVID-19疫情当前,如你我这般的普通人,能做得实在太有限.

1900/1/1 0:00:00
比特币:比特币行情分析:短期内放弃长线吃波段-ODAILY

BTC今年被讨论最多的就是它是不是避险资产,此次历史性的暴跌,让BTC避险资产光环不再。为什么大部分认为避险资产的BTC,这次没能避险?究其原因,在全球流动性危机爆发下,主力投资人也极度恐慌.

1900/1/1 0:00:00
比特币:比特币进入盘整阶段,做好风控管理-ODAILY

人生若只如初见,岂不互敬且拥戴。本是青灯不归客,却因浊酒恋红尘,星空不问赶路人,岁月不负有心人.

1900/1/1 0:00:00
比特币:比特币反弹遇阻,缩量震荡中能否守住支撑-ODAILY

忍耐与等待是智者的选择,急躁慌张是莽夫的本性。没有波动时候冒进不过是等待行情审判,无意中选了一条路,无奈中带着挣扎,退一步太憋屈,进一步太迷茫,市场往往是这样看不懂的时候老想动,看懂的时候总犹豫.

1900/1/1 0:00:00
BTC:抄底情绪浓重,反弹多次上攻无力,持续看空破新低-ODAILY

整体行情:讨论盘面之前先说一下值得关注的消息面:1、冠状病冠状病在全球的大肆蔓延谁都不愿意看到,据中国新闻网的报道来看,趋势没有停滞迹象,爆发期还在酝酿,我们在保护自己的同时.

1900/1/1 0:00:00
BTC:3.21比特币行情分析:为何你一直在亏损?-ODAILY

都知道今年是减半行情,想着在减半行情的时候大赚一笔,但是从历史减半行情来看,大家都忘记减半行情之前都会有一波大跌行情吗?苏哲之前就和朋友说过.

1900/1/1 0:00:00