木星链 木星链
Ctrl+D收藏木星链
首页 > MATIC > 正文

区块链:区块链数据如何归档?冷热分离方案了解一下

作者:

时间:1900/1/1 0:00:00

——Part1?现状——

区块链可以视作一个在分布式环境下众多可信节点共同维护的且不可篡改的账本。在区块链系统中,数据以区块作为基本单位,区块链系统利用levelDB基于Key-Value结构的数据库存取数据,通过多节点冗余存储实现账本可信,然而随着区块链运行时间的增长,区块链的存储容量将呈线性增长,且这种数据的增长速度甚至会超过存储介质容量增长的速度,因此,区块链数据存储将成为限制区块链技术发展的重要因素。

面对这一棘手的问题,数据归档技术应运而生,什么是数据归档呢?

——Part2?什么是数据归档——

数据备份的概念大家应该是比较了解的,随着数字化的推进,企业对数据的敏感度逐渐增强,数据备份系统已经成为各大中型企业的必备系统。然而正如我们对数据归档认知的不足,企业对于数据归档的使用也不如数据备份广泛。

备份的目的是为了恢复,保证在系统出现意外情况时业务的连续进展。对于企业来说,每天产生的大量数据,其实绝大部分的使用率很低,但是,出于一些特殊原因,这些数据却必须保留以备查询。简言之,归档的目的是为了服务品质和保证数据的可管理,使得运行、维护、投入整体的成本降低,如何最大化使用存储,保证数据的访问。数据归档,即数据的使用。然而如何规范的归档数据呢?我们就得具备相应的归档原则。

亚洲区块链金融商学院院长:DeFi项目大热,投资者应以谨慎态度面对市场:9月11日晚间,亚洲区块链金融商学院院长辉少在金色财经直播间以“去中心化交易所和DeFi去中心化之终极赢家辉少”为主题进行线上演讲。辉少认为,未来中心化交易所与去中心化交易所将会以并存形式同时运行,但在现阶段,DeFi项目火热异常,一度引发中心化交易所与去中心化交易所的大战,传统的中心化交易所皆感受到DeFi项目带来的压力,因此接连上线DeFi项目板块,致使大量DeFi项目应声暴涨。在此期间投资用户更应结合市场环境谨慎投资。[2020/9/12]

数据存储:无论是备份还是归档,数据的完整性必须得到保证,且需在规定时间内保证数据的安全存储。保证数据的完整性、时效性及存储的安全性。

数据易读取:虽然大部分数据重复读取可能性低,但归档系统依旧不是一个备份系统,必须保证在需要的时候能方便地读取数据。保证系统数据的可读性。

数据可扩展:由于存在不同种类的数据,且数据也是实时变化且增长迅猛,因此为满足企业需求,还应具备可扩展的要求。

齐鲁银行借力跨境金融区块链平台,支持中小企业出口贸易融资:齐鲁银行积极响应国家外汇管理局山东省分局开展的跨境金融区块链服务平台试点工作,主动申请成为试点机构,聚焦中小企业发货后的应收账款融资。在短短两个月内,借助区块链技术,实现了融资申请、关单核验、融资审核、发放的无纸化、零接触,累计核验报关单一百余份,为多家中小企业在线办理融资业务近20笔,放款金额累计已逾两千万元。(闪电新闻)[2020/5/22]

数据合法:任何的企业系统运作都应该遵守各项规章制度,要遵守政府和行业指定的各项法律、法规及各种规章。

——Part3实现难点——

正如大家所知,区块链存在数据单向增长的特性,这样数据量的增多会导致系统磁盘空间占用率高,所以需要研发区块链专用数据归档技术,将数据进行“冷热分离”,保障系统的高效可靠运转;

另外,因为区块链是一个在分布式环境下众多可信节点共同维护的且不可篡改的账本,所以传统的数据归档技术无法解决多个节点数据归档某一范围数据而账本状态保持一致性的问题,在实际情况中还存在区块链上单一节点数据归档导致的多节点数据同步时账本状态一致性的问题。

声音 | 杨佳:广州区块链政策国内覆盖面最广、支持力度最大、投入资金最足:金色财经现场报道,由中国高科技产业化研究区块链产业联盟主办的第二届中国高科技产业化高峰会议区块链+追溯与品牌应用论坛暨质库追溯与品牌数据存证中心成立仪式于11月26日在广州黄埔举行,广州黄埔区块链培训学员市场经理杨佳对黄埔区块链政策进行宣讲。他表示,2017年12月,广州市黄埔区人民政府办公室颁布了区块链10条1.0政策,2019年4月颁布区块链10条2.0政策。

广州黄埔区块链培训学院通过设立区块链产业基金、突出区块链原始创新、深化区块链融合应用、共创大湾区价值网络、共建大湾区交流中心、建设区块链行业领军产业园、内外兼修博览人才、支持举办区块链博览会、打造区块链活力之区等优惠政策,吸引区块链人才,学院成立于2018年3月,是广州黄埔区、广州开发区倾力打造的区块链人才培训平台,也是国内官方正式授权的区块链主力培训单位,致力于打造区块链的“黄埔军校”。[2019/11/26]

总结:

1.区块链存在数据单向增长,需要进行冷热分离存储;

声音 | 百度度小满区块链实验室李丰:区块链可以与ABS等非核心金融业务结合:近日,百度度小满区块链实验室负责人李丰接受采访时表示,区块链业务的推进没有以前顺畅了,尤其是“区块链+金融”。现阶段区块链很难与金融的核心业务结合,但是像供应链金融、ABS等非核心金融业务是可以的,另外就是创新金融业务。[2019/4/21]

2.分布式环境下,难以保证所有节点实时进行数据归档且保证数据状态的一致性;

3.单一节点数据归档导致多节点数据同步时状态一致性难以保证。

——Part4?数据归档的架构解读——

了解了数据归档的基本概念,那么,在区块链中它是如何运作的呢?数据归档功能的主要职责是将一部分旧的线上数据移到线下转存。对此,趣链科技提出了区块链数据归档的方法,使得整个区块链系统能在不停机情况下,将区块链数据划分为链上、链下两部分,热数据仍保留在链上,但冷数据可以存储在低成本的硬件设备上,进行动态的数据归档。而且,通过数据调度层,可以很好地实现热数据和冷数据的灵活访问,热数据直接通过平台访问,冷数据则通过归档数据浏览技术浏览。另外,每个节点可以自主、多次地对数据进行归档,从而使得系统的链上数据量维持在一个稳定水平,有效释放磁盘空间。

马云:我个人非常看好区块链:由国家发展和改革委员会、科学技术部、工业和信息化部、国家互联网信息办公室、中国科学院、中国工程院、中国科学技术协会和天津市人民政府共同主办的第二届世界智能大会于天津梅江会展中心举行。阿里巴巴董事局主席马云在谈及区块链技术的时候表示,“我个人非常看好区块链,阿里巴巴已经有几年在进行区块链的研究,在阿里巴巴刚开始投入区块链的时候,我那时候根本没明白什么是区块链,但听说这东西能够解决数据的安全和隐私,阿里巴巴就开始投入区块链。”[2018/5/17]

为更形象地讲解数据归档技术,我们以趣链数据归档为讲解内容进行:

区块链的数据归档方式是一种基于状态备份的归档方法。

简单来说,用户想要对某一个区块链节点做数据归档,必须在过去某一时刻对区块链制作一个状态快照;

进行数据归档时,可以将快照点之前所有的区块链数据进行归档转储,以实现区块链节点存储压力的减负。后续未归档第一个区块的节点成为新链的1号区块。

▲?数据归档流程

制作快照:

1.系统获取最近距离的快照,即比当前要做快照的区块号小的最大的高度,返回该快照的信息。若没有任何快照,则以0号区块数据为基础新建快照并作为start,其制作的高度为end。

2.快照拷贝以单纯的磁盘io拷贝一份第一步获得的账本到新文件夹,并作为后续账本操作的基础。

3.根据日志数据,遍历线上,制作到账本,且同时遍历区块的merkleRoot,保证账本的正确性。

检查快照:

遍历snashot数据库中的状态数据,重新计算出bucketTree的根哈希,与最新的区块哈希对比,以保证制作的快照与实际的账本是否一致。

数据归档:

如图,用户发起数据归档请求,要求将快照点前所有的区块链数据进行转储归档。该节点将所需转储的区块数据以及相应的交易回执等数据转储,且将本地的创世状态内容更新为之前备份得到的快照状态。

如果说区块链正常的状态变迁是状态终点不停向前更新的过程,那么数据归档就是一个区块链状态起点向终点更新的过程。下面是一个比较典型的相关数据平台应用案例:

数百家中心数据,存量数据4T,日均10GB,年均3.6T数据上链,由于链上存储通常采用SSD硬盘,导致存储成本高昂。针对此问题,我们采用定期归档的方式对链上数据进行归档,由图可见,我们采用了分段存储的方式,平台可对任意的某段数据进行归档操作并保证各节点数据状态的一致性。保证链上数据稳定在1T左右,有效地释放磁盘空间的同时,极大地降低了成本,增加了系统性能。

上述的数据归档主要是针对区块链数据,而部署在区块链上的智能合约,同样有较大的存储需求用来记录庞大的业务数据。针对于这部分数据,趣链提供了另外一种归档机制,用户仅需发起一笔带有特殊标记的交易,调用智能合约中自定义的归档函数,即可实现合约数据的转储。合约编码者可以在合约中实现任意逻辑的归档函数,以满足不同的业务需求。

——?Part5总结?——

在本片中较为详细地讲解了数据归档技术在区块链中的使用,不仅实现了数据的冷热分离存储,保证了单一节点的数据归档而保持整个区块链所有节点的账本状态的一致性,而且实现了分段存储的模式,使得数据在任意范围内被归档。

从设计角度来看,数据归档后不影响原先链上数据的正确性与连续性,而且支持不同节点、不同分区自定义归档序列的范围。

从功能角度来看,数据归档主要解决区块链链上数据的冗余问题。减少链上数据存储压力,将过期数据和历史数据进行线下的存储,突破链上存储的限制。并且,并发执行数据归档过程中的各种操作,提升了归档的效率。

从应用场景来看,数据归档适用于数据冗余存储、链式递增、时效有限等情况导致的存储资源被大量过期数据占用的痛点。对于数据归档或者区块链技术有兴趣的小伙伴,添加小助加入技术交流群,欢迎您和我们共享观点,共论区块链的无限未来~

作者简介

陈少蔚

趣链科技基础平台部文档工程师

标签:区块链DEFI中心化交易所DEF区块链是什么概念股DogDeFiCoin十大去中心化交易所DOGDEFI币

MATIC热门资讯
KUS:Kusama首个平行链插槽拍卖已启动

据Kusama官方表示,经投票通过,Kusama首个平行链插槽拍卖已启动。据悉,Kusama的平行链拍卖机制将分为5个部分:团队先上传他们的平行链代码和相关参数、拍卖期间可以开放竞价、拍卖结束的.

1900/1/1 0:00:00
NFT:NFT周刊丨540万的源代码诞生;众多欧美明星加入NFT行列

经典的销售口号是“ABC–AlwaysBeClosing”。本周,我们看到许多主要的NFT产生了不错的销售数字,让我们来看看过去一周的一些大手笔交易,以及更多来自NFT的最新消息.

1900/1/1 0:00:00
Taproot 101: 比特币的最新升级如何提高其隐私性及可扩展性?

即使你是加密货币的早期参与者,你可能也没有听说过比特币有这么多的重大升级。原因很简单。比特币是目前世界上时间最长、最顶级的加密货币,其特点是拥有当今最具弹性的计算机网络,正常运行时间接近99.9.

1900/1/1 0:00:00
数字人:ATM机数字人民币如何兑现金?看看这两家银行是怎么做的

来源:北京青年报本组文并摄/本报记者??程婕????统筹/余美英原标题:《ATM机数字人民币如何兑现金?》 本报记者体验数字人民币兑换现金功能????目前越来越多的市民开始参与数字人民币试点.

1900/1/1 0:00:00
ETH:数据:二季度约8%的ETH正在被积累, 3个月是ETH持币时长的分界线

提要:第二季度中,币龄为1周至1个月的ETH占总流通量的比例降超8%,币龄为3到6个月的ETH占比增加约14%。从总体来看,币龄超过3个月的ETH的占比正在扩大.

1900/1/1 0:00:00
COIN:在线支付处理商Stripe筹划上市,估值950亿美元

巴比特讯,7月9日,据海外媒体TheIrishTimes报道,在线支付处理商Stripe已经聘请律师事务所协助上市准备工作,即将在股市首次亮相。据消息人士透露,今年不太可能上市.

1900/1/1 0:00:00