I.引言
Crypto政策在制定时很少会用到真实且细化的数据,原因主要有以下三点:
1.新兴技术领域的相关政策大多还停留在理论及定性分析层面,早期阶段很少会使用到数据。
2.尽管链上数据全部开放透明,但要想访问这些数据人们需要在短期内完成大量工作,即便对于Crypto原生从业者来说也是如此。
3.区块链「取证」公司和数据供应商有少量的数据产品,但它们都不具备灵活性/可定制性,也不能满足经济/金融研究人员的需求。
许多现代经济学和金融学研究人员错过了将工具应用于Crypto数据分析的机会。从设计上讲,Crypto可以向任何人提供细化数据,但大部分政策在制定时仍依赖于CoinMarketCap等外部预聚合时间序列数据源,而不是直接从数据源获取数据,这又是什么原因导致的呢?
正如政策制定者可以查询美国每家主要银行的资产负债表,并逐秒观察消费者存款的变化一样,他们也可以毫不费力地查看整个Ethereum生态系统的Stablecoin发行情况,但大多数分析Stablecoin的政策文件却采取了一种探讨假设事件的分析方法。
我将在本篇中具体阐释以下几点内容,希望可以对想要使用链上数据的政策研究人员有所帮助:
数据:矿工费用收入的百分比已达到12.4%:金色财经报道,据Glassnode数据显示,在交易数量达到 ATH 之后,矿工费用收入的百分比已达到 12.4%,只有 254 / 5228 (4.9%) 个交易日提供了更大的费用贡献。与 2019 年的反弹相比,我们注意到费用占总收入的比例已经超过 2019 年的峰值,表明当前的费用压力非常大。[2023/5/6 14:45:44]
·链上数据的获取方法
·链上数据所采用的结构
·提取和使用链上数据的几个基本工具
在随后的文章中,我将探讨如何使用这里收集的数据来判断Crypto市场的走势。同时,我将在结尾发布可供免费使用的数据和代码。通过阐明如何在区块链中查询数据,我希望向大家展示Crypto的开放性可以为数据决策开辟的新方法。
如果您就职于一家监管机构或研究机构,并在获取Crypto数据时遇到了困难,欢迎与我们取得联系分享你的想法,了解Paradigm可以为您提供哪些帮助。
II.链上数据获取方法
一般来讲,数据收集工作应集中在一个区块链及特定项目的子集上,这些项目主要是以美元计价、法币支持的Stablecoin,具体包括USDC、Tether、BinanceUSD、PaxDollar和GeminiDollar。该方法广泛适用于链上数据,即便你想创建一个不同的数据集。
区块链安全平台Ironblocks推出面向DeFi协议的威胁检测平台:3月16日消息,区块链安全平台Ironblocks于周三推出一款安全产品,首席执行官Or Dadosh表示,这款产品可以帮助基于智能合约的金融程序在遭受损失之前获得帮助。这是一个威胁检测平台,可以插入到DeFi协议中,以监视和标记任何可疑的资产转移。
此前2月消息,Ironblocks完成700万美元融资。(CoinDesk)[2023/3/16 13:07:24]
Etherscan这类区块浏览器非常适用于查看交易快照以及收集特定智能合约的信息,但根据我的经验,它们却不太能用于生成大型数据集。在收集和处理原始数据时,你基本上有两个选择:在本地运行一个完整的节点,或查询已经从链上直接写入原始数据的数据库。第一种方法对于专业技能和计算资源的要求比较高,而第二种方法则只需要基本的SQL和Python技能就可以实现,所以这里我们将采用第二种方法。
Dune和谷歌云平台的BigQuery有最新的链上数据,这些数据都以表格的形式存储在数据库中,研究人员可使用SQL命令对其进行查询。Dune还提供免费的数据库,不过其速度较慢,而且还有些局限性,但它非常适合于A/B测试的数据查询,也有助于你熟悉数据库的运行模式,尤其是对于那些不善于使用SQL查询关联数据库的人。BigQuery虽然更加灵活快捷,但谷歌会对计算资源收费,所以其价格也相对昂贵。我在第一次处理数据时,为了节省费用,我会先在Dune中测试查询语句,然后再将其输入GCP中运行。在大多数情况下,这种方法都能起到很好的效果
数据:Binance钱包地址过去24小时流出约1.1万枚ETH:金色财经报道,过去24小时,交易所钱包地址中的ETH储备变化情况如下:Binance 流出1.1万枚 ETH,当前持有 ETH 约468.8万枚,跌幅0.24%;
OKX 流出9808.4枚 ETH,当前持有 ETH约124.8万枚,跌幅0.78%;
Bitfinex 流出8667.4枚 ETH,当前持有ETH 约42.9万枚,跌幅1.98%;
Huobi 流出1179.5枚 ETH,当前持有 ETH约10万枚,跌幅1.16%。[2023/2/5 11:48:18]
III.链上数据结构
要回答这个问题,你首先需要搞清楚自己处理数据的目的。对于这个测试案例,我决定为主要的法定支持Stablecoin建立一个大型的时间序列数据集,并观察一些特定的行为:铸币,烧毁(即停止流通Stablecoin)和转移。我之所以选择以这种方式进行研究,是因为政策制定者和学者目前最为关注法定支持的Stablecoin,所以这些数据在短期内可能相当有用。
以美元计价的几大Stablecoin都采用了ERC-20Token标准。顾名思义,ERC-20是一种在Ethereum上使用智能合约创建Token的标准化方式。如果你把区块链理解为一个巨大的去中心化Excel表格,那么智能合约就类似于Excel函数。在函数中输入参数之后,它将使用其内置逻辑产生一个特定的输出结果。
Reddit Collectible Avatar持有地址总量突破400万:金色财经报道,据Dune Analytics数据显示,Reddit于Polygon网络发行的NFT系列 Reddit Collectible Avatar持有地址总量突破400万,截至目前达到4,020,437,单一NFT持有地址为3,746,459个,Reddit Collectible Avatar总量4,741,353个,当前交易总额达11,742,104美元。[2022/12/8 21:31:35]
我们可以使用智能合约的Ethereum地址来对它们进行定位,这些地址是区块链数据结构中的唯一标识符:
·?USDC
·?TetherUSD
·?BinanceUSD
·?PaxDollar
·?GeminiDollar
与API类似,智能合约也是可以重复使用的程序。每次智能合约获得互动指令时,都会产生该互动的记录,并由Ethereum协议以日志的形式记录在区块链上,而这些日志则构成了智能合约活动的可靠信息来源。
当智能合同执行一个特定函数时,例如烧毁ERC-20Stablecoin以将其从流通中移除,该函数及其参数将作为交易日志记录在区块链上。
标准普尔:稳定币仍可能在后 Terra 中占主导地位:金色财经报道,信用评级机构标准普尔全球评级的分析师周四在网络研讨会上表示,尽管Luna基金会的 terraUSD 最近倒闭,但稳定币可能成为金融世界的系统性特征。该技术是一种所谓的稳定的价值来源,为更多波动的加密资产提供了一座桥梁,但仍可能改变国际金融和全球贸易,即使使最近的市场动荡表明一些加密货币比其他一些加密货币更稳定。
标准普尔全球首席经济学家 Paul Gruenwald表示,terra的大幅贬值证明加密货币发行者需要通过与传统金融一样的的障碍。传统金融家将无情地利用任何对其保值能力做出虚假承诺的货币,加密市场也不例外。与传统金融一样,同样的规则适用,同样的可信度适用,并表示与美元挂钩的资产将需要某种高质量、流动性强的美元资产以得到某种支持投资组合,以确保该制度是可信的。(Coindesk)[2022/6/24 1:27:53]
在下面的交易中,USDCStablecoin的发行商Circle烧毁了价值1056.92美元的USDC。
如果你切换到「日志」标签,你就可以查看交易事件日志,相应的字段为
·地址:智能合约的合约地址。USDCStablecoin的合约地址是0xa0b86991c6218b36c1d19d4a2e9eb0ce3606eb48。
·名称:智能合约执行的函数,以及该函数中的参数。在这里,智能合约正在调用烧毁函数,该函数接收的参数指定了所烧毁币的发送地点和烧毁币的数量。
Etherscan的输出结果还会显示主题和数据字段,这些字段包含了我们在分析交易时需要解析的大部分相关信息。
·Topic0是函数签名的哈希值。从本质上讲,它会将函数及其参数经由单向算法得到一个唯一的函数哈希值。Ethereum使用的是Keccak-256哈希函数,当你通过Keccak-256算法输入函数签名时,它总是会产生相同的哈希值,所以任何时候该哈希值出现在日志中,你都能确信是调用了同一个函数。
·Topic1是烧毁函数的一个索引参数。在这里,Topic1是烧毁的Token被发往的地址。(注意:如果烧毁函数有更多的参数,这些参数将作为额外的主题出现)
·这里的数据字段表示所烧毁Token的数量。
既然我们已经了解了链上数据的基本结构,就可以开始从Dune和GCP中提取数据了。
IV.提取并处理链上数据的基本工具
如前所述,在这个例子中,我选择从现有数据库中提取链上数据,而不是访问Ethereum网络上的活动节点。为了便于理解,我使用SQL从GCP提取了大量原始数据表格,然后在Python中使用pandas库对其进行清理。
当我们从GCP提取表格时,我们将使用BigQuery,它储存有很多Ethereum的数据表,如下图左边一栏所示。当你点击一个表格时,相应的数据库模式就会出现,就如下图中的ethereum.logs表。与此同时,其中涉及的地址、数据和主题都会记录到日志数据中去。
下图中的查询语句将用于提取日志表中涉及与USDC、TetherUSD、BinanceUSD、PaxDollar或GeminiDollar合约互动的所有记录。除了ethereum.logs中的信息外,一些额外的信息也很有用,所以我还合并了ethereum.block表中的数据,其中涵盖了Gas费等信息。
得到的表格可以直接由Python读取,并借助pandas数据框架细分为以下字段:
·log_index
·transaction_hash
·transaction_index
·address
·data
·topics
·block_timestamp
·block_number
·block_hash
·number
·miner
·size
·gas_limit
·gas_used
·base_fee_per_gas
这些字段中的大多数都可以直接使用,不过第三节中讨论的主题字段需要用Python进行一些额外的清理,以便将其分成多列。
V.结语
这篇文章使用的是Ethereum的日志数据,同样的方法也可以用来访问链上的各种数据。Python和SQL是大多数经济学家和政策制定者所熟悉的工具,它们可以发挥很大作用。与传统金融相比,Crypto更具透明度。这样一来,研究人员就可以利用实时数据来阐明金融体系的运作方式,并及时控制住可能出现的风险。
在下一篇文章中,我将着重分析法币支持Stablecoin的铸造与烧毁,并提前准备好相应的数据集。在第三篇文章中,我将以图表的形式向大家展示精细化链上数据可用来研究的问题。
责任编辑:Kate
标签:ETHETHEHERTHEETHA币上主网togetherbnb仓库薇拉Sidus HeroesDARTHELON
自Uniswap?发明了AMM这一DEX的核心机制之后,DeFi发展日新月异,交易量也不断攀升,从CEX中虎口夺食.
1900/1/1 0:00:000.中间件安全性问题现有的Indexing协议和Keeper网络都不是完全trustless的,而是trusted,或者看似trustless.开发者和用户需要以“Trust.
1900/1/1 0:00:00一夜之间,海外投资机构对于AI的关注度重回几年前的高点,甚至盖过了今年以来的Web3投资热点。那么AI与Web3的结合会有什么新火花?这篇CoinFund近期的深度研究文章向我们介绍了,AI+W.
1900/1/1 0:00:00Kraken首席执行官JessePowell——该公司好胜却内向的创始人——此前宣布他会在9月21日辞去首席执行官的职务,转而担任主席一职。对此人们毫无意外.
1900/1/1 0:00:00当我们发现自己正处于另一个“加密货币寒冬”之中——这在很大程度上是由一系列项目破产、监管打击和宏观看跌推动的——但重要的是,我们不要忽视促成下一次牛市的技术突破和将权力下放的精神重新引入大众.
1900/1/1 0:00:00为什么RedditNFTs不可忽视:1、300万钱包地址,超opensea用户熟,其中250万是reddit带入的新用户;2、在polygon上mint.
1900/1/1 0:00:00