作者|ByLucianoStrika来源|CDA数据分析研究院5ProbabilityDistributionsEveryDataScientistShouldKnow
概率分布就像3D眼镜。它们允许熟练的数据科学家识别其他完全随机变量的模式。在某种程度上,大多数其他数据科学或机器学习技能都基于对数据概率分布的某些假设。这使得概率知识成为统计学家构建工具箱的基础。如果您正在寻找如何成为数据科学家的第一步。不用多说,让我们切入正题。
什么是概率分布?
在概率论和统计学中,随机变量是一个随机值的东西,比如“我看到的下一个人的身高”。给定一个随机变量X,我们想要一种描述它的值的方法。更重要的是,我们想要描述该变量获取特定值x的可能性。
例如,如果X是“我的女朋友有多少只猫”,那么这个数字可能是1的非零概率。有人可能会认为这个值甚至可能是5或10的非零概率。然而,没有办法一个人会有负数的猫。因此,我们想要一种明确的数学方法来表达变量X可以采用的每个可能值x,以及事件的可能性。
数据:2013年以来NFT和GameFi共有53起并购交易,今年前两季度已有20起:7月18日消息,自2013年以来,NFT和GameFi发生了53起并购交易,其中2022年前两个季度就发生了20起(第一季度和第二季度分别进行了8笔和12笔交易),占比38%。此外尽管近期NFT市场降温,但在2022年第二季度NFT领域的12笔并购交易数量创下历史新高。(TheBlock)[2022/7/18 2:19:49]
为了做到这一点,我们定义函数P,使得P是变量X具有值x的概率。对于间隔而不是离散值,我们也可以要求P或P。这将很快变得更加重要。P是变量的密度函数,它表征变量的分布。
随着时间的推移,科学家们开始意识到自然界中的许多事物,现实生活往往表现相似,变量共享一个分布,或具有相同的密度函数。
有趣的是,对于P是一个实际的密度函数,有些事情必须适用。
对于任何值x,P<=1。是再确定不过的事情了。
对于任何值x,P>=0。也没有什么疑义。
和最后一个:所述之和的P的所有可能的值X为1。
最后一个意味着“X在宇宙中取任何价值的概率,必须加起来为1。Billions项目组离散与连续随机变量分布最后,随机变量可以被认为属于两组:离散和连续随机变量。
数据:Web3开发人员为高盛开发人员的两倍多:2月13日消息,Blockworks记者Jacquelyn Melinek发推称,根据21Shares的数据,现在有18400多名Web3开发人员,是高盛9000名开发人员的两倍多。[2022/2/13 9:48:41]
离散随机变量
离散变量具有一组离散的可能值,每个值都具有非零概率。例如,如果我们说,当翻转硬币时X=“1表示花色,0表示数字”然后P=P=0.5。但是请注意,离散集合不必是有限的。被用于建模的一些事件的概率的几率p之后发生k的概率。它具有以下密度公式。P(X=k)=p(1-p)^k0<=p<=1其中k可以采用具有正概率的任何非负值。注意所有可能值的概率之和如何仍然加起来为1。
连续随机变量
如果你说X=“从我头上随机拔毛的长度”X可以采用哪些可能的值?我们可能都认为负值在这里没有任何意义。但是,如果你说它只是1毫米,而不是1.1853759......或类似的东西,我会怀疑你的测量技巧,或你的测量错误报告。连续随机变量可以在给定间隔中取任何值。因此,如果我们为其所有可能值分配了非零概率,则它们的总和不会加起来为1。
链上数据分析工具Nansen新增支持Arbitrum:11月24日消息,链上数据分析工具Nansen新增添加对以太坊二层解决方案Arbitrum的支持,目前正在整合与Arbitrum相关的数据。此前Nansen已支持以太坊、币安智能链(BSC)、Polygon、Fantom,并计划明年一季度添加对Solana的支持。[2021/11/24 7:08:56]
为了解决这个问题,如果X是连续的,我们为所有k设置P=0,而是为X赋予一个非零的机会获取某个间隔的值。为了表示在值a和b之间放置X的概率,我们说P。而不是仅仅在一个密度函数替换值,得到P为X连续变量,你会集成X的密度函数a到b。
哇,你已经完成了整个理论部分!现在您已经知道了概率分布是什么,让我们了解一些最常见的分布!
伯努利概率分布
具有伯努利分布的随机变量是最简单的。它代表一个二进制事件:“这件事发生”VS“这种情况没有发生”,并采取了值p作为其唯一的参数,它代表的概率是会发生的事件。具有参数p的伯努利分布的随机变量B将具有以下密度函数:
P=p,P=
这里B=1表示事件发生,B=0表示事件没发生。注意两个概率如何加起来为1,因此B的不可能会是其他值。
动态 | 日立、积水、KDDI三家公司通过区块链平台进行数据合作:据日经新闻消息,3月19日,日立制作所、积水house、KDDI三家公司宣布将通过数据合作以开发新服务。首先,积水、KDDI将使用日立提供的高安全性系统,共享公司数据。从4月开始,该服务将通过项目进行验证,以简化房屋租赁手续。同时,三家公司也呼吁建立聚集各行业数据的体制。据悉,该服务将使用区块链技术以提供安全的共享数据平台。作为合作的第一步,积水house和KDDI首先将通过该平台连接两公司的用户实名信息,通过简化流程,可一站式提供房屋合同、固话、电费、煤气费等手续的办理。[2019/3/19]
统一概率分布
有两种均匀随机变量:离散变量和连续变量。
离散均匀分布将采取(有限的)值的集合s,为每个值分配1/n的概率,其中n是S中元素的数量。这样,如果我的变量Y在{1,2,3}中是均匀的,则每个值出现的概率为33%。
在骰子中可以找到离散均匀随机变量的典型情况,其中典型的骰子具有一组值{1,2,3,4,5,6}。连续均匀分布,只取两个值a和b作为参数,并为它们之间的间隔中的每个值分配相同的密度。这意味着Y在一个区间(从c到d)取值的概率与相对于整个区间的大小成比例。因此,如果Y在a和b之间均匀分布,那么这样,如果Y是1和2之间的均匀随机变量,P=1且P=0.5
动态 | Civic将Identity.com打造为基于加密技术的个人数据市场:据coindesk报道,Civic买入新域名“Identity.com”,计划将其打造为基于加密技术的个人数据市场,将成为拥有信息和需要信息的企业的中心。因此,并非一家公司直接将其用户数据销售给其他公司,而是第一家可以验证数据的公司与用户分享证明,然后用户将与需要该信息的第二家公司共享该证明。[2018/7/18]
Python的random包的random方法在0和1之间采样均匀分布的连续变量。有趣的是,可以证明,在给定均匀随机值生成器和一些微积分的情况下,可以对任何其他分布进行采样。
正态概率分布
通常分布的变量在自然界中很常见,它们实际上是标注规格。这实际上就是这个名字的来源。如果你把所有的同事都围起来并测量他们的身高,或者对测量体重并用结果绘制直方图,则可能会接近正态分布。当我向您展示探索性数据分析示例时,我实际上看到了这种效果。
还可以证明,如果您采用任意随机变量的样本并对这些度量进行平均,并多次重复该过程,则该平均值也将具有正态分布。这个事实非常重要,它被称为统计学的基本定理。通常分布的变量:
是对称的,以均值为中心。
可以在真实空间中获取所有值,但仅在5%的时间内偏离规范的两个sigmas。
几乎无处不在。
大多数情况下,如果你测量任何经验数据并且它是对称的,假设它是正常的将有点工作。
例如,滚动K骰子并将结果相加将分配非常正常。
对数正态概率分布
对数正态概率分布是正常概率分布的不常见的姐妹。如果变量Y=log遵循正态分布,则称变量X是对数正态分布的。当在直方图中绘制时,对数正态概率分布是不对称的,并且如果它们的标准偏差更大则变得更加如此。我认为对数正态分布值得一提,因为大多数基于货币的变量都是这样的。
如果你看一下与钱有关的任何变量的概率分布,比如
在某个银行的最新转账上发送的金额。
华尔街最新交易量。
一组公司在特定季度的季度收益。
它们通常没有正态的概率分布,但会更接近对数正态随机变量。
指数概率分布
指数概率分布也随处可见。它们与称为泊松过程的概率概念密切相关。直接从维基百科窃取,泊松过程是“事件以恒定的平均速率连续且独立地发生的过程”。所有这些意味着,如果:
你有很多活动。
它们以一定的速率发生。
仅仅因为一个发生了另一个发生的机会不改变。
然后你有一个泊松过程。
一些例子可能是来到服务器的请求,在超市中发生的交易,或在某个湖中捕鱼的鸟类。想象一下频率为λ的泊松过程。指数随机变量模拟事件发生后下一个事件发生所需的时间。有趣的是,在泊松过程中,事件可以在任何时间间隔内发生在0到无穷大之间的任何地方。
这意味着无论您等待多久,事件都不会发生非零事件。这也意味着它可能在很短的时间内发生很多次。在课堂上,我们常常开玩笑的是巴士到达泊松过程。我认为将WhatsApp消息发送给某些人时的响应时间也符合标准。但是,λ参数调节事件的频率。它将使事件实际发生的预期时间以某个值为中心。这意味着如果我们知道出租车每隔15分钟通过我们的街区,即使理论上我们可以永远等待它,我们也很可能不会等待30分钟。
数据科学中的指数概率分布
这是指数分布随机变量的密度函数:
假设您有一个来自变量的样本,并希望查看它是否可以使用指数分布变量建模。最佳λ参数可以很容易地估计为采样值平均值的倒数。指数变量非常适合用非常罕见但巨大的异常值对任何概率分布进行建模。这是因为它们可以取任何非负值但以较小值为中心,随着值的增加频率降低。在特别是异常繁重的样本中,您可能希望将λ估计为中位数而不是平均值,因为中位数对异常值更为稳健。
结论
总而言之,作为数据科学家,我认为学习基础知识对我们很重要。概率和统计可能不像深度学习或无监督机器学习那样华丽,但它们是数据科学的基石。特别是机器学习。根据我的经验,提供具有功能的机器学习模型,而不知道他们遵循哪种分布,这是一个糟糕的选择。记住无处不在的指数和正态概率分布以及它们较小的对应物,对数正态分布也是很好的。在训练机器学习模型时,了解它们的属性,用途和外观会改变游戏规则。在进行任何类型的数据分析时,记住它们通常也很好。
进入···解锁更多精彩内容和专业资讯!
标签:NFTARBNANBITANFT价格arbgpt币上架几家交易所Squirrel Financebitcointoken
区块链日报:推特网友发出请愿书希望Ripple停止向市场倾销XRP ICSS官方:谴责TOP.ONE与ZT私自上线ICSSICSS官方今日发布声明称:强烈谴责TOP.
1900/1/1 0:00:002019年是中华人民共和国成立70周年。作为共和国名片,人民币刚刚在2018年12月1日度过自己的70岁生日.
1900/1/1 0:00:008月16日晚间,理想汽车发布公告称,公司已经完成5.3亿美元C轮融资。本轮融资正是由6月中旬盛传的美团创始人王兴领投,其中王兴个人投资近3亿美元.
1900/1/1 0:00:00一直以来健康饮食都是人们最关心的问题!前段时间,阿娇也因为担心大家的健康问题,热心为我们特地避雷了纯素食减肥法! 相信很多人都曾因为不健康的饮食习惯.
1900/1/1 0:00:00就这样,量子计算机取代传统计算机的预示离现实又近了一步。 图片来源:visualhunt根据英国《金融时报》最近的一篇报道,科技巨头谷歌声称已经实现了“量子霸权”,这意味着它已经建造了一台量子计.
1900/1/1 0:00:00一、BTC/比特币Bitcoin比特币的概念最初由中本聪在2009年提出,根据中本聪的思路设计发布的开源软件以及建构其上的P2P网络。比特币是一种P2P形式的数字货币.
1900/1/1 0:00:00