未加星标

使用本福德定律甄别数据造假(Benford’s Law)

字体大小 | |
[大数据技术 所属分类 大数据技术 | 发布者 店小二04 | 时间 | 作者 红领巾 ] 0人收藏点击收藏

数据造假的甄别在数据分析领域是一个热门的话题,也是对数据分析师的一项挑战。分析数据造假的方法有很多种。我们在前面的系列文章中曾经介绍过两种检验作弊流量的方法。一种是根据历史经验及分布情况的多维度交叉检验,另一种是使用随机森林模型根据已知作弊流量的特征对新流量进行分类及预测。


使用本福德定律甄别数据造假(Benford’s Law)

本篇文章介绍一种神奇的数据检验方法,本福德定律(Benford’s Law)。本福德定律是一种用途广泛的数据检验方法,在安然公司破产和伊朗大选选票甄别中都曾被使用到。本福德定律通过自然生成的数字中1到9的使用频率对数据进行检验。如果你的数据具备一定规模,没有人工设定的最大值和最小值,并且数据本身受人为因素影响较小。那么就可以使用本福德定律对数据进行检验,甄别数据是否经过人为修饰。

本福德定律及公式

本福德定律中自然生成的数字首位为1的概率为30.10%,2的概率为17.61%,依次递减,首位为9的概率仅为4.58%。依据这一期望概率值我们可以对数据进行检验。以下是本福德定律的计算公式。通过这一公式可以计算出1-9中每个数字出现数据首位的概率。


使用本福德定律甄别数据造假(Benford’s Law)

举例来说,对于数字9下面的公式可以计算出一组自然生成的数字中9出现在数字首位的概率是多少。


使用本福德定律甄别数据造假(Benford’s Law)

我们使用本福德定律公式逐一计算了数字1-9出现在首位的概率。以下是每个数字出现的概率值。后面会根据这一期望的概率值对数据是否进行过人工修改进行甄别。


使用本福德定律甄别数据造假(Benford’s Law)

通过图表可以更较直观的看到本福德定律中每个数字出现的频率以及不同数字间的差异。与我们想象的不同,数字出现的频率并不是均匀分布的。1出现的次数为30.10%而9出现的次数仅为4.58%。


使用本福德定律甄别数据造假(Benford’s Law)
下面我们将使用本福德定律对工作中常见的数据进行检验,甄别数据是否经过人为修饰。

广告展现量数据检验

首先检验一组广告曝光数据。下面是某广告一段时间的曝光量数据。我们将每条展现量数据的第一个数字提取出来,通过本福德定律对这组数据进行检验。


使用本福德定律甄别数据造假(Benford’s Law)

第一步计算展现量数据中数字1-9出现的次数。第二步计算所有展现量数据的条目,展现量数据为474条。第三步计算数字1-9出现次数的频率。第四步使用本福德定律计算出数字1-9出现频率的期望值。


使用本福德定律甄别数据造假(Benford’s Law)

将曝光量数据和本福德定律的期望值绘制到图表中进行对比,可以发现曝光量数据首位数字出现的频率与本福德定律整体上基本一致。在数字2,3和5上略有差异。这个柱状图能说明什么?表明数据符合本福德定律?三个数据点上的差异又说明什么?数据中存在人为修饰吗?


使用本福德定律甄别数据造假(Benford’s Law)

单从实际概览值和图表上我们无法辨别数据是否经过人为修饰。要准确的判断数据是否为自然生成还需要计算两个指标,分别为KS值和截止值。然后对两个指标进行对比。如果KS值低于截止值,那么可以判定数据为自然生成,没有经过人工修饰。否则就可能有造假的风险。

KS值是数据的实际概率值与期望概率值差异的最大值,截止值是1.36除以数据条目数的平方根。我们对前面的数据表计算KS值和截止值。第五步,计算实际概率值与期望概率值的差异。这里我们取差异的绝对值以避免负数的产生。第六步,计算K-S值,经过计算K-S值为0.043,也就是数字5出现频率的差异。第七步,计算截止值,这里的曝光数据共有474条,因此截止值为0.053。第八步,对比K-S值与截止值,K-S值小于截止值。因此数据属于自然生成。没有经过人为修饰。


使用本福德定律甄别数据造假(Benford’s Law)

广告点击量数据检验

按照前面的方法,我们对同一组广告的点击量数据进行检验。在下面的柱状图中,蓝色为本福德定律的期望概率值,绿色为广告点击量的首位数字分布情况。可以发现在数字1,3和4上实际值与期望值之间存在较大的差异。尤其是在数字3上。但仅根据这几个差异点我们还不能判断数据是否经过人工修饰。


使用本福德定律甄别数据造假(Benford’s Law)

进一步计算K-S值和截止值并进行对比。K-S值为数据点间的最大差异值,这里是0.115。截止值经过计算为0.054。K-S值明显大于截止值。因此可以判断点击量数据是经过人工修饰的可能,需要进一步进行检验。


使用本福德定律甄别数据造假(Benford’s Law)

贷款金额数据检验

除了广告数据以外,本福德定律还可以在很多场景下对数据进行检验。如贷款金额的数据。下面是一组贷款金额首位数字分布与本福德定律逾期分布的对比图。两者的趋势一致,差异也较小。


使用本福德定律甄别数据造假(Benford’s Law)

通过计算K-S值和截止值并进行对比,K-S值0.019小于截止值0.022。说明贷款金额数据为自然生成,不存在人工修饰。


使用本福德定律甄别数据造假(Benford’s Law)

Excel随机数检验

最后,我们人工生成一组”假数据”,看看本福德定律的检验结果。这里使用Excel的随机数函数生成100个随机数。并与本福德定律的期望分布进行对比。很明显,Excel生成的随机数在首位数字上为均匀分布。与本福德定律的期望分布相差甚远。


使用本福德定律甄别数据造假(Benford’s Law)

计算并对比K-S值和截止值也再次证明了均匀分布的数据为人工生成。K-S值0.201大于截止值0.116。


使用本福德定律甄别数据造假(Benford’s Law)

本福德定律加强版

本福德定律除了计算首位数字出现的概率,还有个加强版,可以计算第二位数字甚至第三位数字出现的概率,并通过这些这些期望值对数据进行更加深入和严格的检验。下面是计算第二位数字出现概率的公式。d1表示第一位出现的数字,d2表示第二位出现的数字。


使用本福德定律甄别数据造假(Benford’s Law)

如果我们要计算第二位数字为6的期望值,将数字6代入公式中,如下面截图所示。分别计算1-9每个数字与第二位数字6进行组合时的概率,再进行加总就是数字6作为第二位出现数字的期望概率值。


使用本福德定律甄别数据造假(Benford’s Law)

在Excel中实际计算下,蓝色部分为首位数字和出现的概率。后面依次是第二位数字从0-9依次与首位数字组合出现的概率值。我们按列进行汇总就是每个第二位数字出现的概率。


使用本福德定律甄别数据造假(Benford’s Law)

再进一步还可以计算第三位数字出现的概率。方法与计算第二位数字出现的方法类似,只是更为负责一些。下面是计算公式。将0-9的10个数字分别与前两位的各种数字组合在一起计算,然后把每种情况单一数字出现的概率进行汇总,就是这个数字出现在第三位的期望值了。


使用本福德定律甄别数据造假(Benford’s Law)

以第三位数字是0为例,蓝色列表示第一位数字的值,由于第一位不能为0,所以数字范围为1-9。第一行黑色背景为第二位数字的值,从0-9。计算各种组合情况下第三位数字为0的概率,并进行汇总。最终0.1018就是0作为第三位数字出现的概率值。


使用本福德定律甄别数据造假(Benford’s Law)

我们按照同样的方法计算了0-9在第三位出现的概率,并与前面计算的首位和第二位数字出现概率进行汇总生成了下面的数据检验表。通过这个概率分布表可以更加深入的对数据的真实性进行检验。


使用本福德定律甄别数据造假(Benford’s Law)
关于 最新文章
使用本福德定律甄别数据造假(Benford’s Law)
蓝鲸

王彦平 (蓝鲸),Google分析个人资格认证,专注于网站数据分析实践及Google Analytics应用研究。


使用本福德定律甄别数据造假(Benford’s Law)
最新文章 by 蓝鲸 (主页)

使用本福德定律甄别数据造假(Benford’s Law) - 2017-03-14 使用python分析纽约出租车搭乘数据 - 2017-03-13 使用python抓取新浪微博数据 - 2017-03-12


使用本福德定律甄别数据造假(Benford’s Law)

AD:【Hi】大数据的老朋友,加入最活跃、最温暖的大数据QQ群!!

注:数据分析网遵循行业规范,任何转载的稿件都会明确标注作者和来源,若标注有误或遗漏,请联系主编邮箱:[email protected]

tags: 数字,数据,福德,概率,定律,计算,检验,截止,首位,第二位,修饰,生成,差异
分页:12
转载请注明
本文标题:使用本福德定律甄别数据造假(Benford’s Law)
本站链接:http://www.codesec.net/view/544591.html
分享请点击:


1.凡CodeSecTeam转载的文章,均出自其它媒体或其他官网介绍,目的在于传递更多的信息,并不代表本站赞同其观点和其真实性负责;
2.转载的文章仅代表原创作者观点,与本站无关。其原创性以及文中陈述文字和内容未经本站证实,本站对该文以及其中全部或者部分内容、文字的真实性、完整性、及时性,不作出任何保证或承若;
3.如本站转载稿涉及版权等问题,请作者及时联系本站,我们会及时处理。
登录后可拥有收藏文章、关注作者等权限...
技术大类 技术大类 | 大数据技术 | 评论(0) | 阅读(147)