深度｜大数据的四种力量：正确比量级更重要

　　大数据是这几年的一项热门技术。它和人工智能、云计算一起，已经成为大科技公司的技术标配。但是该如何理解大数据技术？这项技术对我们有什么影响？这些基本的问题，不少人却并不清楚。谷歌的数据科学家赛斯（赛斯•史蒂芬斯-大卫德维茨Seth Stephens-Davidowitz）写了一本书《数据、谎言与真相》（Everybody Lies：Big Data, New Data, and What the Internet Can Tell Us About Who We Really Are ），里面对这些问题给出了他的回答。

　　大数据这个名字本身会给人一种误解，认为大数据的关键在于数据量很大。不过，赛斯说，数据集的大小经常被高估。其实所需要的数据集的大小，跟数据本身的效果、数据的真实程度等都有关系。

　　举个例子，一个火热的炉子，你只需要碰到一次就明白，热炉子很危险，会烫伤你。但是，你可能需要喝几千杯咖啡才能确定，咖啡是否会让你头疼。原因就在于，热炉子本身的效果强度很高，因此，只需要一项数据，就能显现出结果。

　　赛斯在这本书里引用了大量人们在谷歌中搜索的数据。谷歌的数据之所以这么有价值，其实原因也不完全是因为谷歌能拿到的庞大的数据量，还因为，人们在自己的电脑上输入关键词进行搜索时，都很诚实。他们不需要考虑社交压力、周围人的眼光等等。

　　用赛斯的话说，“你未必总是需要大数据才能得出重要见解，你需要正确的数据。”大数据革命跟收集更多的数据无关，而是跟收集正确的数据有关。还是以谷歌为例，谷歌不是仅仅凭借着能够比其他搜索引擎搜索到更多的内容，就成为世界上最大的搜索引擎公司，它凭借的是，可以搜索到更好的数据。这跟谷歌的算法有关。谷歌的算法，按照一个网页被链接的数量来对搜索结果排序。
赛斯介绍了大数据的四种力量。这四种力量也并不都同数据集本身的大小相关。

　　大数据的第一种力量是，提供了新类型的数据。比如，包括弗洛伊德在内的思想家，都会从性的角度，来解释人类的很多行为。但是，这些思想家更多还是在观念层面进行思考。而现在，大数据时代的研究者，有了一项让那些过往思想家羡慕不已的数据：人们在互联网上搜索和观看色情作品的数据。这些独特的数据来源能够让研究者进入以前只能靠推理和猜测的领域。
大数据的力量在于，重新想象什么东西有资格成为数据，提供之前从来没有收集过的信息让人们可以研究。

　　作者举了一个例子。他曾经把2004年至2011年的失业率输入到谷歌的数据挖掘工具Google Correlate中，结果发现，跟失业最相关的搜索，一个是色情网站，另一个是蜘蛛纸牌。作者猜测，原因也很简单，因为失业者会有很多空闲时间。所以他就发现，“利用一些跟消遣相关的搜寻组合，就能追踪失业率，而且是预测失业率最佳模式的一部分。”

　　大数据的第二种力量是，提供了诚实的数据。在数字时代出现之前，可想而知，由于考虑到社会压力等因素，人往往会隐藏起来那些会让自己难堪的想法。即使面对询问也不会坦诚相告。但是，在数字时代，虽然人们仍然会在现实生活中隐藏起一些真实想法，但是在互联网上，尤其是可以匿名的网站上，人们往往会袒露心声。

　　“大数据使我们终于可以看清人们真正想要什么和真正做了什么，而不是人们说自己要什么和做了什么。”

　　知名投资人彼得•蒂尔说过，伟大的企业建立在秘密之上。可能是关于自然的秘密，也可能是关于人的秘密。人的秘密指的是跟自己有关但自己却不知道，或者不想让别人知道的事。

　　举个例子，流媒体公司奈飞，曾经让用户设置一个自己以后想看的电影播放列表。奈飞发现，用户确实会把电影添加到这个列表中，但是，尽管奈飞会提醒用户看这些电影，用户却很少真的去看。因为，人们说自己想要的，跟自己实际想要的不一致。

　　后来，奈飞不再要求用户告诉自己他们想看什么电影，而是根据用户点击和观看的数据建立一个模型，用模型来推测用户想看什么电影。结果，用户果然越来越频繁地造访奈飞，在上面看了越来越多的电影。

　　所以，奈飞前数据科学家泽维尔•艾玛特里安说：算法比你更了解你自己。

　　大数据的第三种力量是，让我们可以把焦点放在人口中的一个很小的子集进行研究。

　　当然，这要求对小的子集，也有大数据量。打个比方，为了将照片的一小部分放大后还能看清楚，照片需要有很高的像素。同样，为了能够清楚放大检视数据的小子集，每一个小子集中都需要大量的数据。比如，某一个球队有多受1978年出生的男性的欢迎。只对几千人进行的小调查，样本根本不够大，1978年出生的男性人数肯定不够多。

　　这样做的意义在什么地方呢？作者通过数据研究发现，是否成为一个球队的粉丝，跟这个球队在一个人特定年龄段的表现有关系。如果在一个人对运动最痴迷、最容易喜欢上某项运动的时间段，这个球队的表现越好，那它获得这个年龄段的球迷就越多。

　　而且，美国人政治观点的形成也类似。很多美国人会在14岁到24岁这个关键时期，形成个人的政治偏好。其中，形成政治观点最重要的年纪是18岁。受欢迎的共和党总统或不受欢迎的民主党总统，将影响很多年轻人成为共和党人。反之亦然。“大数据允许我们有意义地放大检视数据集的细部，获取新的洞察。”

　　第四种力量是，允许研究者进行因果关系实验。大数据可以允许研究者进行快速而且可控的因果关系实验，而不仅仅是相关性。

　　这种测试在很多互联网公司被称作是A/B测试。脸书（Facebook）每天能进行上千次A/B测试。所谓的A/B测试指的是，在同一个时间维度，分别让相似的两组访客随机访问这些版本，收集数据，来评估出用户更喜欢的版本。比如，两个标题，哪一个点击量更高；放哪种类型的照片，更能让用户喜欢等等。

　　有一家网站的CEO说：“你不能假设任何事，必须针对每件事都进行测试才行”，“如果我们了解人性，根据我们的生活经验就能判断答案是什么，那么测试就不会有价值。但事实上，我们不了解人性，所以测试才这么有价值。”

　　这种方法，互联网公司已经大量使用，而现在和将来，社会科学家也可以使用，从而把以往模糊的研究变得更科学。

　　大数据处理信息服务商金盛网聚WJFabric认为，大数据技术的发展为人类研究事物的方式提供了重要基础，使思考不再局限于单纯的猜测和推断。随着技术的深入，数据的真实性、精准性将愈加增强，因而数据在使用方面也将更加多元。针对不同目标而进行的数据样本甄选与研究将更有利于结论的获得。大数据行业的通识和通用性将进一步促进传统行业向精细化方向发展。

　　金盛网聚（北京）科技有限公司成立于2012年，是一家数据处理与信息咨询服务商，公司拥有自主核心技术与服务咨询的团队， 公司“WJFbaric-互联网大数据信息监测SaaS平台”目前注册使用客户将近上万个，为企业、政府、学术机构、成功人士等提供在线信息收集、展示、阅读、存储的免费平台，公司远景致力于通过数据+计算形成可视化的人工智能决策平台。