论坛 产品库 视频 专题 CIO俱乐部 Windows8 实验室 CMO俱乐部 案例

批Hadoop之父与吴甘沙有关大数据的对话

发布时间:2014-12-15 08:12:00 来源:比特网 作者:宋家雨
关键字:Cloudera hadoop 大数据 吴甘沙

  大家已在第一时间看到了Hadoop之父Cloudera公司首席技术官Doug Cutting和英特尔中国研究院吴甘沙院长关于大数据原汁原味的对话(参见:Hadoop之父对话英特尔中国研究院院长吴甘沙)。所谓的批肯定不是批判,对于这样的泰斗级人物,只能是仰望,何来批判。批,就是批注,或者说是读后感。

英特尔中国研究院院长吴甘沙

  2020年攻克癌症

  在吴甘沙院长的谈话中说到,人类在于癌症战斗的这几十年间,癌症的治愈率仅仅提升了8%,其中非常重要的一个因素,就是有关癌症的基因组样本数据太少,影响了研究。随着大数据的进步,特别数据量的指数级增长,这就给癌症的大数据研究创造了条件,乐观地看,2020年,人类有望攻克癌症。

  批注:这当然是一件非常的好的事情。有资料显示,人基因组工程已经告罄,接下来是蛋白组学在临床中的应用。当蛋白组学和临床医学彻底结合的那一天,就是癌症被攻克的日子,不仅是癌症,相当多的疾病会因为这一技术突破,淡出人类的历史。我不是这方面的专家,无从判断,但通过高性能计算,大数据分析研究,如果能够造福人类,将是一件令人鼓舞的事情。让我们带着一个美好的愿望,期待事情的发生吧。

  数据咖啡馆

  数据咖啡馆是吴甘沙院长演讲中另外一个亮点,而且吴院长用“相逢不必相识,没有使用没有买卖”进行了表述。他表示,英特尔针对数据咖啡馆,从安全分析、使用审计和数据定价提供标准和方案

  批注:钦佩英特尔的眼光,一语中的,抓住大数据应用的主要问题。

  在我看来,数据咖啡馆的核心就是数据开放,技术问题尚在其次,数据开放才是重点。在美国,奥巴马总统多次呼吁从法律、法规的高度,呼吁开放数据,可谓高屋建瓴。但国内,特别是传统行业/企业,无不把数据视为核心资产,深恐有任何闪失和疏漏。

  据我了解,国内很多行业开展大数据过程中,数据绝对不能够离开内部的服务器,即使业务合作伙伴,只能够使用数据,但不可能得到数据。很多用户都知道所谓全数据分析更能够获取数据背后的奥秘。就像吴院长所说的,电商1+电商2的全面用户画像会更加精准。但问题在于,这个“+”怎么实现?

数据咖啡馆

数据咖啡馆

  我能够理解行业用户防贼般心态可以理解,就像我在“高速摸奶男和隐私保护”一文中所表述的,在当今这样的环境中,数据开放将是奢望。因此对于英特尔的数据咖啡馆在国内的前景,我并不乐观。在我看来,这不是一个经济收入的问题,而是一个意识的问题。 预计数据咖啡馆会有很长的路要走,希望越短越好。

  中国大数据至少落后两年

  这是Cloudera 公司副总裁苗凯翔先生的判断。

  苗凯翔表示,如果说2011年是中国大数据元年,距今也有几年的历史了,对于大数据特点,全数据分析等,国内也不陌生。金融、电信、政府等行业用户也尝试了很多大数据的应用,但从应用的水平来说,广泛性和深度,中国较之国外至少落后两年。

  苗凯翔不仅给出了判断,也给出了原因分析,国内没有一个专业的大数据服务提供商。他表示,Cloudera来了,Cloudera会促进大数据应用水平的提高。

  批注:Cloudera还是很会宣传的。但对于Cloudera来说,目前的舆论认知对其并不有利。在“大数据落地难 Hadoop难辞其咎”一文中就说到,很多行业用户把Hadoop作为大数据的代名词加以研究,浪费了大量的经历和时间,捡了芝麻丢了西瓜。这就是一个无奈的现状。

  苗凯翔先生在演讲中也说到了,Hadoop太复杂了,国内基本上没有什么人可以搞定。作为一种开源平台,获取Hadoop很容易,但驾驭Hadoop就比较难了,特别对于传统行业/企业而言。所以应该关注大数据分析这个目标,而不是分析的平台。

  对于大数据,人们可以用习惯的方式,如SQL等成熟的工具进行分析。实际上,Splunk、Actian、GreenPlum、Vertica等都是非常成熟的工具,可以直接加以使用。不要为Hadoop耽误太多时间。

  对于Cloudera不利的是,大家熟悉Cloudera,更多是熟悉其Hadoop分发版。如此,Cloudera就与Hadoop建立对应关系,而Cloudera更具有价值的各种工具,其实并不为外界了解。我也不了解这些工具。当我跟Cloudera接触,希望进一步了解这些工具时,得到答复,还是需要结合具体的应用加以介绍。在我看来,这会困难重重。

  所以改变落后的局面,应该不乐观。

  Hadoop之父印象最深刻的案例

  也许是语言理解上的问题,总感觉Hadoop之父Doug Cutting先生演讲不够接地气。也许是在开源技术的熟悉程度上不够,总之能够激发的兴趣点不多。但Doug Cutting对2015年开源社区热点判断到也值得关注。Doug Cutting新的热点也许在于机器学习技术的泛化,更多会被应用到大数据的应用中。

Hadoop之父Doug Cutting

  另外一个亮点是Doug Cutting先生印象深刻的大数据应用案例。有两个,一个是一家信用卡企业,通过使用Hadoop集群,分析5年积累的数据,发现了一个金融欺诈方式被反复使用,借助Hadoop反欺诈取得很好的效果。另外一个是亚特兰大某儿童医院,通过对于婴幼儿ICU数据监测,改善服务。Doug Cutting表示,此前这些数据都不被保存,但通过数据监测,发现采血前后,各30分钟内,婴儿的脉搏加剧,表明处于一种紧张、惶恐的状态。通过这一发现,医护工作者可以提供针对的服务。这让Doug Cutting印象深刻。

  批注:发欺诈的大数据应用其实并不陌生。类似应用,在互联网领域较为普遍,生活中也会有接触。例如出差登陆QQ等,我们手机接到预警,其背后就是海量大数据监控。对此,有很好的客户体验。

  但让人不解的是,这么贴心的客户体验为什么不能贯穿全局呢。如果你遇到了QQ号被盗,你就会知道冻结账号的手续有多么糟糕。仅仅是服务电话的选择菜单就足够折腾了,当然这是题外话。对于打动Doug Cutting的案例,似乎有些缺乏新意。或者说,不够典型。当然,首先是理解上的障碍。当谈到华人对于开源社区贡献的障碍时,语言问题也被涉及,这真让人无语。


比特微信账号
比特微信账号

微信扫一扫
关注Chinabyte

返回首页 长微博 返回顶部