如何避免失败,像Google一样玩转大数据

云计算
随着生活的丰富,产生数据的设备也是愈来愈多,同样需要处理的数据体积也是日益激增,各个机构也纷纷把眼光投向“大数据”这个术语。在这场数据的淘金中许多公司满载而归,然而“大数据”投资失败的公司也不可谓不多,所以就有了之前的一篇文章“ Why Big Data Projects Fail”。

随着生活的丰富,产生数据的设备也是愈来愈多,同样需要处理的数据体积也是日益激增,各个机构也纷纷把眼光投向“大数据”这个术语。在这场数据的淘金中许多公司满载而归,然而“大数据”投资失败的公司也不可谓不多,所以就有了之前的一篇文章“ Why Big Data Projects Fail”。对此,商业智能工具研发总监、esProc、esCalc高级顾问Jim King否认了这个看法,并以Google为例给大数据投资者提出了一些警示。

 

[[81471]]

 

以下为译文:

首先看一下大数据成功典范Google,看看他们是如何玩转大数据的:

1. 收集数据,捕捉每个网站、电子邮件、Cookie内容,并提取关键信息。

2. 为信息创建复合索引。不用说,广告相关索引是必不可少的。

3. 将目录和内容储存在分布式服务器中。

4. 当用户浏览网站以及搜索或访问电子邮件时,Google会对这些请求做复杂的转换处理,同时几个索引项会随之确定。

5. 根据索引在服务器中查询数据,返回搜索结果或者广告。

在这里不难发现,与Hadoop有关的只有3和5,也就是数据储存和查询。而这两项也是最容易实现的两项,比如Hadoop就是个具有良好扩展性及低成本的解决方案。

那么实现3和5就可以像Google一样发玩转大数据了?很显然不行,因为关键选项2和4并没有实现,而2和4就是所谓的业务分析算法。这些算法由业务专家根据数据、业务知识、市场趋势精心打造,是许多企业商业策略制定的重要手段及核心。这才是4V理论中的“Value”。

这也是现下许多大数据投资失败的原因,因为当下的大数据只提供了数据存储和查询的策略,缺乏了提高企业竞争力的业务分析解决方案,而恰恰这才是最重要的。事实上,现在的大数据工具都是为IT专家打造的,他们可以通过C++或者Java实现MapReduce功能,但是却无法提供有价值的商业算法。

因此大数据成功的关键不在于Hadoop是否部署成功,而在于对业务有帮助算法的制定,而在人才严重缺乏的当下,不妨从数据工具入手。降低工具使用的门槛,让业务专家可以参与其中,才能发挥大数据真正的作用,对业务起到立竿见影的改善。

总结

工具的部署谁都可以,关键在于业务算法的制定,让业务专家无缝的参与数据的分析才是成功之始。

责任编辑:王程程 来源: Data Science Central
相关推荐

2013-08-22 10:17:51

Google大数据业务价值

2017-11-06 14:18:03

2012-06-08 13:47:32

Wndows 8Vista

2021-10-31 08:09:07

网络攻击黑客网络安全

2015-03-16 12:50:44

2023-04-05 14:19:07

FlinkRedisNoSQL

2021-09-07 10:29:11

JavaScript模块CSS

2017-05-22 10:33:14

PythonJuliaCython

2013-05-31 10:22:12

2019-11-20 09:10:12

开源技术 数据

2013-12-17 09:02:03

Python调试

2022-12-21 15:56:23

代码文档工具

2013-12-31 09:19:23

Python调试

2023-05-23 13:59:41

RustPython程序

2016-10-08 00:24:53

httptcp实时

2020-08-25 08:56:55

Pythonawk字符串

2020-09-30 17:12:09

人工智能技术数据

2017-12-20 15:25:51

数据分析大数据企业

2021-05-20 08:37:32

multiprocesPython线程
点赞
收藏

51CTO技术栈公众号