社区编辑申请
注册/登录
大数据分析的三大障碍
大数据 数据分析
大数据问世之后,很多企业把大数据当成解决企业问题良方。尽管大数据同样可依现代科学方法来研究和处理难解问题。

大数据问世之后,很多企业把大数据当成解决企业问题良方。尽管大数据同样可依现代科学方法来研究和处理难解问题,但意大利科学家萨罗‧苏奇(Sauro Succi)博士和伦敦大学学院(UCL)名誉教授彼得‧科维尼(Peter V. Coveney)指出,大数据分析仍存有三大障碍无法突破,因此虽然大数据带来新视角,但企业却不能把它当成救世主。

苏奇与科维尼于2019年发表了一篇名为《大数据:科学方法的终结?(Big data: the end of the scientific method? )》[1]文章。苏奇与科维尼认为,我们身处的世界非常复杂,因此大数据研究方法所提出的一些主张仍需要修订。因为源自于伽利略的「现代科学方法」,背后存在着一些障碍,这些障碍包括:非线性(nonlinearity)、非局部性(non-locality)和高维度性(hyperdimensions),如图1所示。 

大数据分析的三大障碍

图1 大数据分析的三大障碍 绘图者:张琬旖

1.非线性(nonlinearity)

非线性是在理论建模时,众所周知的难题。非线性建模最典型的案例,就是气象学里的「蝴蝶效应(Butterfly effect)」。一只小蝴蝶在中美洲的古巴拍拍翅膀,能在美国德州引发龙卷风吗?(Does the Flap of a Butterfly’s wings in Brazil Set Off a Tornado in Texas?[2])

蝴蝶效应是由美国气象学家,也是麻省理工学院的教授爱德华‧诺顿‧罗伦兹(Edward Norton Lorenz)所提出,意思是指在一个复杂的系统中,一个变量的微小变化,配合背后的连锁反应,将会对整个系统造成巨大的影响。而这种非线性的影响,大大限制了模型的预测能力。大数据分析可以协助解决一些非线性系统的问题,但许多机器学习算法的基本假设,并不适合用在非线性系统当中。

2.非局部性(non-locality)

非局部性则是指存在着远距离的相关性,纵使在系统里不同的子系统或是变量之间距离很远,但仍然可能保有因果关系。非局部性通常「违反直觉」,毕竟一般人会认为,越接近的事物,它们彼此之间的相互作用影响也最多。用机器学习来解决非局部性问题显然是一个重大挑战。

3.高维度性(hyperdimensions)

我们已经习惯在三维空间上,再加上时间维度来生活。但当维度超过三个以上,人类的认知就会受到相当大的限制(这时一般会透过数学来运算)。复杂系统背后所探讨的变量非常多,而这也造成计算维度的复杂。

苏奇与科维尼最后指出,如果机器学习技术能够协助克服上述三个基本障碍,那将是非常理想的,但到目前为止,几乎没有证据能表明大数据分析研究能有效突破以上的障碍,这需要大家持续的努力(一些例外是在天文学,机器学习在天文领域开始获得很大的进展)。

 

责任编辑:华轩 来源: 今日头条
相关推荐

2022-05-18 23:42:08

网络安全安全分析工具

2022-05-19 19:26:33

区块链大数据数据分析

2022-05-12 13:44:35

2022-04-25 14:06:28

数据分析人工智能机器学习

2022-05-20 14:54:33

数据安全数字化转型企业

2022-04-17 23:02:08

数据分析数字化转型人工智能

2022-05-09 15:08:56

存储厂商NFV领域华为

2022-04-01 10:08:21

SQL 优化MySQL数据库

2022-05-17 15:51:32

数据中心运维能力基础设施

2022-05-17 14:03:42

勒索软件远程工作

2022-03-29 14:49:14

大数据数据分析

2022-05-11 14:48:33

腾讯云寿险民生保险

2022-03-21 13:57:00

大数据数据分析技术

2022-05-10 14:11:05

网络安全网络犯罪

2022-05-16 10:49:28

网络协议数据

2022-05-25 10:49:02

云存储云计算

2022-04-21 10:49:30

智慧城市物联网

2022-04-26 07:14:54

互联网传统行业数据分析

2022-04-29 13:15:13

数据中台管控

2022-05-12 14:44:38

数据中心IT云计算

同话题下的热门内容

2022年优秀预测分析工具和软件大数据技术的成功案例及趋势使用替代数据的五个隐性成本为什么不能忽视建筑物中的数据分析?数据驱动业务的18个有效策略

编辑推荐

什么是数据分析的漏斗模型?数据分析师还吃香吗?用数据告诉你对比解读五种主流大数据架构的数据分析能力《狄仁杰之四大天王》影评分析(爬虫+词云+热力图)22个免费的数据可视化和分析工具推荐
我收藏的内容
点赞
收藏

51CTO技术栈公众号