Thoughtworks发布《数据工程白皮书》

大数据
近日,Thoughtworks发布《数据工程白皮书》,旨在讨论如何从工程化的角度加速数据到价值的转化过程、为企业带来更多的价值,帮助企业在数字化转型过程中应对来自业务、外部市场、内部数据能力提升等一系列问题。

随着企业数字化转型的不断开展,企业对数据越来越重视、对数据的诉求越来越丰富。

尽管数字化转型对于市场来说并不是一个新鲜事物,从技术视角来看,人工智能与大数据相关技术仍处于创新阶段,各行业正在寻找和探索价值场景与新兴技术融合的平衡点,希望在新兴技术的加持下能够在激烈的竞争中占据有利位置。

对于企业中需要直接面对或完成数据工作的负责人来说,需要有一套切实可行的方式方法来确保数据工作能够保质保量的顺利开展、保障企业在数据领域的投入能够有价值产出。这样一套行之有效的方式方法我们称为“数据工程”,而该体系的落地过程称为“数据工程化”。

近日,Thoughtworks发布《数据工程白皮书》,旨在讨论如何从工程化的角度加速数据到价值的转化过程、为企业带来更多的价值,帮助企业在数字化转型过程中应对来自业务、外部市场、内部数据能力提升等一系列问题。

数据工程价值观及原则

数据工程来源于软件工程,数据工程包含了需求、设计、构建、测试、维护演进等阶段,涉及项目管理、开发过程管理、工程工具与方法、构建管理、质量管理,是一套为了应对规模化生产和使用数据、为业务提供数据支撑,最终产生价值的体系。

同时定义了在落地实施过程中如何确保需求准确性、设计灵活性、开发便捷性、维护低成本性、架构可修改性等保障性能、质量的原则。

图:数据工程价值观及原则

三步走战略

在面对业务协同性不够、业务决策路径不清晰、组织架构可能导致的部门墙等诸多问题上,企业应当汇聚多业态、多链路中所涉及的不同业务数据、打通全产业链、构建业务生态,打造以数据为中心的价值创新产品,通过数据去产生新洞见、发现新业务、打造新产品、验证新想法,从而驱动业务的快速迭代。

在此我们推荐三步走战略:数据愿景对齐、数据工程落地实施、数据持续运营。三步自顶向下,先确定总体目标,再进行目标拆解,由目标制定具体措施,再到具体工程实践,最后以持续运营手段,完成数据从业务中来,再到业务中去的完整价值闭环。

图:数据工程落地三步走战略

面对企业不同的现状和实际情况,数据工程落地三步走战略在实际开展的时候需要结合企业情况来进行调整,并非一个绝对答案,在数据工程落地时需要从总体考虑数据治理工作要如何开展。从另一个角度来看,数据工程落地是一个持续优化迭代的过程,因此沉淀、复用、持续运营、能力建设都是数据工程落地过程中不可或缺的一部分。

图:数据工程能力复用与保障

图:数据持续运营


总结

数据工程实现与落地过程中涉及到方方面面的工作,从确认需求到后期运营;从质量管控到安全保障;从设计到实施等多个维度。意味着数据工程落地过程中需要有跨部门的合作;企业的业务与数据融合后的流程管控;对技术能力的更高的要求。这也对企业落地数据工程带来更大的挑战,挑战来源于数据工程落地的时候并非单纯的技术问题,而是技术、数据、业务相融合后的结合体。

正如本白皮书引言部分提到的“数据已经成为继土地、劳动、资本、技术之后的第五大生产要素”,任何一次科技革命都会为企业、社会甚至是全球带来冲击,我们现在正处于技术革新的过程中。

这既是挑战也是利好,挑战在于我们需要重新审视企业未来的发展方向、积累和沉淀新的技术能力并与实际的业务相融合,企业需要着手开始自己的数据能力布局;利好的是企业战略布局和转型的主动权在自己的手里。

白皮书下载地址

责任编辑:鸢玮 来源: Thoughtworks
相关推荐

2018-10-15 14:57:14

华为

2018-10-16 17:23:10

云数据

2018-10-15 23:22:41

互联网

2023-05-19 09:48:43

数据安全治理安华金和

2018-08-09 16:45:14

白皮书

2013-03-11 16:29:18

IBM大数据

2020-07-21 10:51:08

阿里云云原生

2011-11-11 00:01:14

万兆铜缆技术白皮书6A铜缆

2011-08-19 09:36:44

数据中心供配电系统白皮书

2021-06-08 15:06:22

数据安全白皮书信息安全数据

2010-10-19 21:04:23

数据中心布线白皮书

2012-09-19 21:06:07

2020-12-17 10:55:09

移动应用趋势

2020-10-27 17:52:19

英方软件灾备

2011-12-14 18:14:25

SAP

2017-09-06 16:15:47

存储

2013-02-25 17:50:27

华为无线频谱IMT

2010-01-13 08:52:21

Windows 7系统部署
点赞
收藏

51CTO技术栈公众号