社区编辑申请
注册/登录
浅谈我所见识的数据治理项目
大数据
都说数据治理项目是“一把手工程”,是“永不交钥匙工程”,一把手真的比门把手都忙,先想想:咱真的需要进行数据治理吗?

01、写在前面

熟悉笔者的朋友可能知道,笔者之前做的并非纯数据相关工作(产品或项目),笔者属于半路出家的数据人,之前也几乎没有直接接触过数据仓库、数据中台、数据平台等产品或项目,与数据库是一直打交道。要说真正与数据结缘,那得从16年8月起说起,当时因公司某些产品基于传统关系型数据库与一些开源数据仓库产品(如InfoBright)跑一些功能遇到了瓶颈——实在是跑不动。

当年临时从外地出差项目组抽调回北京公司总部,从0基础开始研究开源Hadoop+Hive+Spark[-SQL]+ES集群环境的搭建,到与产品进行整合,最后就是用一些淘汰的PC服务器和精简的Hadoop相关套件搭建起集群解决了当时跑不了、跑不动、跑不完等痛点,也算是小有成就。

期间,遇过不少难题,走过不少弯路,掉进过不少坑,感谢这次机会,让笔者与数据结缘,之后所做之事就没离开过数据,路虽难,行则至;事虽难,做则成!

02、现状描述

早些年的数据项目大多数是以“XXX数据质量校验”、“XXX数据分析平台”、“XXX大数据项目”等常见的名称进行立项,而近些年多以“XXX数据治理项目”进行立项,叫啥不重要,其实所做之事基本上与前面的差不多,无非就是数据采集、数据清洗、数据加工、数据质量、数据建模、数据挖掘、数据分析、数据共享、数据应用、数据展现(可视化、BI、报表、大屏),几乎都是短平快的项目,几乎也都是基于理想化的前提下进行项目实施,而最具价值的交付成果往往是“大屏”,其实项目目标也是实现了的,也算是MVP,但从长远角度考虑,还是远远不够的,后续可能会有很多推倒重来的冲动,而又会顾虑前期的“工作成果”而不停妥协。

受限于资源与成本(预算),很难有精力去考虑或沉下心规划更高、更深层次的东西,诸如:数据管理战略、数据管理框架、数据管理文化、数据管理组织、数据生命周期,及元数据管理、主数据管理、参考数据管理、数据安全管理等……学过DAMA-DMBOK2知识体系的都知道,万变不离其宗,基本市面上绝大多数与数据治理相关的产品都是基于其知识体系所构思和设计研发的,但是上一套这类系统是否就能彻底解决数据治理相关的问题了呢?

DAMA-DMBOK2数据管理框架(DAMA车轮图)

DAMA车轮图演变

或许大家都有思考,但是基本上思考这些问题的人往往只有IT部门+外包服务厂商的人员,业务部门的人员参与较少,也缺乏强有力的“一把手”牵头,部门墙、数据孤岛、数据烟囱该存在还是存在。

03、现状问题

一、从数据来源方面看

有数据标准却很难执行,无数据标准则更是头疼。

大部分数据来源于外部(下级机构、平行部门、其他第三方),源头不可控,源头数据质量很难提前预判。

二、从数据处理方面看

缺乏数据处理基准、标准、原则和流程,摸着石头过河,偶尔搬起石头手滑也会砸到自己脚,这些都是常态。

数据处理过程中,通常很难提前知道数据质量的问题,大部分是做一点冒一点,发现一个反馈一个,发现问题的反馈路径和流程过于繁琐,或上游也很难在短期内改正,甚至改不了。

三、从数据使用方面看

按照既定需求提供的数据并不能达到预期的使用效果,不是数不对,就是数不准,问题根源很难找到并解决。

下游用数需求无法很好的确认,有的需求变更或新增需求的提出,现有数据无法满足,需要从多方源头重新找数。

四、从其他方面看

时间紧,任务重,相关方支持配合不到位,脏活累活很难被认可,能很快看到漂亮的成果(大屏),但很难看到漂亮的结果(数据)。

工欲善其事必先利其器,而“器”不光指“工具”或“系统”,笔者认为,数据治理类项目,人最为重要。

04、解决思路

在笔者所处角色来看,以上很多问题是一个死结,一己之力根本解不开,但笔者坚信,随着时间的沉淀,一定会有转变的,数据治理的项目也会越来越“好做”。

化繁为简,一开始不用投入那么多人员,而是组建一个小团队,先把数据一点一点梳理清楚、探查明白,而不是学着别人先做什么组织上的变革,成立什么委员会、办公室等新组织,大家都很忙,这种事情根本不现实。

实在不行,咱也学学别人,立个纯咨询项目,专业的事情交给专业的人去折腾,那么问题来了,外来的和尚真的更会念经?

从源头抓起,有很多工作根本不需要通过数据治理工作去解决,绝大多数问题都是上游系统的设计不合理或BUG造成,如果是内部数据,可以尝试从上游系统开始下手,该改设计改设计,该修BUG修BUG,总比在数据治理过程中处理要靠谱,治标不治本,成倍耗成本,毕竟上游系统肯定需要一直用,有问题也得改,倒不如前人栽树后人乘凉,都是自己人,遇事好商量。

05、写在最后

都说数据治理项目是“一把手工程”,是“永不交钥匙工程”,一把手真的比门把手都忙,先想想:

咱真的需要进行数据治理吗?

见过一些系统,还没设计/开发呢,就要求出具针对该系统的数据治理方案,前瞻性有必要这么前瞻吗?咱好好开发系统,后面直接来个简单的数据抽取入仓进湖不是更好吗?非得经过复杂的ETL过程才显得数据更具价值?

  • 咱该如何做好这类产品呢?
  • 咱该如何做好这类咨询项目呢?
  • 咱该如何做好这类实施项目呢?
  • ……

编者按:本文作者志明,IT&DT从业十余年,主要关注数据管理、数据治理、数字化转型、项目管理等相关领域,拥有CDGP、CDGA、PMP、IPMP等认证。

责任编辑:未丽燕 来源: ITPUB
相关推荐

2022-06-05 21:09:47

Python办公自动化

2022-06-16 17:02:49

微软智能云混合云Azure

2022-06-15 08:25:07

Python天气数据可视化分析

2022-06-15 08:21:49

Linux运维工程师

2022-06-27 15:25:08

架构模型治理

2022-06-08 00:10:33

数据治理框架

2022-06-28 14:47:43

数据中心服务器科技

2022-05-13 11:24:09

数据美团

2022-05-31 06:04:14

2022-06-26 09:55:00

接口自动化项目

2022-06-16 15:42:16

攻击面管理ASM

2022-06-27 23:44:37

云原生云存储云计算

2022-05-30 14:15:39

人工智能算法数据安全

2022-06-15 10:30:07

数据中心5G蜂窝网络

2022-06-27 19:01:04

Python应用程序数据

2022-06-24 11:14:00

美团开源

2022-04-14 14:09:25

数据治理数字化转型工具

2022-06-21 21:47:13

数据系统

2022-06-01 12:04:02

项目Webpack

2022-06-17 18:32:54

开源大数据数据调度

同话题下的热门内容

字节跳动数据平台技术揭秘:基于ClickHouse的复杂查询实现与优化使用Java和Python进行数据统计和分析高考大数据:2022年最有“钱”途的十大专业如何设计数据可视化平台云数据仓库中的数据安全思考美团:踩雷好几年,才总结出的数据治理避坑攻略王晶晶:京东零售海量日志数据处理实践如何用好数据科学?

编辑推荐

使用Pandas&NumPy进行数据清洗的6大常用方法2018年7款最佳免费数据分析工具pyspark访问hive数据实战【漫谈数据仓库】 如何优雅地设计数据分层人工智能、大数据与深度学习之间的关系和差异
我收藏的内容
点赞
收藏

51CTO技术栈公众号