轻松掌握数据仓库开发

数据库 数据仓库
数据仓库是一个面向主题的、集成的、不可更新的、随时间不断变化的数据集合,它用于支持企业或组织的决策分析处理。本文介绍了数据仓库实施过程所需要考虑的步骤.

数据仓库实施过程所需要考虑的步骤:

一、再三考虑应用程序的实现方法

数据仓库并不涉及事务处理,并且在报表方面也仅占一小部分。而数据仓库应用程序的本质是分析,尤其是针对业务智能的分析。BI并不是通常所说的数据:它是一种从旧有数据中,模型化得到的新的数据。那么如何才能从旧有数据中挖出这些新数据呢?事实上,这个工作不是让你来完成的,而是你的客户所要完成的。从项目主管的角度看,应该有一个经验丰富的数据表格设计师与你合作,进而决定如何将各类程序融合在一起。其中所遇到的最主要的挑战将是如何用新的方法观察数据,这也是你的客户正在试图使用的方法。

二、创建抽象的、良好部署的数据库访问组件

在过去你接触过的数据库项目和现在的数据仓库之间,有一点绝对不同,那就是:在Online Transaction Processing (OLTP)环境中,用户数量非常大,但使用到的数据却比较少;而在Online Analytical Processing (OLAP)环境中情况却正好相反,少量的用户在使用大量的数据。而你的工作就是编写一个应用程序来优化这种不同。这里有一个线索:在你所有的分析程序中,都要能抓取连续的数据项,这样在以后建立和访问的数据结构中才能存放与原数据物理结构类似的数据。具体如何实现呢?首先不要规格化数据。第二将其放入数组中最小化读取请求数。按照这种方法,DBA会很乐意与你合作。

三、保持松散

现在回头看看第一步,你应该可以理解定义一个分析程序不是件简单事了,而且一般情况下,很难在第一次就实现符合要求的最终产品。而在你将要进行分析的数据结构上同样存在这种问题。一句话,实现过程会有很多变数,你需要不断的改动你的程序。通常我们都希望将改动次数降到最低。在一个数据仓库实现过程中,本质是要分析过程毫无差错,这也需要DBA的参与。不要死抓住你的程序设计、代码、框图,或你建立的其它什么东西不放手,要根据这种变化而不断进行调整。

四、将管理放在首位

在分析数据源方面你做的如何呢?你是否认为清理垃圾数据的工作非常困难?并不是只有你一个人这样想,做过类似工作的人都有这种看法。在一个一般规模的机构中,作为数据仓库实现过程的一部分,会有大量的旧有数据必须进行一致性处理。所以分析数据源并花费数个小时编写转换程序将旧有数据导入数据仓库是整个数据仓库实现过程中最艰难的一部分。并且这也是整个项目中最重要的一环,可以占到整个项目周期和预算的四分之三。所以一定要小心对待。

五、从字里行间发现问题

与用户交流是个很麻烦的事情,为什么这么说呢?因为很多用户在见到最终产品前都不知道自己想要什么样的产品。定义数据仓库应用程序是一个探索的过程,而且这个过程要反复进行。记住所谓的"业务智能"是用户自己定义的,他们按照自己的理解来处理业务流程。因此这些用户就是连接数据和业务处理过程间的桥梁。他们所要的并不是数据本身,而是隐藏在数据后面的智能性。你可以让他们讨论、思考并给出建设性的意见。但千万不要让他们解决或让他们任意想象和发表那些"有可能"的观点。最后,一定要随时留意用户得出的结论。

六、保持领先

数据仓库看起来没有传统的OLTP模式根深蒂固,事实如此。虽然很多人投身数据仓库的开发中,但由于其框架与以前的系统大相径庭,因此在开始的一段时间数据仓库的实现看上去相当混乱。但是坚持下去是很重要的。它具有两方面重要的作用。

◆技术的领先性。它可以跟踪项目中任何阶段的软件工具的部署和正确使用,以及开发过程。如果这复合你的背景,你可以对此多加留意。

◆体系结构的领先性。它使得项目在各个阶段转换时,数据仓库和它所支持的系统的物理以及逻辑架构都具有持续性,不会发生改变。这也是你能提供的。

七、发出警告

最后你要记住,你并不是唯一登上新大陆的人。你周围的每一个人都会有下面一点或几点问题:不现实的期望、对技术的误解、旧习惯或坏习惯、竞争行为,或缺乏对项目的信任度。虽然交流沟通等任务应该是项目经理负责的,但实际上你也要担负起相同的责任。那么作为技术总监你该怎么作呢?首先当然是要真诚的对待周围的人,但一定要竖立威信,适当的发出警告。当你发现项目进度缓慢、资源流失,或者员工失去目标,就要直言不讳的说出来。快速明确的给予警告在大部分情况下都是明智之举。匆忙上马的数据仓库项目也许会出轨,但不要让失败的项目把你拉下马。

【编辑推荐】

  1. 走近数据库前沿技术——集群
  2. CRM中商业智能之数据挖掘全视图
  3. SQL芯片可优化MySQL数据仓库 最主要能缓解I/O瓶颈
责任编辑:杨鹏飞 来源: 赛迪网
相关推荐

2016-11-14 10:23:08

Hadoop工具大数据数据仓库

2021-09-01 10:03:44

数据仓库云数据仓库数据库

2019-05-24 11:51:18

BI数据仓库数据分析

2013-03-20 16:23:53

数据清洗

2018-07-24 09:28:18

存储数据仓库

2022-07-28 13:47:30

云计算数据仓库

2022-11-29 17:16:57

2020-01-03 09:40:13

大数据数据仓库分层

2012-07-23 14:38:16

Exalytics

2013-10-29 13:28:13

数据

2023-07-02 14:11:28

数据仓库大数据

2017-08-17 15:52:38

企业数据仓库

2016-11-16 13:34:41

Hadoop数据仓库

2017-06-27 10:08:29

数据仓库模型

2009-01-18 15:48:31

数据仓库数据存储OLTP

2023-08-14 16:56:53

2024-03-19 13:45:27

数据仓库数据湖大数据

2017-11-24 13:51:40

数据仓库数据库数据分析

2022-07-05 07:46:25

数据仓库运维智能化

2011-05-13 14:17:27

智能数据仓库
点赞
收藏

51CTO技术栈公众号