如何构建下一代大数据架构——数据湖

大数据 数据湖
大数据是一个企业投入了大量资金的热门话题,但要注意,除了考虑数据规模,我们还需要考虑到被分析数据类型的多样性。数据种类不同意味着数据集可以存储在许多格式和存储系统中,每个类型都有自己的特征。

 如何创建一个适用于多样数据类型,并可扩展的敏捷数据平台?答案就在数据湖中!

[[184900]]

图片源于网络

技术和软件的进步使我们能够处理和分析大量数据。虽然很明显,大数据是一个企业投入了大量资金的热门话题,但要注意,除了考虑数据规模,我们还需要考虑到被分析数据类型的多样性。数据种类不同意味着数据集可以存储在许多格式和存储系统中,每个类型都有自己的特征。

考虑数据多样性是一项艰巨的任务,但有一种方法可以使你360度全面了解你的客户,提供商和运营商。为了实现这种方法,我们需要实现下一代大数据架构。接下来,我们来看一下如何构建下一代大数据架构。

如今,较具前瞻性的企业都越来越依赖数据湖。数据湖是管理事务数据库,同时,数据湖也可以看做是一个大数据分析平台。数据湖支持不同来源的数据,如文件,点击流,IoT传感器数据,社交网络数据和SaaS应用程序数据。

数据湖的核心原则是存储原始的,未经改变的数据。这让数据分析和探索更具有灵活性,并且还允许查询和算法基于历史和当前数据,而不是基于单个时间点的快照来演变。数据湖可将数据集中到一个公共存储库中,以此避免信息孤岛。该存储库很可能分布在许多物理机上,但最终将为用户提供透明访问和基础分布式存储的统一视图。此外,数据不仅是分布式的而且是复制的,因此可以确保数据的易访问和可用性。

数据湖存储所有类型的数据,包括结构化和非结构化数据,并通过整个企业的统一视图提供民主化访问。通过这种方法,用户可以在单个平台支持许多不同的数据源和数据类型。 数据库加强了企业现有的IT基础架构,与传统应用程序集成,增强(甚至替换)企业数据仓库(EDW)环境,并可利用日益增长的数据种类和数据量为新应用程序提供支持。

能够存储不同类型的数据是数据湖的一个重要特征,这保证了用户不会丢弃任何有价值的元数据或原属性,不同的数据分析技术也可用于数据的各阶段,避免了仅在其被聚合或变换之后才处理数据而产生的限制。创建可以使用不同算法查询的统一存储库,包括传统EDW环境范围之外的SQL备选方案,是数据湖的标志和大数据战略的基本部分。

为了实现数据湖的***价值,必须保证数据的质量和可靠性——即确保数据湖可以恰当地反映公司业务。可以轻松访问,让用户能够更快识别他们想要使用的数据。为了管理数据湖,关键是具有清理,保护和操作数据的流程。

构建数据湖不是一个简单的过程,必须决定采集哪些数据,以及如何组织和编目数据。 虽然它不是一个自动化的过程,但有相应的工具和产品来简化企业级现代数据湖架构的创建和管理。这些工具允许提取不同类型的数据包括流,结构化和非结构化,所有这些都为敏捷数据湖平台的创建打下了基础。

责任编辑:武晓燕 来源: it168
相关推荐

2012-11-16 11:31:39

大数据CRM

2015-10-15 10:30:32

2018-05-17 11:31:45

大数据IOTA架构数据架构

2013-07-22 09:47:17

大数据IBM技术大会

2015-03-09 14:24:59

TeradataAppCenterAster

2013-07-27 21:28:44

2017-11-13 15:25:02

2012-06-07 09:06:04

主流云计算产品大数据分析

2016-11-14 18:17:42

Apache Beam大数据

2013-05-08 16:53:31

华为云数据中心网络架构

2010-04-29 16:19:27

数据中心IT安全世纪互联

2022-09-07 12:27:42

存储系统

2022-07-06 11:38:40

人工智能AI

2013-06-27 11:21:17

2011-11-03 14:19:15

2012-07-31 14:12:56

数据中心布线布线数据中心

2013-05-22 10:23:50

SDN软件定义网络数据中心

2015-10-19 17:15:33

网络架构/华三

2020-08-27 14:59:08

K8sDevOps平台

2010-04-12 10:52:37

刀片下一代数据中心
点赞
收藏

51CTO技术栈公众号