大数据的关键技术有哪些?

大数据
大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。那么,大数据的关键技术有哪些呢?今天就跟随小编一起来了解下吧!

[[384807]]

1、数据收集

大数据时代,数据的来源极其广泛,数据有不同的类型和格式,同时呈现爆发性增长的态势,这些特性对数据收集技术也提出了更高的要求。数据收集需要从不同的数据源实时的或及时的收集不同类型的数据并发送给存储系统或数据中间件系统进行后续处理。

2、数据预处理

数据的质量对数据的价值大小有直接影响,低质量数据将导致低质量的分析和挖掘结果。广义的数据质量涉及许多因素,如数据的准确性、完整性、一致性、时效性、可信性与可解释性等。

3、数据存储

分布式存储与访问是大数据存储的关键技术,它具有经济、高效、容错好等特点。分布式存储技术与数据存储介质的类型和数据的组织管理形式直接相关。

4、数据处理

分布式数据处理技术一方面与分布式存储形式直接相关,另一方面也与业务数据的温度类型(冷数据、热数据)相关。目前主要的数据处理计算模型包括MapReduce计算模型、DAG计算模型、BSP计算模型等。

 

责任编辑:姜华 来源: 中国IDC圈
相关推荐

2020-12-23 15:21:22

大数据大数据技术

2015-09-11 13:54:51

大数据关键技术

2018-01-03 00:38:20

大数据Hadoop分布式文件系统

2017-07-20 06:08:04

大数据自服务智能化

2018-12-04 15:32:09

数据处理大数据数据分析

2023-12-10 10:09:25

Android插件化技术

2019-12-12 09:04:00

5G技术流量

2020-11-20 14:15:23

大数据数据存储

2021-04-08 10:45:37

大数据技术安全

2021-04-28 11:33:07

大数据互联网大数据应用

2019-07-02 14:16:07

5G承载网网络

2017-01-11 09:31:41

2021-01-27 09:18:50

大数据数据收集大数据分析

2019-09-18 20:28:26

大数据数据处理数据采集

2019-03-05 14:57:21

大数据Hadoop框架

2015-08-25 10:32:07

健康大数据

2023-09-20 20:11:07

Java

2018-05-19 00:13:08

2018-05-20 15:43:50

2020-12-21 13:55:44

大数据大数据处理
点赞
收藏

51CTO技术栈公众号