51CTO首页
AI.x社区
博客
学堂
精品班
直播训练营
企业培训
鸿蒙开发者社区
WOT技术大会
AIGC创新中国行
公众号矩阵
移动端
短视频免费课程课程排行直播课软考学堂
全部课程厂商认证IT技术2024年软考PMP项目管理软考资讯
在线学习
文章资源问答课堂专栏直播
51CTO
鸿蒙开发者社区
51CTO技术栈
51CTO官微
51CTO学堂
51CTO博客
CTO训练营
鸿蒙开发者社区订阅号
51CTO题库小程序
51CTO学堂APP
51CTO学堂企业版APP
鸿蒙开发者社区视频号
账号设置 退出

大数据

8797内容  
大数据话题包括大数据相关的最新资讯、前沿技术、使用技巧、应用案例等内容，涉及数据分析、数据可视化、商业智能、Hadoop、Spark、数据湖、数据仓库、等领域。
文章 博文帖子课程
共 8797 条
确定数据分布正态性的11种基本方法
本文将介绍测试数据正态性的11种基本方法，帮助读者更好地理解数据分布的特征和如何应用合适的方法进行分析。

2023-12-07 19:00:25

数据科学机器学习数据可视化
2023年五个自动化EDA库推荐
EDA或探索性数据分析是一项耗时的工作，但是由于EDA是不可避免的，所以Python出现了很多自动化库来减少执行分析所需的时间。EDA的主要目标不是制作花哨的图形或创建彩色的图形，而是获得对数据集的理解，并获得对变量之间的分布和相关性的初步见解。

2023-12-07 14:34:00

EDA数据集数据分析
经营分析，如何诊断业务问题
所谓“屋漏偏逢连夜雨”，就是这个局面。此时，想要用数据描述问题，容易，树个标杆就能看出差距。想用数据诊断问题，就得突破上边层层险阻，争取业务的支持和老板的理解，才能见效。这是从数据到落地的必经之路。

2023-12-07 12:38:07

经营分析诊断业务数据
2024年企业在数据安全战略方面有哪些变化
根据IBM的数据，2023年数据泄露的平均成本达到了创纪录的445万美元，比2020年上涨了15%，仅是财务影响就足以终结一家企业，但数据泄露也可能对品牌声誉和客户对企业的看法产生毁灭性影响。

2023-12-06 16:40:36

大数据数据安全
数据科学家95%的时间都在使用的11个基本图表
了解数据科学中最重要和最有用的图表非常重要，本文将带来数据科学家95%的时间都在使用的11个基本图表。

2023-12-06 13:42:00

图表可视化
用第三方拖拽库快速撸一个可视化搭建平台
全选和组合实现的思路其实本质上是对数组的操作. 全选的过程中, 我们需要先捕获全选的区域坐标, 然后过滤出这个区域内的组件, 然后批量更新数组中每个选中元素的选中状态。

2023-12-06 08:07:13

拖拽库可视化
小米数据生产平台的产品设计方法与实践
本文将分享小米数据生产平台的设计与实践。数据从生产到应用全流程大致可以分为 5 个步骤，首先是数据的产生，接下来对产生的数据进行收集，再找个容器存储起来，存储后进行处理加工，最后把数据投入应用。大部分数据产品都对应这五个环节。

2023-12-06 07:16:17

数据生产平台数据存储
网易数帆指标中台构建核心技术解析
本文将分享网易数帆在指标中台构建方面的实践。网易数帆指标中台（EasyMetrics）介于数据中台和下游的数据应用（主要是 BI）之间，提供了指标的标准化能力。通过“一次定义，多次复用”（Build once , use many），为业务决策和管理提供单一、可信的数据来源，解决长期以来指标口径不一致的问题。

2023-12-05 07:26:29

指标中台大数据
大数据：成功企业背后的燃料
行业专家指出，信息分析一直在发展，这主要受益于机器学习、人工智能的出现，以及企业越来越重视高级数据分析。

2023-12-04 14:02:43

大数据信息分析
Apache Celeborn 社区的今天和明天
本文将介绍 Apache Celeborn 的用途、核心设计及其社区现状与发展规划。数据的转换指的是数据发生变化、产生新的数据或者被过滤掉等。具体的实现方式包括算子和 UDF，如常见的 Filter、Project、Aggregation、Join，内置 function，自定义 UDF 等。

2023-12-04 07:42:13

大数据数据的转换
技术 or 业务？数据分析发展路径大盘点
本身，数据分析能力是个底层能力，各种岗位，各类公司都有需求。特别是最近各行各业的数字化转型大潮，使得做数据的同学在业务上，技术上都多了很多公司和行业可以选择。

2023-12-03 09:10:00

技术业务数据分析
大数据时代的数据集蒸馏，大型数据集上的首次成功
11 月 30 日，全球第一所人工智能大学——穆罕默德·本·扎耶德人工智能大学（MBZUAI），在 arXiv 预印平台发布了题为《大数据时代的数据集蒸馏》（Dataset Distillation in Large Data Era）的文章。

2023-12-01 16:23:52

大数据人工智能
数据湖和中央数据仓库的设计
数据网格（Data Mesh）具有相同的功能集，以满足领域驱动的分散化的目的。为了设计数据网格，强调遵循4个原则，并针对组织中不同团队提供了不同的责任。

2023-12-01 14:55:32

数据网格数据湖
如何看待大数据云原生发展之路--观 2023 云栖大会有感
作为一个大数据从业者，在公有云和容器化发展的大趋势下，我们关注的重点已经不仅仅是大模型，大数据在未来几年发展的重点方向是什么，大数据的技术演进路线会如何。

2023-12-01 08:36:01

大数据公有云容器
一起学 Elasticsearch 系列-聚合查询
聚合查询是 Elasticsearch 中一种强大的数据分析工具，用于从索引中提取和计算有关数据的统计信息。

2023-11-30 15:23:07

聚合查询数据分析
探索性数据分析（EDA）之数据可视化案例：附数据集和源码
在这篇文章中，我们使用数据可视化在数据集上做了一系列的实验和测试，基于各个变量对数据集做了一些分析，比如单变量分析和可视化（条形图、饼图、折线图、直方图）；热力图可看作是双变量分析，因为它呈现了两两变量之间的相关性。

2023-11-30 07:23:53

数据分析EDA
六种替代方案告别传统可视化图表，数据科学家必备！
数据可视化是数据科学中至关重要的一环，散点图、条形图、线图、箱线图和热图等常见图表广泛应用于数据分析和呈现。本文中，笔者为大家总结了这些热门图表的几种替代方案。

2023-11-29 20:24:45

数据可视化图表
释放非结构化数据力量的八个技巧
非结构化数据资源对于获得业务洞察和解决问题非常有价值，关键是弄清楚如何创造这种价值。熟练利用这些海量信息资源的企业可以在向关键业务流程提供可操作的洞察方面获得显著优势。

2023-11-29 17:08:29

非结构化数据数据分析
不了解数据管理可能会阻碍业务的发展
数据在过去十年里风靡一时，被宣布为数字经济的“新石油”，是的，数据具有为你的企业创造价值的巨大潜力，这使得其收益和对其的分析(即数据科学)非常令人兴奋。

2023-11-29 17:07:18

数据管理数据科学
加薪之路：高级数据分析师必备的八大能力
设计标签能力和梳理指标一样重要，但是经常被人忽视。高级的数据分析师可不是只会把维度表里的城市、性别、年龄拖出来用，而是能很敏锐地从业务口中捕捉到“高级用户”“长线运营”“防御性产品”这种词语，然后试着用数据量化。

2023-11-29 13:50:00

数据分析师
推荐多任务 2023 最新进展：用户生命周期视角下的多任务推荐模型 STAN
自从 MMoE 和 PLE 大杀四方，获得 RecSys Best Paper，多任务 CTR/CVR/StayTime 还有什么做法？本文介绍了 Shopee 提出的在用户分群基础上进一步细化多任务效果的优化方法--用户生命周期视角下的多任务推荐模型。

2023-11-29 07:25:58

生命周期数据分析
严把数据质量关，用Pandas轻松进行七项基本数据检查
当在处理较小的数据分析项目时，使用Pandas进行这些数据质量检查是一个很好的起点。根据问题和数据集的不同，还可以加入其他检查。

2023-11-28 18:15:42

Pandas数据检查
我们一起捋捋数据分析落地全流程
面对细节数据缺失，可以用管理手段配合数据建设。比如要求客服在首次接单且售后无异常的情况下，接单30分钟内完成分配，有异常就人工反馈标注。

2023-11-28 12:42:56

数据分析管理
混合存储架构中的数据编排
Alluxio 不仅适用于传统 Hadoop 环境，还可与现代大数据生态系统、云原生应用程序的存储和计算资源无缝集成。在混合云、混合存储架构中，Alluxio 作为数据联邦桥梁，为自治数据系统之间提供数据共享的解决方案。

2023-11-28 07:29:17

Alluxio数据编排系统
七个有创意的数据结构与算法可视化网站，推荐给老师、学生和开发人员
今天特别推荐一些有创意的数据结构与算法交互式可视化平台。特别适合学生、教师以及算法开发工程师。

2023-11-27 16:41:25

数据结构可视化
数据湖与数据仓库之间的五大差异
根据Google的说法，对“大数据”的兴趣已经持续了好几年，而且在过去几年里真正的兴起。这篇文章的目的是为了帮助突出数据湖泊和数据仓库之间的差异，帮助您就如何管理数据做出明智的决定。

2023-11-27 16:35:28

数据湖数据仓库
区块链是否会颠覆电商行业的大数据？
区块链的独特功能，包括其公共分类账、去中心化性质以及合并区块链ID，呈现了电子商务环境中数据管理方式的范式转变，这项技术能够增强安全性，提供透明的数据交易，并使用户能够控制自己的信息，这表明它对大数据实践产生了颠覆性的影响。

2023-11-27 15:38:05

区块链大数据
Python Pandas数据预处理：你知道数据标准化吗？
z 映射的值是用当前特征值与比较数组的平均值之差，除以比较数组的标准差计算得来的。例如，我们可以计算列 deceduti 的 z-map，使用列 terapia_intenva 作为比较数组。我们可以使用 scipy.stats​ 库的 zmap() 函数实现。

2023-11-27 13:58:00

数据预处理数据标准化
业务模型 VS 算法模型，到底该怎么用？
典型的业务模型RFM，做用户分层时，如果每个指标分3类，那么就有3*3*3=27类，在业务上已经复杂到很难匹配对应策略了。但是如果用协同过滤算法，完全可以做到千人千面，这也是算法模型的巨大优势。

2023-11-27 12:24:23

算法模型业务模型
浅谈工作中常用的数据分析方法
本文将从业务指标建立、业务指标体系搭建到常用的数据分析方法进行介绍。

2023-11-26 17:47:00

数据分析
数据分析经典方法之：周期性分析法
周期分析法，还是更深入分析的基础。比如做预测，如果能拆分出整体数据中周期规律，预测就非常简单！比如做指标异动分析，如果已知有几个因素在影响，每个因素自身周期规律，那么追溯真实原因也很容易。很多同学做得不深入的原因，就是对基础规律了解不够。​

2023-11-26 08:20:35

数据分析周期性
Python：打造可视化数据分析应用的实战指南！
本文介绍了如何使用Python打造可视化数据分析应用，以及NumPy、Pandas和Matplotlib这些常用模块的使用方法和代码案例。

2023-11-24 14:02:00

Python数据分析
腾讯 PCG 数据治理体系
本次分享题目为腾讯 PCG 数据治理体系。腾讯 PCG 内容与平台事业群，包括大家所熟知的 QQ、腾讯视频、腾讯新闻、阅文集团，以及腾讯音乐等业务。

2023-11-24 07:10:44

数据治理PCG
大话数仓，数据仓库，维度建模方法（二）
前文已经简单介绍了什么是数据仓库，数据仓库事实表、维表等相关概念。在了解这些概念之后，我们要建设符合企业要求，能支持业务使用、运营分析的数据仓库。

2023-11-23 16:59:37

数据仓库建模
大话数仓，数据仓库（一）
数据仓库，是越来越流行的数据解决方案。传统烟囱式的数据开发模式，显然不能满足日益增长的数据需求，而作为大数据量化方案、解决大数据问题、发掘数据价值的大数据仓库被很多公司采纳使用。

2023-11-23 16:53:56

数据仓库大数据
大数据在推动心理健康研究中的作用
大数据在心理健康研究中的作用是变革性的。它使研究人员能够利用统计方法，考虑到遗传和环境因素，并解决建立因果关系的挑战，来解决心理健康的复杂性。

2023-11-23 10:08:06

大数据心理健康
如何通过提高数据质量来做出可靠有效的决策
当企业的数据出错时，没有简单的方法来指导企业。随着数据规模的显著增长，人们可能会觉得真正的数据质量几乎不可能实现，然而，通过意识到劣质数据的症状，企业可以迅速采取行动并解决更深层次的问题，使它们重新走上高质量数据的道路，并增强决策信心。

2023-11-22 16:08:29

大数据提高数据质量
AI如何扩展数据分析并使其更高效
通过自动化各种分析任务和简化分析生命周期，AI将错误降至最低，释放人力资源用于战略工作，并削减运营成本。在AI和数据之间的这种共生关系中，企业为扩展分析和推动数据驱动的决策找到了一个强大的支持力量。

2023-11-21 16:02:56

数据分析人工智能
火山引擎 DataLeap 计算治理自动化解决方案实践和思考
本文旨在探讨火山引擎 DataLeap 在处理计算治理过程中所面临的问题及其解决方案，并展示这些解决方案带来的实际收益。

2023-11-21 07:21:39

火山引擎计算治理自动化
知乎是怎样进行埋点平台建设升级的？
在望海，京东，美团等公司参与过基础引擎研发和业务系统研发工作，目前在知乎负责埋点数据系统研发工作。埋点是大数据时代不可或缺的核心数据来源，其价值和作用在不断扩大和提升。在未来的数据时代，埋点将继续扮演着重要的角色，为数据分析和决策提供有力支持。

2023-11-21 07:14:43

埋点大数据
GenAI时代的数据治理蓝图
随着GenAI的不断发展，掌握数据治理变得更加关键，这不仅仅是为了维护数据质量，也是为了理解这些数据与利用它的AI模型之间的复杂关系。这种洞察力对于技术进步、业务健康以及维护利益相关者和更广泛公众的信任至关重要。

2023-11-20 15:52:18

GenAI人工智能
探索大数据的阴暗面
大数据在改变企业及其经营方式方面有着巨大的力量。如今，企业正贪婪地寻找在日益激烈的竞争环境中脱颖而出的方法，大数据为其实现目标铺平了道路。

2023-11-20 14:32:48

大数据企业
布隆vs布谷鸟：哪种过滤器最适合你的大数据需求？
布隆过滤器（Bloom Filter）和布谷鸟过滤器（Cuckoo Filter）是两种概率型数据结构，用于快速而高效地检查一个元素是否属于一个集合。尽管它们都能够用于这一目的，但在实现细节、性能特点和使用场景上存在不同。

2023-11-20 14:18:55

大数据布隆过滤器布谷鸟过滤器
从Clickhouse迁移到Doris，数据仓库性能大提升
本文分享如何从ClickHouse迁移到Doris的过程，包括为什么需要更改，需要注意什么以及如何比较两个数据库在各自环境中的性能。

2023-11-17 18:02:19

数据仓库性能Doris
聊一聊几款主流消息队列之间的差异，我们应该如何选择
消息队列是历史最悠久的中间件之一，它可以和不同的进程进行通信，从而实现上下游之间的消息传递。基于此特性，我们可以在以下三个场景中使用消息队列。

2023-11-17 15:08:24

消息队列大数据
BI 数据可视化平台建设（2）—筛选器组件升级实践
本文主要介绍了BI数据可视化平台建设中比较核心的筛选器组件， 涉及组件分类、组件库开发等升级实践经验，通过分享一些对交互和业务耦合度高的组件开发迭代的思考，希望可以给正在做组件重构解耦的读者带来启发。

2023-11-16 11:34:05

BI大数据
小米数据中台建设实践赋能业务增长！
本文将介绍小米数据中台部门在销售数仓建设方面的实践。文章将从小米销售数仓的发展历程开始，介绍其定位、内容、作用、规模等，并分享数仓建设常用的维度建模和分层理论，以及小米销售数仓的架构演进和能力沉淀。

2023-11-15 13:36:00

数仓建设数据中台
如何通过数据分析推动数字时代营销的演变
在这个数字时代，技术和数据引导成功的营销活动，数据分析已成为企业在这个动态环境中生存和发展不可或缺的工具。通过利用数据分析，企业可以根据洞察做出决策，个性化营销策略，精确定位目标受众，并准确评估营销计划的结果。

2023-11-15 10:08:33

数据分析大数据
从零开始学习数据分析之MySQL入门
最近，我的一位证券行业的铁哥们想要学习SQL，来取代Excel做数据处理。因此，我决定开设一个系列，从基础知识开始，介绍数据分析的相关内容。这个系列不仅涵盖MySQL的SQL语句，还将涉及使用pymysql操作、Pandas用法、PySparkSQL、PySpark算子的使用以及商业智能（BI）报表平台等方面的内容。

2023-11-14 16:14:49

数据分析MySQL大数据
数据湖成功的七个优秀实践
如果没有适当的管理和实施，数据湖很快就会变得难以管理且难以使用。在本文中，我们将讨论一些关键的数据湖最佳实践，以确保数据管理从一开始就得到优化。

2023-11-14 14:25:09

数据湖大数据
上一页 1 ··· 34567 ··· 176
点赞

51CTO技术栈公众号

业务
速览
在线客服