【视频采访】网易数据传输服务NDC高可用实践

企业动态
NDC全称Netease data canal,即网易数据运河,是一个平台化的结构化数据传输系统,目的是解决结构化数据的实时迁移、同步、订阅、OLTP到OLAP的实时数据整合等问题。我们希望能够借此将数据库中的数据与其他系统打通,从而构建一个能够整合所有数据库的“数据运河”,任何系统都能够从“运河”中获取数据。此次由51CTO主办的2017WOTA全球架构与运维技术峰会上,网易资深工程师马进老师分享了主题为《网易数据传输服务NDC高可用实践》的演讲。

【51CTO.com原创稿件】NDC全称Netease data canal,即网易数据运河,是一个平台化的结构化数据传输系统,目的是解决结构化数据的实时迁移、同步、订阅、OLTP到OLAP的实时数据整合等问题。我们希望能够借此将数据库中的数据与其他系统打通,从而构建一个能够整合所有数据库的“数据运河”,任何系统都能够从“运河”中获取数据。

此次由51CTO主办的2017WOTA全球架构与运维技术峰会上,网易资深工程师马进老师分享了主题为《网易数据传输服务NDC高可用实践》的演讲。

应用场景

从应用方视角看来,可以将NDC的应用场景分为三类:第一类是数据迁移,像DDB到Oracle这样的异构数字迁移,同时可以解决DDB内部在线扩容问题和迁移问题。第二类数据同步,场景较为复杂一些,如跨域甚至跨国的数据实时同步,一般不强调异构,需要解决的是高延迟,复杂拓扑管理的问题。第三类数据订阅,通过数据来驱动业务,实现业务间异步解耦。

最后,通过这些应用场景可以总结出NDC的两个核心需求:第一,获取数据库实时变更的能力。第二,数据快速发布的能力。如MySQL到Oralce的数据迁移,需要增量迁移的速度要比MySQL线上增量更新快,否则相迁移或者同步永远无法完成,这就考验NDC数据发布的速度。另外一点,是需要NDC提供完善的高可用方案,允许数据重复,但是不能丢,还要提供一个不停服务的能力。

 
责任编辑:honglu 来源: 51CTO
相关推荐

2017-05-04 12:48:18

WOT网易NDC

2020-06-12 07:50:15

大数据

2017-10-10 09:08:12

数据 系统 应用

2020-08-13 08:34:10

MySQL数据DTS

2010-04-07 14:54:38

2018-03-02 10:51:56

缓存服务器数据

2010-07-13 15:55:12

FTP数据传输模式

2023-04-12 16:20:00

同步数据异步数据传输

2015-10-14 09:44:55

TCP网络协议数据传输

2013-11-26 15:51:45

Android编程蓝牙数据传输

2009-12-08 11:17:41

WCF双向通信

2021-06-09 11:28:06

加密数据Jsencrypt

2009-07-07 16:46:33

数据传输铜缆结构

2021-12-14 11:01:44

TCPUDP网络协议

2021-10-08 08:37:38

数据传输数据调用网络协议

2019-09-06 09:11:36

以太网数据二层交换

2011-03-02 11:23:48

2022-03-30 15:06:25

数据传输Harmony源码分析

2023-07-07 11:26:08

物联网5G光传输
点赞
收藏

51CTO技术栈公众号