一篇带你了解什么是分布式ID

开发 前端 分布式
在分布式系统中,经常需要一些全局唯一的ID对数据、消息、http请求等进行唯一标识。那么这个全局唯一ID就叫分布式ID。

[[409671]]

一 .什么是分布式ID

在分布式系统中,经常需要一些全局唯一的ID对数据、消息、http请求等进行唯一标识。那么这个全局唯一ID就叫分布式ID

二 .为什么需要分布式ID

1.如果id我们使用的是数据库的自增长类型,在分布式系统中需要分库和分表时,会有两个相同的表,有可能产生主键冲突。

2.电商订单号,采用自增方式,是最简单的生成规则。但是!这种与流水号相同的订单号很容易就被竞争对手看出你公司真实的运营信息。

三 .分布式ID需要满足哪些条件

全局唯一:必须保证ID是全局性唯一的

高性能:高可用低延时,ID生成响应要快,否则会成为业务瓶颈

高可用:100%的可用性是骗人的,但是也要无限接近于100%的可用性

好接入:要秉着拿来即用的设计原则,在系统设计和实现上要尽可能的简单

趋势递增:最好趋势递增,这个要求就得看具体业务场景了,一般不严格要求

安全性:如果ID连续生成,势必会泄露业务信息,甚至可能被猜出,所以需要无规则不规则。

易读性:不要太长,想象一下用户在售后的时候本身就处在一个焦躁的心情中,再让他报/输一个很长的订单号,很容易造成错误率高,这个时候只能烦上加烦。如果订单号实在太长,还有一种办法:断句。

可扩展性:淘宝的订单号在最初的时候也还是12位、14位,现在已经变成16位了,随着一个网站的交易量逐年上升,订单号不可避免的会变长。

四 .分布式ID生成方式

  • UUID
  • 数据库自增ID
  • 数据库多主模式
  • 号段模式
  • Redis
  • 雪花算法(SnowFlake)
  • 美团(Leaf)

注:主流生成ID方案都是基于数据库号段模式和雪花算法

五 .优缺点

1. 基于UUID

优点:

  • 生成足够简单,本地生成无网络消耗,具有唯一性

缺点:

  • 无序的字符串,不具备趋势自增特性
  • 没有具体的业务含义
  • 长度过长16字节128位,36位长度的字符串,存储以及查询对MySQL的性能消耗较大,MySQL官方明确建议主键要尽量越短越好,作为数据库主键UUID的无序性会导致数据位置频繁变动,严重影响性能。

2. 基于数据库自增ID

当我们需要一个ID的时候,向表中插入一条记录返回主键ID,但这种方式有一个比较致命的缺点,访问量激增时MySQL本身就是系统的瓶颈,用它来实现分布式服务风险比较大,不推荐!

优点:

实现简单,ID单调自增,数值类型查询速度快

缺点:

DB单点存在宕机风险,无法扛住高并发场景

3. 基于数据库集群模式

前边说了单点数据库方式不可取,那对上边的方式做一些高可用优化,换成主从模式集群。害怕一个主节点挂掉没法用,那就做双主模式集群,也就是两个Mysql实例都能单独的生产自增ID。那这样还会有个问题,两个MySQL实例的自增ID都从1开始,会生成重复的ID怎么办?

解决方案:设置起始值和自增步长

MySQL_1 配置:

  1. set @@auto_increment_offset = 1; -- 起始值 
  2. set @@auto_increment_increment = 2; -- 步长 

 MySQL_2 配置:

  1. set @@auto_increment_offset = 2;     -- 起始值 
  2. set @@auto_increment_increment = 2;  -- 步长 

这样两个MySQL实例的自增ID分别就是:

  1. 1、3、5、7、9  
  2. 2、4、6、8、10 

那如果集群后的性能还是扛不住高并发咋办?就要进行MySQL扩容增加节点,这是一个比较麻烦的事。

增加第三台MySQL实例需要人工修改一、二两台MySQL实例的起始值和步长,把第三台机器的ID起始生成位置设定在比现有最大自增ID的位置远一些,但必须在一、二两台MySQL实例ID还没有增长到第三台MySQL实例的起始ID值的时候,否则自增ID就要出现重复了,必要时可能还需要停机修改。

优点:

  • 解决DB单点问题

缺点:

  • 不利于后续扩容,而且实际上单个数据库自身压力还是大,依旧无法满足高并发场景。

4. 基于数据库的号段模式

号段模式是当下分布式ID生成器的主流实现方式之一,号段模式可以理解为从数据库批量的获取自增ID,每次从数据库取出一个号段范围,例如 (1,1000] 代表1000个ID,具体的业务服务将本号段,生成1~1000的自增ID并加载到内存。

由于多业务端可能同时操作,所以采用版本号version乐观锁方式更新,这种分布式ID生成方式不强依赖于数据库,不会频繁的访问数据库,对数据库的压力小很多。

5. 基于Redis模式

利用redis的incr命令实现ID的原子性自增。

  1. 127.0.0.1:6379> set seq_id 1     // 初始化自增ID为1 
  2. OK 
  3. 127.0.0.1:6379> incr seq_id      // 增加1,并返回递增后的数值 
  4. (integer) 2 

用redis实现需要注意一点,要考虑到redis持久化的问题。redis有两种持久化方式RDB和AOF

  • RDB会定时打一个快照进行持久化,假如连续自增但redis没及时持久化,而这会Redis挂掉了,重启Redis后会出现ID重复的情况。
  • AOF会对每条写命令进行持久化,即使Redis挂掉了也不会出现ID重复的情况,但由于incr命令的特殊性,会导致Redis重启恢复的数据时间过长。

6. 基于雪花算法(Snowflake)模式

雪花算法(Snowflake)是twitter公司内部分布式项目采用的ID生成算法

Snowflake生成的是Long类型的ID,一个Long类型占8个字节,每个字节占8比特,也就是说一个Long类型占64个比特。Snowflake ID组成结构:正数位(占1比特)+ 时间戳(占41比特)+ 机器ID(占5比特)+ 数据中心(占5比特)+ 自增值(占12比特),总共64比特组成的一个Long类型。

  • 第一个bit位(1bit):Java中long的最高位是符号位代表正负,正数是0,负数是1,一般生成ID都为正数,所以默认为0。
  • 时间戳部分(41bit):毫秒级的时间,不建议存当前时间戳,而是用(当前时间戳 - 固定开始时间戳)的差值,可以使产生的ID从更小的值开始;41位的时间戳可以使用69年,(1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69年
  • 工作机器id(10bit):也被叫做workId,这个可以灵活配置,机房或者机器号组合都可以。
  • 序列号部分(12bit),自增值支持同一毫秒内同一个节点可以生成4096个ID

根据这个算法的逻辑,只需要将这个算法用Java语言实现出来,封装为一个工具方法,那么各个业务应用可以直接使用该工具方法来获取分布式ID,只需保证每个业务应用有自己的工作机器id即可,而不需要单独去搭建一个获取分布式ID的应用。

雪花算法目前存在时间回拨问题,而且不同的机器也无法完全保证时间一样,所以可能会出现重复问题。

7. 美团(Leaf)

Leaf由美团开发,支持号段模式和snowflake算法模式,可以切换使用。

分布式ID基础篇

 

责任编辑:姜华 来源: 今日头条
相关推荐

2021-05-12 16:09:18

Python分布式进程接口

2022-03-23 08:31:25

LRU 算法JavaScripLFU 缓存算法

2021-05-20 06:57:16

RabbitMQ开源消息

2018-06-25 10:10:11

分布式事务Transaction

2021-06-28 14:45:07

分布式框架操作

2022-07-31 20:00:59

云原生云计算

2022-11-10 16:55:41

ReactFiber

2022-12-21 08:40:05

限流器分布式限流

2021-11-24 08:51:32

Node.js监听函数

2021-11-08 08:42:44

CentOS Supervisor运维

2021-08-02 06:34:55

Redis删除策略开源

2021-12-15 11:52:34

GPLLinuxGNU

2021-05-19 08:12:39

etcd分布式锁分布式系统

2021-07-28 10:02:54

建造者模式代码

2023-05-12 08:19:12

Netty程序框架

2021-06-30 00:20:12

Hangfire.NET平台

2021-07-14 08:24:23

TCPIP 通信协议

2021-08-11 07:02:21

npm包管理器工具

2022-05-30 18:18:23

NoSQL数据库

2023-07-30 15:18:54

JavaScript属性
点赞
收藏

51CTO技术栈公众号