漫画说算法之什么是一致性哈希?

开发 前端 算法
当缓存集群的节点有所增加的时候,整个环形空间的映射仍然会保持一致性哈希的顺时针规则,所以有一小部分key的归属会受到影响。

 漫画说算法之什么是一致性哈希?

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

一年之前——

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

未来两年内,系统预估的总订单数量可达一亿条左右。

按Mysql单表存储500万条记录来算,暂时不必分库,单库30个分表是比较合适的水平分表方案。

于是小灰设计了这样的分表逻辑:

  1. 订单表创建单库30个分表
  2. 对用户ID和30进行取模,取模结果决定了记录存于第几个分表
  3. 查询时需要以用户ID作为条件,根据取模结果确定查询哪一个分表

分表方式如下图(为了便于描述,简化为5个分表):

漫画说算法之什么是一致性哈希?

过了两个月——

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

又过了半年多——

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

小灰的回忆告一段落——

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

1.首先,我们把全量的缓存空间当做一个环形存储结构。环形空间总共分成2^32个缓存区,在Redis中则是把缓存key分配到16384个slot。

漫画说算法之什么是一致性哈希?

2.每一个缓存key都可以通过Hash算法转化为一个32位的二进制数,也就对应着环形空间的某一个缓存区。我们把所有的缓存key映射到环形空间的不同位置。

漫画说算法之什么是一致性哈希?

3.我们的每一个缓存节点(Shard)也遵循同样的Hash算法,比如利用IP做Hash,映射到环形空间当中。

漫画说算法之什么是一致性哈希?

4.如何让key和节点对应起来呢?很简单,每一个key的顺时针方向最近节点,就是key所归属的存储节点。所以图中key1存储于node1,key2,key3存储于node2,key4存储于node3。

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

1.增加节点

当缓存集群的节点有所增加的时候,整个环形空间的映射仍然会保持一致性哈希的顺时针规则,所以有一小部分key的归属会受到影响。

漫画说算法之什么是一致性哈希?

有哪些key会受到影响呢?图中加入了新节点node4,处于node1和node2之间,按照顺时针规则,从node1到node4之间的缓存不再归属于node2,而是归属于新节点node4。因此受影响的key只有key2。

漫画说算法之什么是一致性哈希?

最终把key2的缓存数据从node2迁移到node4,就形成了新的符合一致性哈希规则的缓存结构。

2.删除节点

当缓存集群的节点需要删除的时候(比如节点挂掉),整个环形空间的映射同样会保持一致性哈希的顺时针规则,同样有一小部分key的归属会受到影响。

漫画说算法之什么是一致性哈希?

有哪些key会受到影响呢?图中删除了原节点node3,按照顺时针规则,原本node3所拥有的缓存数据就需要“托付”给node3的顺时针后继节点node1。因此受影响的key只有key4。

漫画说算法之什么是一致性哈希?

最终把key4的缓存数据从node3迁移到node1,就形成了新的符合一致性哈希规则的缓存结构。

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

如上图所示,假如node1的ip是192.168.1.109,那么原node1节点在环形空间的位置就是hash(“192.168.1.109”)。

我们基于node1构建两个虚拟节点,node1-1 和 node1-2,虚拟节点在环形空间的位置可以利用(IP+后缀)计算,例如:

hash(“192.168.1.109#1”),hash(“192.168.1.109#2”)

此时,环形空间中不再有物理节点node1,node2,只有虚拟节点node1-1,node1-2,node2-1,node2-2。由于虚拟节点数量较多,缓存key与虚拟节点的映射关系也变得相对均衡了。

漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?
漫画说算法之什么是一致性哈希?

 

责任编辑:武晓燕 来源: 今日头条
相关推荐

2021-07-27 08:57:10

算法一致性哈希哈希算法

2020-07-20 08:30:37

算法哈希分布式系统

2021-02-05 08:00:48

哈希算法​机器

2016-12-19 18:41:09

哈希算法Java数据

2021-02-02 12:40:50

哈希算法数据

2023-12-12 08:00:50

节点哈希算法

2018-07-05 09:41:08

一致性哈希算法

2023-12-20 08:11:02

Redis节点通信

2021-09-15 07:46:42

哈希一致性哈希算法

2023-06-25 09:44:00

一致性哈希数据库

2021-05-19 21:50:46

Hash算法测试

2023-06-26 07:17:48

负载均衡策略Dubbo

2022-03-22 09:54:22

Hash算法

2017-07-25 14:38:56

数据库一致性非锁定读一致性锁定读

2023-12-05 14:44:01

2021-11-12 08:38:26

一致性哈希算法数据结构

2022-01-27 08:31:20

一致性哈希

2020-03-16 11:55:28

PaxosRaft协议

2019-10-11 23:27:19

分布式一致性算法开发

2022-11-10 07:49:09

hash算法代码
点赞
收藏

51CTO技术栈公众号