老大告诉我不要用字符串存IP地址,不兴~

网络 通信技术
数据库中IP地址数据该怎么存?或许你已经不止一次遇到过这类问题,怎么存?

[[432371]]

数据库中IP地址数据该怎么存?或许你已经不止一次遇到过这类问题,怎么存?varchar(255)不就完事儿了?坦白说,在我经历的几个项目中,几乎都遇到过存储IP地址(V4、V6)的数据字段,都用的变长字符串varchar(15)来存储,嗯,感觉还挺香的...

其实很早以前我就在《高性能MySQL第三版》中看过IP地址属于特殊类型数据,应转为整数存储。

《高性能MySQL第三版》

4.1.7 特殊类型数据

某些类型的数据并不直接与内置类型一致。低于秒级精度的时间戳就是一个例子;本意的前面部分也演示过存储此类数据的一些选项。

另一个例子是一个IPv4地址。人们经常使用VARCHAR(15)列来存储IP地址。然而,它们实际上是 32位无符号整数,不是字符串。用小数点将地址分成四段的表示方法只是为了让人们阅读容易。所以应该用无符号整数存储IP地址。MySQL提供INET ATON()和 INET NTOA()函数在这两种表示方法之间转换。

??但项目中并未涉及到对IP地址的高频查询业务需求;所以嘛,你知道的,我们程序员的三不准则:跟自己没关系的代码不要看,自己模块用不到的技术不要学,遗留代码只要能跑的就不要动!

直到老大看我们项目数据表时问道:"你们存IP地址都是用字符串吗?这可不兴啊!应该用整数来存啊。"

"老大,我明白你的优化思路,你看咱们这表,就几十条数据(狗头)...."

直到上周有位同学问我IP地址在数据库中该怎么存,他在面试中被问到了,我突然意识到了这玩意儿是时候记录一下了。

一、IP地址应该怎么存

在MySQL中,当存储IPv4地址时,应该使用32位的无符号整数(UNSIGNED INT)来存储IP地址,而不是使用字符串,用UNSIGNED INT类型存储IP 地址是一个4字节长的整数。

如果是字符串存储IP 地址,在正常格式下,最小长度为 7 个字符 (0.0.0.0),最大长度为 15 个 (255.255.255.255),因此,我们通常会使用varchar(15)来存储。同时为了让数据库准确跟踪列中有多少数据,数据库会添加额外的1字节来存储字符串的长度。这使得以字符串表示的 IP 的实际数据存储成本需要16字节。

这意味着如果将每个 IP 地址存储为字符串的话,每行需要多耗费大约 10 个字节的额外资源。

如果你说磁盘够使不是事儿,那我得告诉你,这个不仅会使数据文件消耗更多的磁盘,如果该字段加了索引,也会同比例扩大索引文件的大小,缓存数据需要使用更多内存来缓存数据或索引,从而可能将其他更有价值的内容推出缓存区。执行SQL对该字段进行CRUD时,也会消耗更多的CPU资源。

在早先使用Oracle10g时,是没有相关函数来进行IP整数和字符串的,但在MySQL中有内置的函数,来对IP和数值进行相互转换。

  • INET_ATON()

将IP转换成整数。

算法:第一位乘256三次方+第二位乘256二次方+第三位乘256一次方 + 第四位乘256零次方

  • INET_NTOA()

将数字反向转换成IP

  1. SELECT INET_ATON('127.0.0.1'); 
  2.  
  3. +------------------------+ 
  4. | INET_ATON('127.0.0.1') | 
  5. +------------------------+ 
  6. |             2130706433 |  
  7. +------------------------+ 
  8. 1 row in set (0.00 sec) 
  9.  
  10.  
  11. SELECT INET_NTOA('2130706433'); 
  12.  
  13. +-------------------------+ 
  14. | INET_NTOA('2130706433') | 
  15. +-------------------------+ 
  16. | 127.0.0.1               |  
  17. +-------------------------+ 
  18. 1 row in set (0.02 sec) 

如果是 IPv6地址的话,可以使用函数 INET6_ATON() 和 INET6_NTOA() 来转化:

  1. mysql> SELECT HEX(INET6_ATON('1030::C9B4:FF12:48AA:1A2B'));  
  2.  
  3. +----------------------------------------------+ 
  4. | HEX(INET6_ATON('1030::C9B4:FF12:48AA:1A2B')) | 
  5. +----------------------------------------------+ 
  6. | 1030000000000000C9B4FF1248AA1A2B             | 
  7. +----------------------------------------------+ 
  8. 1 row in set 
  9.  
  10. mysql> SELECT INET6_NTOA(UNHEX('1030000000000000C9B4FF1248AA1A2B'));  
  11. +-------------------------------------------------------+ 
  12. | INET6_NTOA(UNHEX('1030000000000000C9B4FF1248AA1A2B')) | 
  13. +-------------------------------------------------------+ 
  14. | 1030::c9b4:ff12:48aa:1a2b                             | 
  15. +-------------------------------------------------------+ 
  16. 1 row in set 

然后将数据库定义为 varbinary 类型,分配 128bits 空间(因为 ipv6采用的是128bits,16个字节);或者定义为 char 类型,分配 32bits 空间。

二、整数存储 IP 地址的查询性能实验

测试数据,用存储过程生成了 100 万个随机 IP 地址;

1、测试范围查询:

IP转成Int,查询:耗时0.60s

  1. select ip_int from T where ip_int > INET_ATON('192.0.0.0'and ip_int <=INET_ATON('192.255.255.255'); 
  2.  
  3. 1726 row in set, 1 warning (0.60 sec) 
  • IP为字符串,查询:耗时0.63s
  1. select ip_varchar from T where ip_varchar like '192.%'
  2.  
  3. 1726 row in set, 1 warning (0.63 sec) 

2、IP精确查询:

  1. select ip_int from T where ip_int = INET_ATON('192.168.0.0'); 
  2.  
  3. 1 row in set, 1 warning (0.00 sec) 
  1. select ip_varchar from T where ip_varchar='192.168.0.0'
  2.  
  3. 1 row in set, 1 warning (0.00 sec) 

都是0s出结果。可认为常量索引查询,性能上无明显差异。

3、整理一下结果发现:

  • 范围查询和精确查询:

数据量少的情况下的差距不明显,如果数据量扩大到约1千万行或1亿行,1亿行时预计范围查询差距能拉开到0.5s。

  • 存储空间节省:

按1亿行算,理论上 varchar 最大15字节存储,数值4个字节,大约节省10字节 *1亿 约1G空间。

加上索文件引所占的空间,一个索引也是能节省1G。约能节省2G空间。

总结

??IP地址数据采用整数(UNSIGNED INT)存储,在存储和CPU资源使用上都少于字符串存储形式;在歧义较大的范围查询中,存储整数方式无需关系范围中的位数问题,查询更加直观方便。

??但整数存储需要使用INET_ATON、INET_NTOA等特定函数处理,可读性查,函数也会消耗额外CPU,经检验发现CPU开支微乎其微。

 

??因此,需要范围查询,且数据量很大(如亿级以上),采用数值存储IP地址的方式更优。如果均是唯一IP精确查询,或数据量不大,那么使用字符串操作更为简单。

 

责任编辑:武晓燕 来源: MySQL江湖路
相关推荐

2018-03-26 09:05:18

CTO

2009-06-15 16:53:44

Groovy字符串gstring

2019-03-25 20:31:58

IP地址转换数字

2024-04-09 09:08:09

Kafka消息架构

2022-09-05 08:01:20

JWTWeb安全

2009-11-24 19:02:35

PHP常用字符串

2024-04-16 08:26:18

IP地址MAC地址

2022-09-13 08:44:02

IP网络MAC地址

2019-01-18 20:36:40

Python佩奇turtle

2018-01-10 15:15:47

2017-07-17 12:17:38

2018-01-03 08:31:43

前端开发图标

2021-12-10 08:17:48

字符串拼接场景

2013-08-30 13:35:14

项目团队

2021-05-22 06:56:18

OpenWrt 路由器刷机

2020-11-20 16:13:01

Android手机上网

2013-11-11 11:10:03

WE大会马化腾

2009-06-12 13:59:04

2023-04-27 07:26:31

IP地址无符号

2021-05-12 10:19:21

CPU程序运维
点赞
收藏

51CTO技术栈公众号