Python内存分配时的小秘密

开发 后端
Python 中的sys 模块极为基础而重要,它主要提供了一些给解释器使用(或由它维护)的变量,以及一些与解释器强交互的函数。本文将会频繁地使用该模块的getsizeof() 方法,因此,我先简要介绍一下。

Python 中的sys 模块极为基础而重要,它主要提供了一些给解释器使用(或由它维护)的变量,以及一些与解释器强交互的函数。

本文将会频繁地使用该模块的getsizeof() 方法,因此,我先简要介绍一下:

  •  该方法用于获取一个对象的字节大小(bytes)
  •  它只计算直接占用的内存,而不计算对象内所引用对象的内存

这里有个直观的例子: 

  1. import sys  
  2. a = [1, 2]  
  3. b = [a, a]  # 即 [[1, 2], [1, 2]]  
  4. # a、b 都只有两个元素,所以直接占用的大小相等  
  5. sys.getsizeof(a) # 结果:80  
  6. sys.getsizeof(b) # 结果:80 

上例说明了一件事:一个静态创建的列表,如果只包含两个元素,那它自身占用的内存就是 80 字节,不管其元素所指向的对象是什么。

好了,拥有这把测量工具,我们就来探究一下 Python 的内置对象都藏了哪些小秘密吧。

[[276485]]

1、空对象不是“空”的!

对于我们熟知的一些空对象,例如空字符串、空列表、空字典等等,不知道大家是否曾好奇过,是否曾思考过这些问题:空的对象是不是不占用内存呢?如果占内存,那占用多少呢?为什么是这样分配的呢?

直接上代码吧,一起来看看几类基本数据结构的空对象的大小: 

  1. import sys  
  2. sys.getsizeof("")      # 49  
  3. sys.getsizeof([])      # 64  
  4. sys.getsizeof(())      # 48  
  5. sys.getsizeof(set())   # 224  
  6. sys.getsizeof(dict())  # 240  
  7. # 作为参照:  
  8. sys.getsizeof(1)       # 28  
  9. sys.getsizeof(True)    # 28 

可见,虽然都是空对象,但是这些对象在内存分配上并不为“空”,而且分配得还挺大(记住这几个数字哦,后面会考)。

排一下序:基础数字<空元组 < 空字符串 < 空列表 < 空集合 < 空字典。

这个小秘密该怎么解释呢?

因为这些空对象都是容器,我们可以抽象地理解:它们的一部分内存用于创建容器的骨架、记录容器的信息(如引用计数、使用量信息等等)、还有一部分内存则是预分配的。

2、内存扩充不是均匀的!

空对象并不为空,一部分原因是 Python 解释器为它们预分配了一些初始空间。在不超出初始内存的情况下,每次新增元素,就使用已有内存,因而避免了再去申请新的内存。

那么,如果初始内存被分配完之后,新的内存是怎么分配的呢? 

  1. import sys  
  2. letters = "abcdefghijklmnopqrstuvwxyz"  
  3. a = []  
  4. for i in letters:  
  5.     a.append(i)  
  6.     print(f'{len(a)}, sys.getsizeof(a) = {sys.getsizeof(a)}')  
  7. b = set()  
  8. for j in letters:  
  9.     b.add(j)  
  10.     print(f'{len(b)}, sys.getsizeof(b) = {sys.getsizeof(b)}')  
  11. c = dict()  
  12. for k in letters:  
  13.     c[k] = k  
  14.     print(f'{len(c)}, sys.getsizeof(c) = {sys.getsizeof(c)}') 

分别给三类可变对象添加 26 个元素,看看结果如何:

由此能看出可变对象在扩充时的秘密:

  •  超额分配机制: 申请新内存时并不是按需分配的,而是多分配一些,因此当再添加少量元素时,不需要马上去申请新内存
  •  非均匀分配机制: 三类对象申请新内存的频率是不同的,而同一类对象每次超额分配的内存并不是均匀的,而是逐渐扩大的

3、列表不等于列表!

以上的可变对象在扩充时,有相似的分配机制,在动态扩容时可明显看出效果。

那么,静态创建的对象是否也有这样的分配机制呢?它跟动态扩容比,是否有所区别呢?

先看看集合与字典: 

  1. # 静态创建对象  
  2. set_1 = {1, 2, 3, 4}  
  3. set_2 = {1, 2, 3, 4, 5}  
  4. dict_1 = {'a':1, 'b':2, 'c':3, 'd':4, 'e':5}  
  5. dict_2 = {'a':1, 'b':2, 'c':3, 'd':4, 'e':5, 'f':6}  
  6. sys.getsizeof(set_1)  # 224  
  7. sys.getsizeof(set_2)  # 736  
  8. sys.getsizeof(dict_1) # 240  
  9. sys.getsizeof(dict_2) # 368 

看到这个结果,再对比上一节的截图,可以看出:在元素个数相等时,静态创建的集合/字典所占的内存跟动态扩容时完全一样。

这个结论是否适用于列表对象呢?一起看看: 

  1. list_1 = ['a', 'b']  
  2. list_2 = ['a', 'b', 'c']  
  3. list_3 = ['a', 'b', 'c', 'd']  
  4. list_4 = ['a', 'b', 'c', 'd', 'e']  
  5. sys.getsizeof(list_1)  # 80  
  6. sys.getsizeof(list_2)  # 88  
  7. sys.getsizeof(list_3)  # 96  
  8. sys.getsizeof(list_4)  # 104 

上一节的截图显示,列表在前 4 个元素时都占 96 字节,在 5 个元素时占 128 字节,与这里明显矛盾。

所以,这个秘密昭然若揭:在元素个数相等时,静态创建的列表所占的内存有可能小于动态扩容时的内存!

也就是说,这两种列表看似相同,实际却不同!列表不等于列表!

[[276486]]

4、消减元素并不会释放内存!

前面提到了,扩充可变对象时,可能会申请新的内存。

那么,如果反过来缩减可变对象,减掉一些元素后,新申请的内存是否会自动回收掉呢? 

  1. import sys  
  2. a = [1, 2, 3, 4]  
  3. sys.getsizeof(a) # 初始值:96  
  4. a.append(5)      # 扩充后:[1, 2, 3, 4, 5]  
  5. sys.getsizeof(a) # 扩充后:128  
  6. a.pop()          # 缩减后:[1, 2, 3, 4]  
  7. sys.getsizeof(a) # 缩减后:128 

如代码所示,列表在一扩一缩后,虽然回到了原样,但是所占用的内存空间可没有自动释放啊。其它的可变对象同理。

这就是 Python 的小秘密了,“胖子无法减重原理” :瘦子变胖容易,缩减身型也容易,但是体重减不掉,哈哈~~~

5、空字典不等于空字典!

使用 pop() 方法,只会缩减可变对象中的元素,但并不会释放已申请的内存空间。

还有个 clear() 方法,它会清空可变对象的所有元素,让我们试试看吧:

  1. import sys  
  2. a = [1, 2, 3]  
  3. b = {1, 2, 3}  
  4. c = {'a':1, 'b':2, 'c':3}  
  5. sys.getsizeof(a) # 88  
  6. sys.getsizeof(b) # 224  
  7. sys.getsizeof(c) # 240  
  8. a.clear()        # 清空后:[]  
  9. b.clear()        # 清空后:set()  
  10. c.clear()        # 清空后:{},也即 dict() 

调用 clear() 方法,我们就获得了几个空对象。

在第一小节里,它们的内存大小已经被查验过了。(前面说过会考的,请默写 回看下)

但是,如果这时再去查验的话,你会惊讶地发现,这些空对象的大小跟前面查的并不完全一样! 

  1. # 承接前面的清空操作:  
  2. sys.getsizeof(a) # 64  
  3. sys.getsizeof(b) # 224  
  4. sys.getsizeof(c) # 72 

空列表与空元组的大小不变,然而空字典(72)竟然比前面的空字典(240)要小很多!

也就是说,列表与元组在清空元素后,回到起点不变初心,然而,字典这家伙却是“赔了夫人又折兵”,不仅把“吃”进去的全吐出来了,还把自己的老本给亏掉了!

字典的这个秘密藏得挺深的,说实话我也是刚刚获知,百思不得其解……

以上就是 Python 在分配内存时的几个小秘密啦,看完之后,你是否觉得涨见识了呢?

你想明白了几个呢,又产生了多少新的谜团呢?欢迎留言一起交流哦~

对于那些没有充分解释的小秘密,今后我们再慢慢揭秘……

 

 

责任编辑:庞桂玉 来源: 中国开源
相关推荐

2019-07-22 09:46:28

WebSocketNginx服务器

2019-08-30 08:39:33

WebSocketNginx服务器

2012-03-23 10:27:08

触屏手机点击区域

2016-01-08 14:23:55

2017-12-15 21:46:45

2018-08-15 08:47:20

2010-10-12 12:10:52

增强无线网络信号

2011-12-09 17:41:56

2010-05-13 00:03:44

2013-11-25 10:43:32

谷歌微软

2015-03-09 09:34:04

C语言函数指针

2015-04-14 09:46:09

Apple Watch秘密

2016-03-31 14:51:33

多云计算多云部署多云管理

2023-12-12 08:50:22

MySQL隐式转换varchar

2019-06-05 12:49:07

云办公

2015-03-06 10:33:02

2015-11-27 10:13:19

数据中心

2020-03-03 09:28:30

Python内存开发

2021-06-10 05:17:52

QQ应用手机QQ

2020-06-30 09:25:49

无线路由器Wi-Fi网络
点赞
收藏

51CTO技术栈公众号