提升CPU算力,在Python中使用多进程模型

开发
云原生时代,应用对硬件资源的需求增长巨大,但单核CPU性能的提升存在瓶颈,摩尔定律已经失效。性能的提升更多侧重于使用多核并发,而不是依赖单核性能。俗话说再强的个人也敌不过训练有素的团队,便是这个道理。

作者|卢佳瑜,单位:中移物联网有限公司

Labs 导读

云原生时代,应用对硬件资源的需求增长巨大,但单核CPU性能的提升存在瓶颈,摩尔定律已经失效。性能的提升更多侧重于使用多核并发,而不是依赖单核性能。

俗话说再强的个人也敌不过训练有素的团队,便是这个道理。

但即便是对多核的利用,也分为多进程、多线程等不同的方案, 我们经常会听到老手说:“python下多线程是鸡肋,推荐使用多进程!”

为什么这么说呢?

要知其然,更要知其所以然。所以有了下面的深入研究。

Part 01 概述 

目前算力网络发展中,经常出现并行计算的需求,而在python中,如果你使用多线程进行并行,那么就会面临一个尴尬的问题:一核干活,其它围观。为什么会出现这样一个尴尬的问题呢?是因为python中GIL锁的存在。

GIL是什么?

GIL的全称是Global Interpreter Lock(全局解释器锁),来源是python设计之初的考虑,为了数据安全所做的决定,每个进程单独拥有一把GIL锁。

进程是什么?

进程是程序的一次执行过程,是一个动态概念,是程序在执行过程中分配和管理资源的基本单位,

线程是什么?

线程是CPU调度和分派的基本单位,它可与同属一个进程的其他的线程共享进程所拥有的全部资源。

进程与线程的关系?

线程是进程的一部分,一个线程只能属于一个进程,而一个进程可以有多个线程,但至少有一个线程。

为什么用多进程和多线程?

现代CPU通常是多核CPU,如果业务代码是单进程/单线程,那么在运行时实际上就只能使用一个CPU核心,其他核心只能浪费,为了提升代码运行效率,我们使用多进程or多线程,对多个CPU核心进行充分利用,以提升代码执行效率。

Part 02  执行原理

每个CPU核心在同一时间只能执行一个线程(在单核CPU下的多线程其实都只是并发,不是并行,并发和并行从宏观上来讲都是同时处理多路请求的概念。但并发和并行又有区别,并行是指两个或者多个事件在同一时刻发生;而并发是指两个或多个事件在同一时间间隔内发生。)

在Python多线程下,每个线程的执行方式:

  • 获取GIL
  • 执行代码直到sleep或者是python虚拟机将其挂起。
  • 释放GIL

可见,某个线程想要执行,必须先拿到GIL,我们可以把GIL看作是“通行证”,并且在一个python进程中,GIL只有一个。拿不到通行证的线程,就不允许进入CPU执行。

在python2.x里,GIL的释放逻辑是当前线程遇见IO操作或者ticks计数达到100(ticks可以看作是python自身的一个计数器,专门做用于GIL,每次释放后归零,这个计数可以通过 sys.setcheckinterval 来调整),进行释放。

而每次释放GIL锁,线程进行锁竞争、切换线程,会消耗资源。并且由于GIL锁存在,python里一个进程永远只能同时执行一个线程(拿到GIL的线程才能执行),这就是为什么在多核CPU上,python的多线程效率并不高。

Part 03  实际场景分析

在实际应用场景中,并不是所有业务都能将CPU跑满,也就并不是所有业务都需要使用多进程,接下来我们分类进行讨论:

1、CPU密集型业务(各种循环处理、计数、数学计算等),在这种情况下,ticks计数很快就会达到阈值,然后触发GIL的释放与再竞争(多个线程来回切换当然是需要消耗资源的),所以python下的多线程对CPU密集型代码并不友好。

2、IO密集型业务(文件处理、网络爬虫等),多线程能够有效提升效率(单线程下有IO操作会进行IO等待,造成不必要的时间浪费,而开启多线程能在线程A等待时,自动切换到线程B,可以不浪费CPU的资源,从而能提升程序执行效率)。所以python的多线程对IO密集型代码比较友好。

而在python3.x中,GIL不使用ticks计数,改为使用计时器(执行时间达到阈值后,当前线程释放GIL),这样对CPU密集型程序更加友好,但依然没有解决GIL导致的同一时间只能执行一个线程的问题,所以效率依然不尽如人意。

Part 04  总结

回到最开始的问题:经常我们会听到老手说:“python下想要充分利用多核CPU,就用多进程”,原因是什么呢?

原因是每个进程有各自独立的GIL,互不干扰,这样就可以真正意义上的并行执行,所以在python中,多进程的执行效率优于多线程(仅仅针对多核CPU而言)。

所以我们能够得出结论:多核下,想做并行提升效率,比较通用的方法是使用多进程,能够有效提高执行效率。​

责任编辑:未丽燕 来源: 移动Labs
相关推荐

2021-02-25 11:19:37

谷歌Android开发者

2017-06-30 10:12:46

Python多进程

2023-11-28 13:52:00

Python多进程多线程

2020-11-18 09:06:04

Python

2020-11-17 10:50:37

Python

2020-11-08 14:36:27

pandas数据分析pipe()

2024-03-29 06:44:55

Python多进程模块工具

2022-11-03 11:20:56

阿里云CPU

2023-10-20 16:38:02

2022-12-13 14:53:46

算力谷歌

2022-03-09 17:01:32

Python多线程多进程

2024-04-24 13:21:01

Llama 3视频AR

2019-03-12 09:20:09

shell爬虫命名

2023-04-14 14:42:07

腾讯人工智能

2017-04-25 15:20:11

Python进程mpi4py

2022-08-02 11:31:46

Python语法代码

2019-07-23 10:22:11

TensorFlow.Python机器学习
点赞
收藏

51CTO技术栈公众号