Python并发编程：多线程-GIL全局解释器锁
一 引子
在Cpython解释器中，同一个进程下开启的多线程，同一时刻只能有一个线程执行，无法利用多核优势 首先：需要明确的一点是GIL并不是Python的特性，它是在实现Python解析器(CPython)时所引入的一个概念。就好比c++是一套语言（语法）标准，但是可以用不同的编译器来编译成可执行代码， 例如：GCC，INTEL C++，Visual C++等。Python也一样，同样一段代码可以通过CPython，PyPy，Psyco等不同的Python执行环境来执行。像其中的JPython就没有GIL。然而因为CPython是 大部分环境下默认的Python执行环境。所以很多人的概念里CPython就是Python，也就想当然的把GIL归结为Python语音的缺陷。所以这里要先明确一点：GIL并不是Python的特性，Python完全可 以不依赖与GIL
二 GIL介绍
GIL本质就是一把互斥锁，既然是互斥锁，所有互斥锁的本质都一样，都是将并发运行变成串行，以此来控制同一时间内共享数据只能被一个任务所修改，进而保证数据安全。
可以肯定一点是：保护不同的数据的安全，就应该加不同的锁
要想了解GIL，首先确定一段，每次执行Python程序，就会产生一个独立的进程。例如Python test.py,python aaa.py,python bb.py 会产生3个不同的Python进程
验证Python test.py只会产生一个进程
| 1 2 3 4 | import os import time print(os.getpid()) time.sleep(30) |
| 1 2 3 4 5 6 7 8 | #打开终端执行 python3 test.py #在windows下查看 tasklist |findstr python #在linux下下查看 ps aux |grep python |
在一个Python的进程内，不仅有test.py的主线程或者由该主线程开启的其它线程，还有解释器开启的垃圾回收等解释器级别的线程，总之，所有线程都运行在一个进程内
| 1 2 3 4 | 1、所有线程都是共享的，这其中，代码作为一种数据也是被所有线程共享的(test.py的所有代码以及CPython解释器的所有代码） 例如：test.py定义一个函数work（代码内容如下图），在进程内所有线程都能访问work的代码，于是我们可以开启三个线程然后target都指向该代码，能访问到意味着就是可以执行。 2、所有线程的任务，都需要将任务的代码当做参数传给解释器的代码去执行，即所有的线程要项运行自己的任务，首先需要解决的是能够访问到解释器的代码 |
综上：
如果多个线程的target=work，那么执行流程是：
多个线程先访问到解释器的代码，即拿到执行权限，然后将target的代码交给解释器的代码去执行
解释器的代码是所有线程共享，所以垃圾回收线程也可能访问到解释器的代码而去执行，这就导致了一个问题：对于同一个数据100，可能线程1执行x=100的同时，而垃圾回收执行的是回收100的操作，解决这种问题没有声明高明的方法，就是加锁处理，如下图的GIL，保证Python解释器同一时间只能执行一个任务的代码
三 GIL与Lock
问题：Python已经有一个GIL来保证同一时间只能有一个线程来执行了，为什么这里还需要lock？
首先：我们需要达成共识：锁的目的是为了保护共享的数据，同一时间只能有一个线程来修改共享的数据
然后：我们可以得出结论：保护不同的数据就应该加不同的锁
最后：问题是很明朗了，GIL与LOCK是两把锁，保护的数据不一样，前者是解释器级别的（当然保护的就是解释器级别的数据，比如垃圾回收的数据），后者是保护用户自己开发的应用程序的数据，很明显GIL
负责这件事，只能用户自定义加锁处理，即Lock，如下图：
分析：
| 1 2 3 4 5 6 7 | 1、100个线程去抢GIL锁，即抢执行权限 2、肯定有一个线程先抢到GIL（暂且称为线程1），然后开始执行，一旦执行就会拿到lock.acquire() 3、极有可能线程1还未执行完毕，就有另外一个线程2抢到GIL，然后开始运行，但线程2发现互斥锁lock还未被线程1释放，于是阻塞，被迫交出执行权限，即释放GIL 4、直到线程1重新抢到GIL，开始从上次暂停的位置继续执行，直到正常释放互斥锁lock，然后其它的线程再重复2,3,4的过程 |
示例代码：
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 | from threading import Thread,Lock import os import time def work(): global n lock.acquire() temp = n time.sleep(0.5) n = temp - 1 lock.release() if __name__ == '__main__': lock = Lock() n = 100 l = [] for i in range(100): p = Thread(target=work) l.append(p) p.start() for p in l: p.join() print(n) # 结果肯定为0，由原来的并发执行变成串行，牺牲了执行效率保证了数据安全，不加锁则结果可能为99 |
四 GIL与多线程
有了GIL的存在，同一时刻同一进程中只有一个线程被执行
问题：进程可以利用多核，但是开销大，而Python的多线程开销小，但却无法利用多核优势，也就是说Python没用了，PHP才是最牛B的语言？
要解决这个问题，我们需要在几个点上达成一致：
| 1 2 3 4 5 | 1、CPU到底是用来做计算的，还是用来做I/O的？ 2、多CPU，意味着可以有多个核并行完成计算，所以多核提升的是计算性能 3、每个CPU一旦遇到I/O阻塞，仍然需要等待，所以多核对I/O操作没什么用处 |
一个工人相当于CPU，此时计算相当于工人在干活，I/O阻塞相当于为工人干活提供所需原材料的过程，工人干活的过程中如果没有原材料了，则工人干活的过程需要停止，直到原材料的到来
如果你的工厂的大多数任务需要有准备原材料的过程（I/O密集型），那么你有再多的工人，意义也不大，还不如一个人，在等材料的过程中让工人去干别的活
反过来讲，如果你的工厂原材料都齐全，那当然是工人越多，效率越高
结论：
| 1 2 3 | 1、对计算来说，CPU越多越好，但是对于I/O来说，再多的CPU也没用 2、当然对运行一个程序来说，随着CPU的增多执行效率肯定会有所提高（不管提高幅度多大，总会有所提高），这是因为一个程序基本上不会是纯计算或者纯I/O，所以我们只能相对的去看一个程序到底是计算密集型还是I/O密集型，从而进一步分享Python的多线程到底有无用武之地 |
假设我们有四个任务需要处理，处理方式肯定是要玩出并发的效果，解决方案可以是：
| 1 2 3 | 方案一：开启四个进程 方案二：一个进程下，开启四个线程 |
单核情况下，分析结果：
| 1 2 | 如果四个任务是计算密集型，没有多核来并行计算，方案一徒增了创建进程的开销，方案二胜 如果四个任务是I/O密集型，再多的核也解决不了I/O问题，方案二胜 |
多核情况下，分析结果：
| 1 2 | 如果四个任务是计算密集型，多核意味着并行计算，在Python中一个进程中同一时刻只有一个线程执行用不上多核，方案一胜 如果四个任务是I/O密集型，再多的核也解决不了I/O问题，方案二胜 |
结论：
现在计算机基本上都是多核，Python对于计算密集型的任务开多个线程的效率并不能带来多大性能上的提升，甚者不如串行（没有大量切换），但是，对于I/O密集型的任务效率还是有显著提升的
五 多线程性能测试
如果并发的多个任务是计算 密集型：多进程效率高
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 | from multiprocessing import Process from threading import Thread import os,time def work(): res = 0 for i in range(10000): res *= i if __name__ == '__main__': l = [] print(os.cpu_count()) start = time.time() for i in range(4): p = Process(target=work) p = Thread(target=work) l.append(p) p.start() for p in l: p.join() stop = time.time() print('运行时间: %s' % (stop-start)) |
如果并发的多个任务是I/O密集型：多线程效率高
| 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 | from threading import Thread import threading import os,time def work(): time.sleep(2) print('===>') if __name__ == '__main__': l = [] print(os.cpu_count()) start = time.time() for i in range(400): #p = Process(target=work) p = Thread(target=work) # 耗时2秒多 l.append(p) p.start() for p in l: p.join() stop = time.time() print('运行时间:%s' %(stop-start)) |
应用
| 1 2 | 多线程用于IO密集型，如socket，爬虫，web 多进程用于计算密集型，如金融分析 |
