進程池Pool

當(dāng)需要創(chuàng)建的子進程數(shù)量不多時，可以直接利用multiprocessing中的Process動態(tài)成生多個進程，但如果是上百甚至上千個目標，手動的去創(chuàng)建進程的工作量巨大，此時就可以用到multiprocessing模塊提供的Pool方法。

初始化Pool時，可以指定一個最大進程數(shù)，當(dāng)有新的請求提交到Pool中時，如果池還沒有滿，那么就會創(chuàng)建一個新的進程用來執(zhí)行該請求；但如果池中的進程數(shù)已經(jīng)達到指定的最大值，那么該請求就會等待，直到池中有進程結(jié)束，才會用之前的進程來執(zhí)行新的任務(wù)，請看下面的實例：

''' 遇到問題沒人解答？小編創(chuàng)建了一個Python學(xué)習(xí)交流QQ群：579817333 尋找有志同道合的小伙伴，互幫互助,群里還有不錯的視頻學(xué)習(xí)教程和PDF電子書！ ''' # -*- coding:utf-8 -*- from multiprocessing import Pool import os, time, randomdef worker(msg):t_start = time.time()print("%s開始執(zhí)行,進程號為%d" % (msg,os.getpid()))# random.random()隨機生成0~1之間的浮點數(shù)time.sleep(random.random()*2) t_stop = time.time()print(msg,"執(zhí)行完畢，耗時%0.2f" % (t_stop-t_start))po=Pool(3) #定義一個進程池，最大進程數(shù)3 for i in range(0,10):#Pool().apply_async(要調(diào)用的目標,(傳遞給目標的參數(shù)元祖,))#每次循環(huán)將會用空閑出來的子進程去調(diào)用目標po.apply_async(worker,(i,))print("----start----") po.close() #關(guān)閉進程池，關(guān)閉后po不再接收新的請求 po.join() #等待po中所有子進程執(zhí)行完成，必須放在close語句之后 print("-----end-----")

ultiprocessing.Pool常用函數(shù)解析：

• apply_async(func[, args[, kwds]]) ：使用非阻塞方式調(diào)用func（并行執(zhí)行，堵塞方式必須等待上一個進程退出才能執(zhí)行下一個進程），args為傳遞給func的參數(shù)列表，kwds為傳遞給func的關(guān)鍵字參數(shù)列表；
• close()：關(guān)閉Pool，使其不再接受新的任務(wù)；
• terminate()：不管任務(wù)是否完成，立即終止；
• join()：主進程阻塞，等待子進程的退出， 必須在close或terminate之后使用；

進程池中的Queue

如果要使用Pool創(chuàng)建進程，就需要使用multiprocessing.Manager()中的Queue()，而不是multiprocessing.Queue()，否則會得到一條如下的錯誤信息：

RuntimeError: Queue objects should only be shared between processes through inheritance.

下面的實例演示了進程池中的進程如何通信：

''' 遇到問題沒人解答？小編創(chuàng)建了一個Python學(xué)習(xí)交流QQ群：579817333 尋找有志同道合的小伙伴，互幫互助,群里還有不錯的視頻學(xué)習(xí)教程和PDF電子書！ ''' # -*- coding:utf-8 -*-# 修改import中的Queue為Manager from multiprocessing import Manager,Pool import os,time,randomdef reader(q):print("reader啟動(%s),父進程為(%s)" % (os.getpid(), os.getppid()))for i in range(q.qsize()):print("reader從Queue獲取到消息：%s" % q.get(True))def writer(q):print("writer啟動(%s),父進程為(%s)" % (os.getpid(), os.getppid()))for i in "itcast":q.put(i)if __name__=="__main__":print("(%s) start" % os.getpid())q = Manager().Queue() # 使用Manager中的Queuepo = Pool()# 使用阻塞模式創(chuàng)建進程，這樣就不需要在reader中使用死循環(huán)了，可以讓writer完全執(zhí)行完成后，再用reader去讀取po.apply_async(writer, (q,))time.sleep(1) # 先讓上面的任務(wù)向Queue存入數(shù)據(jù)，然后再讓下面的任務(wù)開始從中取數(shù)據(jù)po.apply_async(reader, (q,))po.close()po.join()print("(%s) End" % os.getpid())

總結(jié)

以上是生活随笔為你收集整理的python 使用进程池Pool进行并发编程的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。