Python学习—pyhton中的进程
1.進程定義
進程: 進程就是一個程序在一個數(shù)據(jù)集上的一次動態(tài)執(zhí)行過程。進程一般由程序、數(shù)據(jù)、進程控制塊(pcb)三部分組成。
(1)我們編寫的程序用來描述進程要完成哪些功能以及如何完成;
(2)數(shù)據(jù)則是程序在執(zhí)行過程中所需要使用的資源;
(3)進程控制塊用來記錄進程的所有信息。系統(tǒng)可以利用它來控制和管理進程,它是系統(tǒng)感知進程存在的唯一標(biāo)志。
2.創(chuàng)建進程
新創(chuàng)建的進程在內(nèi)存獨立開辟一塊空間,不與其他進程共享空間、數(shù)據(jù)。
同一個進程中,新創(chuàng)建的線程與此進程里其他線程共享空間、數(shù)據(jù)。
1.os.fork()函數(shù)
os模塊的三個方法:
os.fork()創(chuàng)建一個當(dāng)前進程的子進程
os.getpid()獲取當(dāng)前進程pid
os.getppid()獲取當(dāng)前進程的父進程的Pid
關(guān)于fork():
它用來創(chuàng)建一個進程,即為當(dāng)前進程的子進程,復(fù)制父進程的所有代碼并從fork語句處開始運行。運行父進程還是子進程的取決于當(dāng)前os調(diào)度策略。
在父進程中返回子進程的pid,在子進程中返回0。即返回0表示在子進程中運行,返回大與0的數(shù)表示在父進程中運行。
例子:
import osprint('當(dāng)前進程:',os.getpid()) print('當(dāng)前進程的父進程:',os.getppid())pid = os.fork() if pid == 0:print('此時為子進程:',os.getpid(),'\n其父進程:',os.getppid()) else:print('父進程:',os.getpid(),'\nos.fork的返回值pid:',pid)運行結(jié)果:
當(dāng)前進程: 16839 當(dāng)前進程的父進程: 2912 父進程: 16839 os.fork的返回值pid: 16842 此時為子進程: 16842 其父進程: 16839從運行結(jié)果中看,在linux中fork產(chǎn)生子進程后是先運行父進程,當(dāng)父進程結(jié)束后再進入子進程運行。
2.實例化進程類
直接通過實例化進程類multiprocessing.Process創(chuàng)建新進程。
和線程類一樣,進程類也有start()方法,join()方法。調(diào)用對象的start()方法實例上也是調(diào)用的類中的run()方法。
運行結(jié)果:
abc 當(dāng)前子進程:17234 123 當(dāng)前子進程:17235 完成......3.繼承進程類來自定義進程類
繼承python提供的進程類,重寫方法,創(chuàng)建自己所需要的進程類,再實例化自定義的進程類。
import multiprocessingclass Job(multiprocessing.Process):#重寫構(gòu)造方法def __init__(self,cc):super(Job, self).__init__()self.cc = cc#重寫run方法,和線程一樣def run(self):print(self.cc)#實例化對象 if __name__ == "__main__":pp = []for i in range(10):p = Job(str(i)+':123456')pp.append(p)p.start()for p in pp:p.join()print('hahhahaha')運行結(jié)果:
0:123456 1:123456 2:123456 3:123456 4:123456 5:123456 6:123456 7:123456 8:123456 9:123456 hahhahaha3.多進程與多線程的對比
import threading import multiprocessing from timeit import timeitclass Jobthread(threading.Thread):def __init__(self,li):super(Jobthread,self).__init__()self.li = lidef run(self):sum(self.li)class Jobprocess(multiprocessing.Process):def __init__(self,li):super(Jobprocess, self).__init__()self.li = lidef run(self):for i in self.li:sum(i)# 這個裝飾器是自己寫的,用來計算某個函數(shù)執(zhí)行時間 @timeit def use_Pro(list):for i in range(0,len(list), 1000):p = Jobprocess(list[i:i+1000])p.start()@timeit def use_Thr(list):for li in list:t = Jobthread(li)t.startif __name__ == "__main__":list = [[1,2,3,4,5,6],[2,3,4,5,6,7],[3,4,5,6,7,8],[4,5,6,7,8,9]]*1000use_Pro(list)use_Thr(list)運行結(jié)果:
use_Pro運行時間0.0041866302490234375 use_Thr運行時間0.02240157127380371正如看到的結(jié)果一樣,多進程適合計算密集型任務(wù),多線程適合i/o密集型任務(wù)。
3.守護進程與終止進程
1.守護進程-daemon屬性
和線程類似,進程類也有一個daemon屬性,默認(rèn)值為False。
當(dāng)改變他的值為True時,當(dāng)主進程結(jié)束,就會強行終止其他的所以進程。
實例:
(1)第一個程序
運行結(jié)果:
程序結(jié)束...... 開始子進程 子進程結(jié)束主進程結(jié)束,其他進程還在繼續(xù)執(zhí)行。
(2)第二個程序
運行結(jié)果:
程序結(jié)束......當(dāng)主進程結(jié)束,其他進程將會被強制終止結(jié)束。
2.終止進程
import multiprocessing import timedef job():print('開始子進程')time.sleep(3)print('子進程結(jié)束')if __name__ == "__main__":p = multiprocessing.Process(target=job)p.daemon = Trueprint(p.is_alive()) #啟動進程之前查看進程狀態(tài)p.start()print(p.is_alive()) #啟動進程之后查看進程狀態(tài)p.terminate() #終止進程print(p.is_alive()) #終止進程命令一發(fā)出后,查看進程狀態(tài)。此時進程在釋放過程中,還沒有被完全釋放。p.join() #先讓進程完全釋放print(p.is_alive()) #最后查看進程狀態(tài)print("程序結(jié)束......")運行結(jié)果:
False True True False 程序結(jié)束......4.進程間通信
""" 通過隊列實現(xiàn)進程間通信,隊列充當(dāng)消息管道的作用(類似生產(chǎn)者消費者模型) 這里通信一直存在,也就是這兩個進程會一直存在,沒有銷毀釋放。 """ import multiprocessing from multiprocessing import Queue import timeclass Put_news(multiprocessing.Process):def __init__(self,queue):super(Put_news, self).__init__()self.queue = queuedef run(self):for i in range(100):self.queue.put(i)print("傳遞消息:%s" %i)time.sleep(0.1)class Get_news(multiprocessing.Process):def __init__(self,queue):super(Get_news, self).__init__()self.queue = queuedef run(self):while True:time.sleep(0.11)print("接收消息++++++++++++:%s" %(self.queue.get()))if __name__ == "__main__":q = Queue()p = Put_news(q)g = Get_news(q)p.start()g.start()if not p.is_alive():g.terminate()運行結(jié)果:
5.分布式進程
任務(wù)需要處理的數(shù)據(jù)特別大, 希望多臺主機共同處理任務(wù)。multiprocessing.managers子模塊里面可以實現(xiàn)將進程分布到多臺機器上
(管理端主機要運算一些列任務(wù),通過與其他主機建立“連接“,將任務(wù)分配給其他主機執(zhí)行,并將執(zhí)行結(jié)果返回給管理端主機。)
管理端主機代碼:
運算主機代碼:
""" 在各個工作主機上執(zhí)行的代碼相同 """from multiprocessing.managers import BaseManager# 1. 連接manager端,獲取共享的隊列 import timeworker = BaseManager(address=('172.25.254.158',3333),authkey=b'hahahaha')# 2.注冊隊列,去獲取網(wǎng)絡(luò)上共享的隊列中的內(nèi)容 BaseManager.register('put_task_queue') BaseManager.register('get_result_queue')# 3.連接網(wǎng)絡(luò) worker.connect()# 4.通過網(wǎng)絡(luò)訪問共享的隊列task = worker.put_task_queue() result = worker.get_result_queue()# 5.讀取任務(wù),處理任務(wù),這里讀取了50個任務(wù)進行處理 # 每臺運算主機上的處理任務(wù)數(shù)量可以不同,不過為了避免修改代碼,一般都相同。 for i in range(50):n = task.get()print('執(zhí)行任務(wù) %d**2 = '%(n))res = '%d**2=%d' %(n,n**2) #這里設(shè)置執(zhí)行的任務(wù)是求平方result.put(res) #將結(jié)果放入結(jié)果隊列time.sleep(1) #休息1秒print('工作主機執(zhí)行任務(wù)結(jié)束.....')6.進程池
和線程一樣,進程也有進程池。
1.第一種方法
運行結(jié)果:
start id ---> 0 end id ----> 0 start id ---> 1 end id ----> 1 start id ---> 2 end id ----> 2 start id ---> 3 end id ----> 3 start id ---> 4 end id ----> 4 start id ---> 5 end id ----> 5 start id ---> 6 end id ----> 6 start id ---> 7 end id ----> 7 start id ---> 8 end id ----> 8 start id ---> 9 end id ----> 9 start id ---> 10 end id ----> 10 start id ---> 11 end id ----> 11 all works completed!2.第二種方法
from concurrent.futures import ProcessPoolExecutor import time def job(id):print('start id ---> %d' %id)print('end id ----> %d' %id)time.sleep(3)# 創(chuàng)建含有2個進程的進程池 pool = ProcessPoolExecutor(max_workers=2) # 給進程池的進程分配任務(wù),submit方法返回一個_base.Future對象 f1 = pool.submit(job,1) f2 = pool.submit(job,2) f3 = pool.submit(job,3) f4 = pool.submit(job,4) # 執(zhí)行f1對象的各種方法 f1.done() f1.result()運行結(jié)果:
start id ---> 1 end id ----> 1 start id ---> 2 end id ----> 2 start id ---> 3 end id ----> 3 start id ---> 4 end id ----> 43.第三種方法
from concurrent.futures import ProcessPoolExecutor import time def job(id):print('start id ---> %d' %id)print('end id ----> %d' %id)time.sleep(1) pool = ProcessPoolExecutor(max_workers=3) pool.map(job,range(1,10))運行結(jié)果:
start id ---> 1 end id ----> 1 start id ---> 2 end id ----> 2 start id ---> 3 end id ----> 3 start id ---> 4 end id ----> 4 start id ---> 5 end id ----> 5 start id ---> 6 end id ----> 6 start id ---> 7 end id ----> 7 start id ---> 8 end id ----> 8 start id ---> 9 end id ----> 9轉(zhuǎn)載于:https://blog.51cto.com/13885935/2178891
總結(jié)
以上是生活随笔為你收集整理的Python学习—pyhton中的进程的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: BIM技术在地铁中应用
- 下一篇: linux挂载windows共享的文件夹