第七章|7.3并发编程|协程
?1、協程?
5個任務實現并發,放到1個線程里邊;單線程是無法實現并行的;并發是看起來任務是同時運行的就可以了,其本質來回切換并保存狀態。
單線程實現并發,切換+保存狀態,協程要做的事情。
cpu正在運行一個任務,會在兩種情況下切走去執行其他的任務(切換由操作系統強制控制),一種情況是該任務發生了阻塞,另外一種情況是該任務計算的時間過長或有一個優先級更高的程序替代了它。其中第二種情況并不能提升效率,只是為了讓cpu能夠雨露均沾,實現看起來所有任務都被“同時”執行的效果,如果多個任務都是純計算的,這種切換反而會降低效率。為此我們可以基于yield來驗證。
yield本身就是一種在單線程下可以保存任務運行狀態的方法;
1 yiled可以保存狀態,yield的狀態保存與操作系統的保存線程狀態很像,但是yield是代碼級別控制的,更輕量級 2 send可以把一個函數的結果傳給另外一個函數,以此實現單線程內程序之間的切換
第一種情況的切換。在任務一遇到io情況下,切到任務二去執行,這樣就可以利用任務一阻塞的時間完成任務二的計算,效率的提升就在于此。
yield并不能實現遇到io切換
ps:在介紹進程理論時,提及進程的三種執行狀態,而線程才是執行單位,所以也可以將上圖理解為線程的三種狀態 對于單線程下,我們不可避免程序中出現io操作,但如果我們能在自己的程序中(即用戶程序級別,而非操作系統級別)控制單線程下的多個任務能在一個任務遇到io阻塞時就切換到另外一個任務去計算,
這樣就保證了該線程能夠最大限度地處于就緒態,即隨時都可以被cpu執行的狀態,相當于我們在用戶程序級別將自己的io操作最大限度地隱藏起來,從而可以迷惑操作系統,
讓其看到:該線程好像是一直在計算,io比較少,從而更多的將cpu的執行權限分配給我們的線程。?
協程的本質就是在單線程下,由用戶自己控制一個任務遇到io阻塞了就切換另外一個任務去執行,以此來提升效率。為了實現它,我們需要找尋一種可以同時滿足以下條件的解決方案: 1. 可以控制多個任務之間的切換,切換之前將任務的狀態保存下來,以便重新運行時,可以基于暫停的位置繼續執行。2. 作為1的補充:可以檢測io操作,在遇到io操作的情況下才發生切換 協程是一種用戶態的輕量級線程,即協程是由用戶程序自己控制調度的。
1. python的線程屬于內核級別的,即由操作系統控制調度(如單線程遇到io或執行時間過長就會被迫交出cpu執行權限,切換其他線程運行) 2. 單線程內開啟協程,一旦遇到io,就會從應用程序級別(而非操作系統)控制切換,以此來提升效率(!!!非io操作的切換與效率無關)
優點如下:
1. 協程的切換開銷更小,屬于程序級別的切換,操作系統完全感知不到,因而更加輕量級 2. 單線程內就可以實現并發的效果,最大限度地利用cpu缺點如下:
1. 協程的本質是單線程下,無法利用多核,可以是一個程序開啟多個進程,每個進程內開啟多個線程,每個線程內開啟協程 2. 協程指的是單個線程,因而一旦協程出現阻塞,將會阻塞整個線程總結協程特點:
2、greenlet模塊
只是比yield好一點
如果我們在單個線程內有20個任務,要想實現在多個任務之間切換,使用yield生成器的方式過于麻煩(需要先得到初始化一次的生成器,然后再調用send。。。非常麻煩),而使用greenlet模塊可以非常簡單地實現這20個任務直接的切換。
from greenlet import greenlet import time def eat(name):print('%s eat 1' %name)time.sleep(10)g2.switch('egon') #第一次啟動print('%s eat 2' %name)g2.switch() #再切def play(name):print('%s play 1' %name )g1.switch() #再切回來print('%s play 2' %name ) g1=greenlet(eat) g2=greenlet(play)g1.switch('egon') #第一次啟動的時候傳個參數打印: egon eat 1 egon play 1 egon eat 2 egon play 2greenlet只是提供了一種比generator更加便捷的切換方式,當切到一個任務執行時如果遇到io,那就原地阻塞,仍然是沒有解決遇到IO自動切換來提升效率的問題。
單線程里的這20個任務的代碼通常會既有計算操作又有阻塞操作,我們完全可以在執行任務1時遇到阻塞,就利用阻塞的時間去執行任務2。。。。如此,才能提高效率,這就用到了Gevent模塊。
3、gevent模塊
本質就是封裝了greenlet模塊,它能檢測I/O并且遇到I/O自動切換到另外一個任務執行;可以幫我們提升效率
from gevent import monkey;monkey.patch_all() #把下面所有的涉及I/O操作的給你打了個標記,被gevent識別 import gevent import timedef eat(name):print('%s eat 1' % name)time.sleep(3) #遇到I/O立馬切換到下面執行print('%s eat 2' % name)def play(name):print('%s play 1' % name)time.sleep(4)print('%s play 2' % name)start_time=time.time() g1=gevent.spawn(eat,'egon') #異步提交的方式 g2=gevent.spawn(play,'alex')g1.join() #等待執行完 g2.join() stop_time=time.time() print(stop_time-start_time)打印: egon eat 1 alex play 1 egon eat 2 alex play 2 4.0012288093566895gevent異步提交任務
from gevent import monkey;monkey.patch_all() import gevent import timedef eat(name):print('%s eat 1' % name)time.sleep(3)print('%s eat 2' % name)def play(name):print('%s play 1' % name)time.sleep(4)print('%s play 2' % name)g1=gevent.spawn(eat,'egon') g2=gevent.spawn(play,'alex')# time.sleep(5)# g1.join() # g2.join()gevent.joinall([g1,g2]) #相當于上邊兩行代碼打印: egon eat 1 alex play 1 egon eat 2 alex play 2基于gevent模塊實現并發的套接字通信
單線程、多任務的I/O操作。
#基于gevent實現 from gevent import monkey,spawn;monkey.patch_all() from socket import *def communicate(conn):while True:try:data=conn.recv(1024)if not data:breakconn.send(data.upper())except ConnectionResetError:breakconn.close()def server(ip,port):server = socket(AF_INET, SOCK_STREAM)server.bind((ip,port))server.listen(5)while True:conn, addr = server.accept()spawn(communicate,conn) #造一個協程對象,提交完這個對象它不會執行server.close()if __name__ == '__main__':g=spawn(server,'127.0.0.1',8090)g.join() ##客戶端from socket import * from threading import Thread,currentThreaddef client():client=socket(AF_INET,SOCK_STREAM)client.connect(('127.0.0.1',8090))while True:client.send(('%s hello' %currentThread().getName()).encode('utf-8'))data=client.recv(1024)print(data.decode('utf-8'))client.close() if __name__ == '__main__':for i in range(500):t=Thread(target=client)t.start()?
轉載于:https://www.cnblogs.com/shengyang17/p/8926214.html
總結
以上是生活随笔為你收集整理的第七章|7.3并发编程|协程的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 内网通去广告生成器
- 下一篇: Kali下TheFatRat工具的安装教