一、協程
1.1協程的概念
協程,又稱微線程,纖程。英文名Coroutine。一句話說明什么是線程:協程是一種用戶態的輕量級線程。(其實并沒有說明白~)
那么這么來理解協程比較容易:
線程是系統級別的,它們是由操作系統調度;協程是程序級別的,由程序員根據需要自己調度。我們把一個線程中的一個個函數叫做子程序,那么子程序在執行過程中可以中斷去執行別的子程序;別的子程序也可以中斷回來繼續執行之前的子程序,這就是協程。也就是說同一線程下的一段代碼執行著執行著就可以中斷,然后跳去執行另一段代碼,當再次回來執行代碼塊的時候,接著從之前中斷的地方開始執行。
比較專業的理解是:
協程擁有自己的寄存器上下文和棧。協程調度切換時,將寄存器上下文和棧保存到其他地方,在切回來的時候,恢復先前保存的寄存器上下文和棧。因此:協程能保留上一次調用時的狀態(即所有局部狀態的一個特定組合),每次過程重入時,就相當于進入上一次調用的狀態,換種說法:進入上一次離開時所處邏輯流的位置。
1.2 協程的優缺點
協程的優點:
(1)無需線程上下文切換的開銷,協程避免了無意義的調度,由此可以提高性能(但也因此,程序員必須自己承擔調度的責任,同時,協程也失去了標準線程使用多CPU的能力)
(2)無需原子操作鎖定及同步的開銷
(3)方便切換控制流,簡化編程模型
? (4)高并發+高擴展性+低成本:一個CPU支持上萬的協程都不是問題。所以很適合用于高并發處理。
協程的缺點:
(1)無法利用多核資源:協程的本質是個單線程,它不能同時將 單個CPU 的多個核用上,協程需要和進程配合才能運行在多CPU上.當然我們日常所編寫的絕大部分應用都沒有這個必要,除非是cpu密集型應用。
(2)進行阻塞(Blocking)操作(如IO時)會阻塞掉整個程序
2、Python中如何實現協程
2.1 yield實現協程
前文所述“子程序(函數)在執行過程中可以中斷去執行別的子程序;別的子程序也可以中斷回來繼續執行之前的子程序”,那么很容易想到Python的yield,顯然yield是可以實現這種切換的。
def?eater(name):print("%s?eat?food"?%name)while?True:food?=?yieldprint("done")
g?=?eater("gangdan")
print(g)
執行結果:
<generator?object?eater?at?0x0000000002140FC0>
由執行結果可以證明g現在就是生成器函數
2.2 協程函數賦值過程
用的是yield的表達式形式,要先運行next(),讓函數初始化并停在yield,然后再send() ,send會在觸發下一次代碼的執行時,給yield賦值
next()和send() 都是讓函數在上次暫停的位置繼續運行,
def?creater(name):print('%s?start?to?eat?food'?%name)food_list?=?[]while?True:food?=?yield?food_listprint('%s?get?%s?,to?start?eat'?%(name,food))food_list.append(food)
#?獲取生成器
builder?=?creater('tom')
#?現在是運行函數,讓函數初始化
next(builder)
print(builder.send('包子'))
print(builder.send('骨頭'))
print(builder.send('菜湯'))執行結果:tom?start?to?eat?food
tom?get?包子?,to?start?eat
['包子']
tom?get?骨頭?,to?start?eat
['包子',?'骨頭']
tom?get?菜湯?,to?start?eat
['包子',?'骨頭',?'菜湯']
需要注意的是每次都需要先運行next()函數,讓程序停留在yield位置。
如果有多個這樣的函數都需要執行next()函數,讓程序停留在yield位置。為了防止忘記初始化next操作,需要用到裝飾器來解決此問題
def?init(func):def?wrapper(*args,**kwargs):builder?=?func(*args,**kwargs)next(builder)????#?這個地方是關鍵可以使用builder.send("None"),第一次必須傳入None。return?builderreturn?wrapper
@init
def?creater(name):print('%s?start?to?eat?food'?%name)food_list?=?[]while?True:food?=?yield?food_listprint('%s?get?%s?,to?start?eat'?%(name,food))food_list.append(food)
#?獲取生成器
builder?=?creater("tom")
#?現在是直接運行函數,無須再函數初始化
print(builder.send('包子'))
print(builder.send('骨頭'))
print(builder.send('菜湯'))
執行結果:
tom?start?to?eat?food
tom?get?包子?,to?start?eat
['包子']
tom?get?骨頭?,to?start?eat
['包子',?'骨頭']
tom?get?菜湯?,to?start?eat
['包子',?'骨頭',?'菜湯']2.3?協程函數簡單應用
請給Tom投喂食物
def?init(func):def?wrapper(*args,**kwargs):builder?=?func(*args,**kwargs)next(builder)return?builderreturn?wrapper
@init
def?creater(name):print('%s?start?to?eat?food'?%name)food_list?=?[]while?True:food?=?yield?food_listprint('%s?get?%s?,to?start?eat'?%(name,food))food_list.append(food)
def?food():builder?=?creater("Tom")while?True:food?=?input("請給Tom投喂食物:").strip()if?food?==?"q":print("投喂結束")return?0else:builder.send(food)
if?__name__?==?'__main__':food()
執行結果:
Tom?start?to?eat?food
請給Tom投喂食物:骨頭
Tom?get?骨頭?,to?start?eat
請給Tom投喂食物:菜湯
Tom?get?菜湯?,to?start?eat
請給Tom投喂食物:q
投喂結束
2.4 協程函數的應用
實現linux中"grep -rl error <目錄>"命令,過濾一個文件下的子文件、字文件夾的內容中的相應的內容的功能程序
首先了解一個OS模塊中的walk方法,能夠把參數中的路徑下的文件夾打開并返回一個元組
>>>?import?os?#?導入模塊
>>>?os.walk(r"E:\Python\script")?#使用r?是讓字符串中的符號沒有特殊意義,針對的是轉義
<generator?object?walk?at?0x00000000035D3F10>
>>>?g?=?os.walk(r"E:\Python\script")
>>>?next(g)
('E:\\Python\\script',?['.idea',?'函數'],?[])
返回的是一個元組,第一個元素是文件的路徑,第二個是文件夾,第三個是該路徑下的文件
這里需要用到一個寫程序的思想:面向過程編程
二、面向過程編程
面向過程:核心是過程二字,過程及即解決問題的步驟,基于面向過程設計程序就是一條工業流水線,是一種機械式的思維方式。流水線式的編程思想,在設計程序時,需要把整個流程設計出來
優點:
1:體系結構更加清晰
2:簡化程序的復雜度
缺點:
可擴展性極其的差,所以說面向過程的應用場景是:不需要經常變化的軟件,如:linux內核,httpd,git等軟件
下面就根據面向過程的思想完成協程函數應用中的功能
目錄結構:
test
├──?aa
│???├──?bb1
│????│????└──?file2.txt
│???└──?bb2
│???????└──?file3.txt
└─?file1.txt
文件內容:
file1.txt:error123
file2.txt:123
file3.txt:123error
程序流程
?? ?第一階段:找到所有文件的絕對路徑
?? ?第二階段:打開文件
?? ?第三階段:循環讀取每一行
?? ?第四階段:過濾“error”
?? ?第五階段:打印該行屬于的文件名
第一階段:找到所有文件的絕對路徑
g是一個生成器,就能夠用next()執行,每次next就是運行一次,這里的運行結果是依次打開文件的路徑
>>>?import?os
>>>?g?=?os.walk(r"E:\Python\script\函數\test")
>>>?next(g)
('E:\\Python\\script\\函數\\test',?['aa'],?[])
>>>?next(g)
('E:\\Python\\script\\函數\\test\\aa',?['bb1',?'bb2'],?['file1.txt'])
>>>?next(g)
('E:\\Python\\script\\函數\\test\\aa\\bb1',?[],?['file2.txt'])
>>>?next(g)
('E:\\Python\\script\\函數\\test\\aa\\bb2',?[],?['file3.txt'])
>>>?next(g)
Traceback?(most?recent?call?last):File?"<input>",?line?1,?in?<module>
StopIteration
我們在打開文件的時候需要找到文件的絕對路徑,現在可以通過字符串拼接的方法把第一部分和第三部分進行拼接
用循環打開:
import?os
dir_g?=?os.walk(r"E:\Python\script\函數\test")
for?dir_path?in?dir_g:print(dir_path)
結果:
('E:\\Python\\script\\函數\\test',?['aa'],?[])
('E:\\Python\\script\\函數\\test\\aa',?['bb1',?'bb2'],?['file1.txt'])
('E:\\Python\\script\\函數\\test\\aa\\bb1',?[],?['file2.txt'])
('E:\\Python\\script\\函數\\test\\aa\\bb2',?[],?['file3.txt'])
將查詢出來的文件和路徑進行拼接,拼接成絕對路徑
import?os
dir_g?=?os.walk(r"E:\Python\script\函數\test")
for?dir_path?in?dir_g:for?file?in?dir_path[2]:file?=?"%s\\%s"?%(dir_path[0],file)print(file)
執行結果:
E:\Python\script\函數\test\aa\file1.txt
E:\Python\script\函數\test\aa\bb1\file2.txt
E:\Python\script\函數\test\aa\bb2\file3.txt
用函數實現:
import?os
def?search():while?True:dir_name?=?yielddir_g?=?os.walk(dir_name)for?dir_path?in?dir_g:for?file?in?dir_path[2]:file?=?"%s\\%s"?%(dir_path[0],file)print(file)
g?=?search()
next(g)
g.send(r"E:\Python\script\函數\test")
為了把結果返回給下一流程
@init???#?初始化生成器
def?search(target):while?True:dir_name?=?yielddir_g?=?os.walk(dir_name)for?pardir,_,files?in?dir_g:for?file?in?files:abspath?=?r"%s\%s"?%(pardir,file)target.send(abspath)
第二階段:打開文件
@init
def?opener(target):while?True:abspath=yieldwith?open(abspath,'rb')?as?f:target.send((abspath,f))
第三階段:循環讀出每一行內容
@init
def?cat(target):while?True:abspath,f=yield?#(abspath,f)for?line?in?f:res=target.send((abspath,line))if?res:break
第四階段:過濾
@init
def?grep(pattern,target):tag=Falsewhile?True:abspath,line=yield?tagtag=Falseif?pattern?in?line:target.send(abspath)tag=True
第五階段:打印該行屬于的文件名
@init
def?printer():while?True:abspath=yieldprint(abspath)
g?=?search(opener(cat(grep('error'.encode('utf-8'),?printer()))))
g.send(r'E:\Python\script\函數\test')
執行結果:
E:\Python\script\函數\test\aa\file1.txt
E:\Python\script\函數\test\aa\bb2\file3.txt
轉載于:https://blog.51cto.com/xuanwei/1953449
總結
以上是生活随笔為你收集整理的Python自动化运维之高级函数的全部內容,希望文章能夠幫你解決所遇到的問題。
如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。