Python 之協程

之前我們學習了線程、進程的概念,了解了在操作系統中進程是資源分配的最小單位,線程是CPU調度的最小單位。按道理來說我們已經算是把cpu的利用率提高很多了。但是我們知道無論是創建多進程還是創建多線程來解決問題,都要消耗一定的時間來創建進程、創建線程、以及管理他們之間的切換。

隨著我們對于效率的追求不斷提高,基于單線程來實現并發又成為一個新的課題,即只用一個主線程(很明顯可利用的cpu只有一個)情況下實現并發。這樣就可以節省創建線進程所消耗的時間。

為此我們需要先回顧下并發的本質:切換+保存狀態

cpu正在運行一個任務,會在兩種情況下切走去執行其他的任務(切換由操作系統強制控制),一種情況是該任務發生了阻塞,另外一種情況是該任務計算的時間過長

ps:在介紹進程理論時,提及進程的三種執行狀態,而線程才是執行單位,所以也可以將上圖理解為線程的三種狀態

一:其中第二種情況并不能提升效率,只是為了讓cpu能夠雨露均沾,實現看起來所有任務都被“同時”執行的效果,如果多個任務都是純計算的,這種切換反而會降低效率。

為此我們可以基于yield來驗證。yield本身就是一種在單線程下可以保存任務運行狀態的方法,我們來簡單復習一下:

# 1 yiled可以保存狀態,yield的狀態保存與操作系統的保存線程狀態很像,但是yield是代碼級別控制的,更輕量級
# 2 send可以把一個函數的結果傳給另外一個函數,以此實現單線程內程序之間的切換
# 串行執行
import time
def consumer(res):'''任務1:接收數據,處理數據'''passdef producer():'''任務2:生產數據'''res=[]for i in range(10000000):res.append(i)return resstart=time.time()
res=producer()    # 串行執行
consumer(res)     # 寫成consumer(producer())會降低執行效率
stop=time.time()
print(stop-start) # 1.5536692142486572# 基于yield并發執行
import time
def consumer():'''任務1:接收數據,處理數據'''while True:x=yielddef producer():'''任務2:生產數據'''g=consumer()next(g)for i in range(10000000):g.send(i)start=time.time()
# 基于yield保存狀態,實現兩個任務直接來回切換,即并發的效果
# PS:如果每個任務中都加上打印,那么明顯地看到兩個任務的打印是你一次我一次,即并發執行的.
producer()
stop=time.time()
print(stop-start) #2.0272178649902344

二:第一種情況的切換。在任務一遇到io情況下,切到任務二去執行,這樣就可以利用任務一阻塞的時間完成任務二的計算,效率的提升就在于此。

import time
def consumer():'''任務1:接收數據,處理數據'''while True:x=yielddef producer():'''任務2:生產數據'''g=consumer()next(g)for i in range(10000000):g.send(i)time.sleep(2)start=time.time()
producer()   # 并發執行,但是任務producer遇到io就會阻塞住,并不會切到該線程內的其他任務去執行stop=time.time()
print(stop-start)

  對于單線程下,我們不可避免程序中出現io操作,但如果我們能在自己的程序中(即用戶程序級別,而非操作系統級別)控制單線程下的多個任務能在一個任務遇到io阻塞時就切換到另外一個任務去計算,這樣就保證了該線程能夠最大限度地處于就緒態,即隨時都可以被cpu執行的狀態,相當于我們在用戶程序級別將自己的io操作最大限度地隱藏起來,從而可以迷惑操作系統,讓其看到:該線程好像是一直在計算,io比較少,從而更多的將cpu的執行權限分配給我們的線程。

協程的本質就是在單線程下,由用戶自己控制一個任務遇到io阻塞了就切換另外一個任務去執行,以此來提升效率。為了實現它,我們需要找尋一種可以同時滿足以下條件的解決方案:

  • 可以控制多個任務之間的切換,切換之前將任務的狀態保存下來,以便重新運行時,可以基于暫停的位置繼續執行。
  • 作為1的補充:可以檢測io操作,在遇到io操作的情況下才發生切換

協程介紹

協程:是單線程下的并發,又稱微線程,纖程。英文名Coroutine。一句話說明什么是線程:協程是一種用戶態的輕量級線程,即協程是由用戶程序自己控制調度的。

需要強調的是:

  • python的線程屬于內核級別的,即由操作系統控制調度(如單線程遇到io或執行時間過長就會被迫交出cpu執行權限,切換其他線程運行)
  • 單線程內開啟協程,一旦遇到io,就會從應用程序級別(而非操作系統)控制切換,以此來提升效率(!!!非io操作的切換與效率無關)

對比操作系統控制線程的切換,用戶在單線程內控制協程的切換

優點如下:

  • 協程的切換開銷更小,屬于程序級別的切換,操作系統完全感知不到,因而更加輕量級
  • 單線程內就可以實現并發的效果,最大限度地利用cpu

缺點如下:

  • 協程的本質是單線程下,無法利用多核,可以是一個程序開啟多個進程,每個進程內開啟多個線程,每個線程內開啟協程
  • 協程指的是單個線程,因而一旦協程出現阻塞,將會阻塞整個線程

總結協程特點:

  • 必須在只有一個單線程里實現并發
  • 修改共享數據不需加鎖
  • 用戶程序里自己保存多個控制流的上下文棧
  • 附加:一個協程遇到IO操作自動切換到其它協程(如何實現檢測IO,yield、greenlet都無法實現,就用到了gevent模塊(select機制))

Greenlet模塊

安裝 :pip3 install greenlet

from greenlet import greenletdef eat(name):print('%s eat 1' %name)g2.switch('egon')print('%s eat 2' %name)g2.switch()
def play(name):print('%s play 1' %name)g1.switch()print('%s play 2' %name)g1=greenlet(eat)
g2=greenlet(play)g1.switch('egon')#可以在第一次switch時傳入參數,以后都不需要

單純的切換(在沒有io的情況下或者沒有重復開辟內存空間的操作),反而會降低程序的執行速度

# 順序執行
import time
def f1():res=1for i in range(100000000):res+=idef f2():res=1for i in range(100000000):res*=istart=time.time()
f1()
f2()
stop=time.time()
print('run time is %s' %(stop-start)) #10.985628366470337# 切換
from greenlet import greenlet
import time
def f1():res=1for i in range(100000000):res+=ig2.switch()def f2():res=1for i in range(100000000):res*=ig1.switch()start=time.time()
g1=greenlet(f1)
g2=greenlet(f2)
g1.switch()
stop=time.time()
print('run time is %s' %(stop-start)) # 52.763017892837524

greenlet只是提供了一種比generator更加便捷的切換方式,當切到一個任務執行時如果遇到io,那就原地阻塞,仍然是沒有解決遇到IO自動切換來提升效率的問題。

單線程里的這20個任務的代碼通常會既有計算操作又有阻塞操作,我們完全可以在執行任務1時遇到阻塞,就利用阻塞的時間去執行任務2。。。。如此,才能提高效率,這就用到了Gevent模塊。

Gevent模塊

安裝:pip3 install gevent

Gevent 是一個第三方庫,可以輕松通過gevent實現并發同步或異步編程,在gevent中用到的主要模式是Greenlet, 它是以C擴展模塊形式接入Python的輕量級協程。 Greenlet全部運行在主程序操作系統進程的內部,但它們被協作式地調度。

# 用法介紹
g1=gevent.spawn(func,1,,2,3,x=4,y=5)  # 創建一個協程對象g1,spawn括號內第一個參數是函數名,如eat,后面可以有多個參數,可以是位置實參或關鍵字實參,都是傳給函數eat的
g2=gevent.spawn(func2)
g1.join() # 等待g1結束
g2.join() # 等待g2結束
# 或者上述兩步合作一步:gevent.joinall([g1,g2])
g1.value  # 拿到func1的返回值
import gevent
def eat(name):print('%s eat 1' %name)gevent.sleep(2)  # 模擬IO阻塞print('%s eat 2' %name)def play(name):print('%s play 1' %name)gevent.sleep(1)  # 模擬IO阻塞print('%s play 2' %name)g1=gevent.spawn(eat,'egon')
g2=gevent.spawn(play,name='egon')
g1.join()
g2.join()
#或者gevent.joinall([g1,g2])
print('主')

上例gevent.sleep(2)模擬的是gevent可以識別的io阻塞,而time.sleep(2)或其他的阻塞,gevent是不能直接識別的需要用下面一行代碼,打補丁,就可以識別了

from gevent import monkey;monkey.patch_all() # 必須放到被打補丁者的前面,如time,socket模塊之前或者我們干脆記憶成:要用gevent,需要將from gevent import monkey;monkey.patch_all()放到文件的開頭import gevent
import time
def eat():print('eat food 1')time.sleep(2)print('eat food 2')def play():print('play 1')time.sleep(1)print('play 2')g1=gevent.spawn(eat)
g2=gevent.spawn(play)
gevent.joinall([g1,g2])
print('主')

我們可以用threading.current_thread().getName()來查看每個g1和g2,查看的結果為DummyThread-n,即假線程

from gevent import monkey;monkey.patch_all()
import threading
import gevent
import time
def eat():print(threading.current_thread().getName())print('eat food 1')time.sleep(2)print('eat food 2')def play():print(threading.current_thread().getName())print('play 1')time.sleep(1)print('play 2')g1=gevent.spawn(eat)
g2=gevent.spawn(play)
gevent.joinall([g1,g2])
print('主')# 查看threading.current_thread().getName()

Gevent之同步與異步

from gevent import spawn,joinall,monkey;monkey.patch_all()import time
def task(pid):"""Some non-deterministic task"""time.sleep(0.5)print('Task %s done' % pid)def synchronous():  # 同步for i in range(10):task(i)def asynchronous(): # 異步g_l=[spawn(task,i) for i in range(10)]joinall(g_l)print('DONE')if __name__ == '__main__':print('Synchronous:')synchronous()print('Asynchronous:')asynchronous()
#  上面程序的重要部分是將task函數封裝到Greenlet內部線程的gevent.spawn。
#  初始化的greenlet列表存放在數組threads中,此數組被傳給gevent.joinall 函數,
#  后者阻塞當前流程,并執行所有給定的greenlet任務。執行流程只會在 所有greenlet執行完后才會繼續向下走。

Gevent之應用舉例一

from gevent import monkey;monkey.patch_all()
import gevent
import requests
import timedef get_page(url):print('GET: %s' %url)response=requests.get(url)if response.status_code == 200:print('%d bytes received from %s' %(len(response.text),url))start_time=time.time()
gevent.joinall([gevent.spawn(get_page,'https://www.python.org/'),gevent.spawn(get_page,'https://www.yahoo.com/'),gevent.spawn(get_page,'https://github.com/'),
])
stop_time=time.time()
print('run time is %s' %(stop_time-start_time))

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/454399.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/454399.shtml
英文地址,請注明出處:http://en.pswp.cn/news/454399.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

ip變換器蘋果系統_加密鎖能為高鐵做什么?鐵路電力變換器系統告訴您

代表國之重器的高鐵,是怎樣保護他們在軟件上投資的專有技術不被仿冒、逆向工程和篡改呢?與一般的軟件保護加密不同,高鐵運行中的實時控制器對物理環境有著嚴苛的要求,如鐵路電力變換器系統,須滿足典型工業應用的擴展溫…

華為服務器ibmc怎么裝系統,華為服務器安裝操作系統

《華為服務器安裝操作系統》由會員分享,可在線閱讀,更多相關《華為服務器安裝操作系統(11頁珍藏版)》請在人人文庫網上搜索。1、華為服務器安裝操作系統 1把網線接到服務器管理口上,2288服務器管理口在服務器背后中下 部位置,有Mg…

英語面試(自我介紹,電話面試..)

大凡找工作的人,都有對面試的擔心,而英語面試最令人頭痛。面試氣氛總是緊張的,一緊張就容易出錯,中文“臺詞”都會結巴,何況英語! 可俗話說,養兵千日,用兵一時,學了那么多…

服務端渲染與 Universal React App

隨著 Webpack 等前端構建工具的普及,客戶端渲染因為其構建方便,部署簡單等方面的優勢,逐漸成為了現代網站的主流渲染模式。而在剛剛發布的 React v16.0 中,改進后更為優秀的服務端渲染性能作為六大更新點之一,被 React…

zxing .net 多種條碼格式的生成

下載地址:http://zxingnet.codeplex.com/ zxing.net是.net平臺下編解條形碼和二維碼的工具,使用非常方便。 本文主要說明一下多種類型條碼的生成。 適用的場景,標簽可視化設計時,自定義條碼類型,預覽。 遍歷zxing支持的…

k8s dashboard_windows10 部署 docker+k8s 集群

下面是經過踩坑之后的 windows10 單機部署 docker k8s 步驟,其中有幾處比較關鍵的地方需要注意,后面加粗標注,下面就開始吧!0、下載cmder在 windows 上有一個趁手的命令行工具非常有必要,推薦 Cmder,下面是…

Python 之網絡編程基礎

套接字(socket)初使用 基于TCP協議的socket tcp是基于鏈接的,必須先啟動服務端,然后再啟動客戶端去鏈接服務端 server端 import socket sk socket.socket() sk.bind((127.0.0.1,8898)) # 把地址綁定到套接字 sk.listen() …

ajax on ture,細數Ajax請求中的async:false和async:true的差異

實例如下:function test(){var temp"00";$.ajax({async: false,type : "GET",url : userL_checkPhone.do,complete: function(msg){alert(complete);},success : function(data) {alert(success);tempdata;temp"aa";}});alert(temp);…

阿里云郵箱登錄日志中有異地IP登錄是怎么回事?該怎么辦?

注意,請先到阿里云官網 領取幸運券,除了價格上有很多優惠外,還可以參與抽獎。詳見:https://promotion.aliyun.com/ntms/act/ambassador/sharetouser.html?userCode2a7uv47d&utm_source2a7uv47d以下可能:1、您的郵…

面試之網絡編程和并發

1、簡述 OSI 七層協議。 物理層:主要基于電器特性發送高低電壓(1、0),設備有集線器、中繼器、雙絞線等,單位:bit 數據鏈路層:定義了電信號的分組方式,設備:交換機、網卡、網橋,單位&…

redis 遠程主機強迫關閉了一個現有的連接_記一次Redis+Getshell經驗分享

你是我患得患失的夢,我是你可有可無的人,畢竟這穿越山河的箭,刺的都是用情之疾的人。前言:當我們接到一個授權滲透測試的時候,常規漏洞如注入、文件上傳等嘗試無果后,掃描端口可能會發現意外收獲。知己知彼…

無線連接 服務器,服務器無線遠程連接

服務器無線遠程連接 內容精選換一換華為云幫助中心,為用戶提供產品簡介、價格說明、購買指南、用戶指南、API參考、最佳實踐、常見問題、視頻幫助等技術文檔,幫助您快速上手使用華為云服務。使用Mac版Microsoft Remote Desktop工具,遠程連接W…

面試前您該做的事情

選自本人作品:《軟件性能測試與LR實戰》 無論您是剛剛畢業的大學生朋友,還是已經有工作經驗的同行,大家都不可避免的面臨一個問題就是找工作或者換工作的問題。在整個應聘過程中,面試無疑是最具有決定性意義的重要環節&#xff0c…

IO模型

IO模型介紹 傳統的網絡IO模型包括五種: blocking IO 阻塞IOnonblocking IO 非阻塞IOIO multiplexing IO多路復用signal driven IO 信號驅動IOasynchronous IO 異步IO 由于signal driven IO(信號驅動IO)在實際中…

重溫數據結構:樹 及 Java 實現(轉)

轉自:http://blog.csdn.net/u011240877/article/details/53193877 讀完本文你將了解到: 什么是樹樹的相關術語 根節點父親節點孩子節點葉子節點如上所述節點的度樹的度節點的層次樹的高度樹的深度樹的兩種實現 數組表示鏈表表示的節點樹的幾種常見分類及…

Powershell檢測AD賬戶密碼過期時間并郵件通知

腳本主要實現了兩個功能 : 一能判斷賬戶密碼的過期時間并通過郵件通知到賬戶; 二是將這些即將過期的賬戶信息累計通知到管理員。 腳本如下: 123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051…

js list刪除指定元素_vue.js

vue.js 中M V MV代表哪一部分 <插值表達式&#xff08;v-cloak v-text v-html v-bind&#xff08;縮寫是:&#xff09; v-on&#xff08;縮寫是&#xff09; v-model v-for v-if v-show &#xff09;<body><div id"app"><!-- 使用 v-cloak 能夠解決…

修改db2管理服務器,創建DB2管理服務器的兩種情況

DB2管理服務器在創建時分為創建一個和創建多個兩種情況&#xff0c;下面就為您詳細介紹這兩種創建DB2管理服務器的情況&#xff0c;供您參考學習。一、創建DB2管理服務器(只能創建一個)1、首先創建管理服務組用戶(可不建)命令&#xff1a;sudo groupadd dasadm12、創建用戶命令…

系統程序員成長計劃-走近專業程序員

轉載時請注明出處和作者聯系方式 文章出處&#xff1a;http://www.limodev.cn/blog 作者聯系方式&#xff1a;李先靜 <xianjimli at hotmail dot com> 需求簡述 用C語言編寫一個雙向鏈表。如果你有一定的C語言編程經驗&#xff0c;這自然是小菜一碟。有的讀者可能連一個…

Python 內置模塊之 asyncio(異步iO)

python3.0&#xff0c;標準庫里的異步網絡模塊&#xff1a;select(非常底層) &#xff0c;第三方異步網絡庫&#xff1a;Tornado&#xff0c;gevent python3.4&#xff0c;asyncio&#xff1a;支持 TCP &#xff0c;子進程 現在的asyncio&#xff0c;有了很多的模塊已經在支持…