前言本文將繼續圍繞 threading 模塊講解,基本上是純理論偏多。
對于日常開發者來講很少會使用到本文的內容,但是對框架作者等是必備知識,同時也是高頻的面試常見問題。
線程安全線程安全是多線程或多進程編程中的一個概念,在擁有共享數據的多條線程并行執行的程序中,線程安全的代碼會通過同步機制保證各個線程都可以正常且正確的執行,不會出現數據污染等意外情況。
線程安全的問題最主要還是由線程切換導致的,比如一個房間(進程)中有10顆糖(資源),除此之外還有3個小人(1個主線程、2個子線程),當小人A吃了3顆糖后被系統強制進行休息時他認為還剩下7顆糖,而當小人B工作后又吃掉了3顆糖,那么當小人A重新上崗時會認為糖還剩下7顆,但是實際上只有4顆了。
上述例子中線程A和線程B的數據不同步,這就是線程安全問題,它可能導致非常嚴重的意外情況發生,我們按下面這個示例來進行說明。
下面有一個數值num初始值為0,我們開啟2條線程:
線程1對num進行一千萬次+1的操作
線程2對num進行一千萬次-1的操作
結果可能會令人咋舌,num最后并不是我們所想象的結果0:
importthreading
num=0
defadd():
globalnum
foriinrange(10_000_000):
num+=1
defsub():
globalnum
foriinrange(10_000_000):
num-=1
if__name__=="__main__":
subThread01=threading.Thread(target=add)
subThread02=threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("numresult:%s"%num)
#結果三次采集
#numresult:669214
#numresult:-1849179
#numresult:-525674
上面這就是一個非常好的案例,想要解決這個問題就必須通過鎖來保障線程切換的時機。
需要我們值得留意的是,在Python基本數據類型中list、tuple、dict本身就是屬于線程安全的,所以如果有多個線程對這3種容器做操作時,我們不必考慮線程安全問題。
鎖的作用鎖是Python提供給我們能夠自行操控線程切換的一種手段,使用鎖可以讓線程的切換變的有序。
一旦線程的切換變的有序后,各個線程之間對數據的訪問、修改就變的可控,所以若要保證線程安全,就必須使用鎖。
threading模塊中提供了5種最常見的鎖,下面是按照功能進行劃分:
同步鎖:lock(一次只能放行一個)
遞歸鎖:rlock(一次只能放行一個)
條件鎖:condition(一次可以放行任意個)
事件鎖:event(一次全部放行)
信號量鎖:semaphore(一次可以放行特定個)
1、Lock() 同步鎖基本介紹
Lock鎖的稱呼有很多,如:
同步鎖
互斥鎖
它們是什么意思呢?如下所示:
互斥指的是某一資源同一時刻僅能有一個訪問者對其進行訪問,具有唯一性和排他性,但是互斥無法限制訪問者對資源的訪問順序,即訪問是無序的
同步是指在互斥的基礎上(大多數情況),通過其他機制實現訪問者對資源的有序訪問
同步其實已經實現了互斥,是互斥的一種更為復雜的實現,因為它在互斥的基礎上實現了有序訪問的特點
下面是threading模塊與同步鎖提供的相關方法:
方法 | 描述 |
---|---|
threading.Lock() | 返回一個同步鎖對象 |
lockObject.acquire(blocking=True, timeout=1) | 上鎖,當一個線程在執行被上鎖代碼塊時,將不允許切換到其他線程運行,默認鎖失效時間為1秒 |
lockObject.release() | 解鎖,當一個線程在執行未被上鎖代碼塊時,將允許系統根據策略自行切換到其他線程中運行 |
lockObject.locaked() | 判斷該鎖對象是否處于上鎖狀態,返回一個布爾值 |
使用方式
同步鎖一次只能放行一個線程,一個被加鎖的線程在運行時不會將執行權交出去,只有當該線程被解鎖時才會將執行權通過系統調度交由其他線程。
如下所示,使用同步鎖解決最上面的問題:
importthreading
num=0
defadd():
lock.acquire()
globalnum
foriinrange(10_000_000):
num+=1
lock.release()
defsub():
lock.acquire()
globalnum
foriinrange(10_000_000):
num-=1
lock.release()
if__name__=="__main__":
lock=threading.Lock()
subThread01=threading.Thread(target=add)
subThread02=threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("numresult:%s"%num)
#結果三次采集
#numresult:0
#numresult:0
#numresult:0
這樣這個代碼就完全變成了串行的狀態,對于這種計算密集型I/O業務來說,還不如直接使用串行化單線程執行來得快,所以這個例子僅作為一個示例,不能概述鎖真正的用途。
死鎖現象
對于同步鎖來說,一次acquire()必須對應一次release(),不能出現連續重復使用多次acquire()后再重復使用多次release()的操作,這樣會引起死鎖造成程序的阻塞,完全不動了,如下所示:
importthreading
num=0
defadd():
lock.acquire()#上鎖
lock.acquire()#死鎖
#不執行
globalnum
foriinrange(10_000_000):
num+=1
lock.release()
lock.release()
defsub():
lock.acquire()#上鎖
lock.acquire()#死鎖
#不執行
globalnum
foriinrange(10_000_000):
num-=1
lock.release()
lock.release()
if__name__=="__main__":
lock=threading.Lock()
subThread01=threading.Thread(target=add)
subThread02=threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("numresult:%s"%num)
with語句
由于threading.Lock()對象中實現了__enter__()與__exit__()方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
importthreading
num=0
defadd():
withlock:
#自動加鎖
globalnum
foriinrange(10_000_000):
num+=1
#自動解鎖
defsub():
withlock:
#自動加鎖
globalnum
foriinrange(10_000_000):
num-=1
#自動解鎖
if__name__=="__main__":
lock=threading.Lock()
subThread01=threading.Thread(target=add)
subThread02=threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("numresult:%s"%num)
#結果三次采集
#numresult:0
#numresult:0
#numresult:0
2、RLock() 遞歸鎖
基本介紹
遞歸鎖是同步鎖的一個升級版本,在同步鎖的基礎上可以做到連續重復使用多次acquire()后再重復使用多次release()的操作,但是一定要注意加鎖次數和解鎖次數必須一致,否則也將引發死鎖現象。
下面是threading模塊與遞歸鎖提供的相關方法:
方法 | 描述 |
---|---|
threading.RLock() | 返回一個遞歸鎖對象 |
lockObject.acquire(blocking=True, timeout=1) | 上鎖,當一個線程在執行被上鎖代碼塊時,將不允許切換到其他線程運行,默認鎖失效時間為1秒 |
lockObject.release() | 解鎖,當一個線程在執行未被上鎖代碼塊時,將允許系統根據策略自行切換到其他線程中運行 |
lockObject.locaked() | 判斷該鎖對象是否處于上鎖狀態,返回一個布爾值 |
使用方式
以下是遞歸鎖的簡單使用,下面這段操作如果使用同步鎖則會發生死鎖現象,但是遞歸鎖不會:
importthreading
num=0
defadd():
lock.acquire()
lock.acquire()
globalnum
foriinrange(10_000_000):
num+=1
lock.release()
lock.release()
defsub():
lock.acquire()
lock.acquire()
globalnum
foriinrange(10_000_000):
num-=1
lock.release()
lock.release()
if__name__=="__main__":
lock=threading.RLock()
subThread01=threading.Thread(target=add)
subThread02=threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("numresult:%s"%num)
#結果三次采集
#numresult:0
#numresult:0
#numresult:0
with語句
由于threading.RLock()對象中實現了__enter__()與__exit__()方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
importthreading
num=0
defadd():
withlock:
#自動加鎖
globalnum
foriinrange(10_000_000):
num+=1
#自動解鎖
defsub():
withlock:
#自動加鎖
globalnum
foriinrange(10_000_000):
num-=1
#自動解鎖
if__name__=="__main__":
lock=threading.RLock()
subThread01=threading.Thread(target=add)
subThread02=threading.Thread(target=sub)
subThread01.start()
subThread02.start()
subThread01.join()
subThread02.join()
print("numresult:%s"%num)
#結果三次采集
#numresult:0
#numresult:0
#numresult:0
3、Condition() 條件鎖
基本介紹
條件鎖是在遞歸鎖的基礎上增加了能夠暫停線程運行的功能。并且我們可以使用wait()與notify()來控制線程執行的個數。
注意:條件鎖可以自由設定一次放行幾個線程。
下面是threading模塊與條件鎖提供的相關方法:
方法 | 描述 |
---|---|
threading.Condition() | 返回一個條件鎖對象 |
lockObject.acquire(blocking=True, timeout=1) | 上鎖,當一個線程在執行被上鎖代碼塊時,將不允許切換到其他線程運行,默認鎖失效時間為1秒 |
lockObject.release() | 解鎖,當一個線程在執行未被上鎖代碼塊時,將允許系統根據策略自行切換到其他線程中運行 |
lockObject.wait(timeout=None) | 將當前線程設置為“等待”狀態,只有該線程接到“通知”或者超時時間到期之后才會繼續運行,在“等待”狀態下的線程將允許系統根據策略自行切換到其他線程中運行 |
lockObject.wait_for(predicate, timeout=None) | 將當前線程設置為“等待”狀態,只有該線程的predicate返回一個True或者超時時間到期之后才會繼續運行,在“等待”狀態下的線程將允許系統根據策略自行切換到其他線程中運行。注意:predicate參數應當傳入一個可調用對象,且返回結果為bool類型 |
lockObject.notify(n=1) | 通知一個當前狀態為“等待”的線程繼續運行,也可以通過參數n通知多個 |
lockObject.notify_all() | 通知所有當前狀態為“等待”的線程繼續運行 |
使用方式
下面這個案例會啟動10個子線程,并且會立即將10個子線程設置為等待狀態。
然后我們可以發送一個或者多個通知,來恢復被等待的子線程繼續運行:
importthreading
currentRunThreadNumber=0
maxSubThreadNumber=10
deftask():
globalcurrentRunThreadNumber
thName=threading.currentThread().name
condLock.acquire()#上鎖
print("startandwaitrunthread:%s"%thName)
condLock.wait()#暫停線程運行、等待喚醒
currentRunThreadNumber+=1
print("carryonrunthread:%s"%thName)
condLock.release()#解鎖
if__name__=="__main__":
condLock=threading.Condition()
foriinrange(maxSubThreadNumber):
subThreadIns=threading.Thread(target=task)
subThreadIns.start()
whilecurrentRunThreadNumber"Please enter the number of threads that need to be notified to run:"))
condLock.acquire()
condLock.notify(notifyNumber)#放行
condLock.release()
print("mainthreadrunend")
#先啟動10個子線程,然后這些子線程會全部變為等待狀態
#startandwaitrunthread:Thread-1
#startandwaitrunthread:Thread-2
#startandwaitrunthread:Thread-3
#startandwaitrunthread:Thread-4
#startandwaitrunthread:Thread-5
#startandwaitrunthread:Thread-6
#startandwaitrunthread:Thread-7
#startandwaitrunthread:Thread-8
#startandwaitrunthread:Thread-9
#startandwaitrunthread:Thread-10
#批量發送通知,放行特定數量的子線程繼續運行
# Please enter the number of threads that need to be notified to run:5 #放行5個
#carryonrunthread:Thread-4
#carryonrunthread:Thread-3
#carryonrunthread:Thread-1
#carryonrunthread:Thread-2
#carryonrunthread:Thread-5
# Please enter the number of threads that need to be notified to run:5 #放行5個
#carryonrunthread:Thread-8
#carryonrunthread:Thread-10
#carryonrunthread:Thread-6
#carryonrunthread:Thread-9
#carryonrunthread:Thread-7
# Please enter the number of threads that need to be notified to run:1
#mainthreadrunend
with語句
由于threading.Condition()對象中實現了__enter__()與__exit__()方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
importthreading
currentRunThreadNumber=0
maxSubThreadNumber=10
deftask():
globalcurrentRunThreadNumber
thName=threading.currentThread().name
withcondLock:
print("startandwaitrunthread:%s"%thName)
condLock.wait()#暫停線程運行、等待喚醒
currentRunThreadNumber+=1
print("carryonrunthread:%s"%thName)
if__name__=="__main__":
condLock=threading.Condition()
foriinrange(maxSubThreadNumber):
subThreadIns=threading.Thread(target=task)
subThreadIns.start()
whilecurrentRunThreadNumber"Please enter the number of threads that need to be notified to run:"))
withcondLock:
condLock.notify(notifyNumber)#放行
print("mainthreadrunend")
4、Event() 事件鎖
基本介紹
事件鎖是基于條件鎖來做的,它與條件鎖的區別在于一次只能放行全部,不能放行任意個數量的子線程繼續運行。
我們可以將事件鎖看為紅綠燈,當紅燈時所有子線程都暫停運行,并進入“等待”狀態,當綠燈時所有子線程都恢復“運行”。
下面是threading模塊與事件鎖提供的相關方法:
方法 | 描述 |
---|---|
threading.Event() | 返回一個事件鎖對象 |
lockObject.clear() | 將事件鎖設為紅燈狀態,即所有線程暫停運行 |
lockObject.is_set() | 用來判斷當前事件鎖狀態,紅燈為False,綠燈為True |
lockObject.set() | 將事件鎖設為綠燈狀態,即所有線程恢復運行 |
lockObject.wait(timeout=None) | 將當前線程設置為“等待”狀態,只有該線程接到“綠燈通知”或者超時時間到期之后才會繼續運行,在“等待”狀態下的線程將允許系統根據策略自行切換到其他線程中運行 |
使用方式
事件鎖不能利用with語句來進行使用,只能按照常規方式。
如下所示,我們來模擬線程和紅綠燈的操作,紅燈停,綠燈行:
importthreading
maxSubThreadNumber=3
deftask():
thName=threading.currentThread().name
print("startandwaitrunthread:%s"%thName)
eventLock.wait()#暫停運行,等待綠燈
print("greenlight,%scarryonrun"%thName)
print("redlight,%sstoprun"%thName)
eventLock.wait()#暫停運行,等待綠燈
print("greenlight,%scarryonrun"%thName)
print("subthread%srunend"%thName)
if__name__=="__main__":
eventLock=threading.Event()
foriinrange(maxSubThreadNumber):
subThreadIns=threading.Thread(target=task)
subThreadIns.start()
eventLock.set()#設置為綠燈
eventLock.clear()#設置為紅燈
eventLock.set()#設置為綠燈
#startandwaitrunthread:Thread-1
#startandwaitrunthread:Thread-2
#startandwaitrunthread:Thread-3
#greenlight,Thread-1carryonrun
#redlight,Thread-1stoprun
#greenlight,Thread-1carryonrun
#subthreadThread-1runend
#greenlight,Thread-3carryonrun
#redlight,Thread-3stoprun
#greenlight,Thread-3carryonrun
#subthreadThread-3runend
#greenlight,Thread-2carryonrun
#redlight,Thread-2stoprun
#greenlight,Thread-2carryonrun
#subthreadThread-2runend
5、Semaphore() 信號量鎖
基本介紹
信號量鎖也是根據條件鎖來做的,它與條件鎖和事件鎖的區別如下:
- 條件鎖:一次可以放行任意個處于“等待”狀態的線程
- 事件鎖:一次可以放行全部的處于“等待”狀態的線程
- 信號量鎖:通過規定,成批的放行特定個處于“上鎖”狀態的線程
下面是threading模塊與信號量鎖提供的相關方法:
方法 | 描述 |
---|---|
threading.Semaphore() | 返回一個信號量鎖對象 |
lockObject.acquire(blocking=True, timeout=1) | 上鎖,當一個線程在執行被上鎖代碼塊時,將不允許切換到其他線程運行,默認鎖失效時間為1秒 |
lockObject.release() | 解鎖,當一個線程在執行未被上鎖代碼塊時,將允許系統根據策略自行切換到其他線程中運行 |
使用方式
以下是使用示例,你可以將它當做一段限寬的路段,每次只能放行相同數量的線程:
importthreading
importtime
maxSubThreadNumber=6
deftask():
thName=threading.currentThread().name
semaLock.acquire()
print("runsubthread%s"%thName)
time.sleep(3)
semaLock.release()
if__name__=="__main__":
#每次只能放行2個
semaLock=threading.Semaphore(2)
foriinrange(maxSubThreadNumber):
subThreadIns=threading.Thread(target=task)
subThreadIns.start()
#runsubthreadThread-1
#runsubthreadThread-2
#runsubthreadThread-3
#runsubthreadThread-4
#runsubthreadThread-6
#runsubthreadThread-5
with語句
由于threading.Semaphore()對象中實現了__enter__()與__exit__()方法,故我們可以使用with語句進行上下文管理形式的加鎖解鎖操作:
importthreading
importtime
maxSubThreadNumber=6
deftask():
thName=threading.currentThread().name
withsemaLock:
print("runsubthread%s"%thName)
time.sleep(3)
if__name__=="__main__":
semaLock=threading.Semaphore(2)
foriinrange(maxSubThreadNumber):
subThreadIns=threading.Thread(target=task)
subThreadIns.start()
鎖關系淺析
上面5種鎖可以說都是基于同步鎖來做的,這些你都可以從源碼中找到答案。
首先來看RLock遞歸鎖,遞歸鎖的實現非常簡單,它的內部會維護著一個計數器,當計數器不為0的時候該線程不能被I/O操作和時間輪詢機制切換。但是當計數器為0的時候便不會如此了:
def__init__(self):
self._block=_allocate_lock()
self._owner=None
self._count=0#計數器
而Condition條件鎖的內部其實是有兩把鎖的,一把底層鎖(同步鎖)一把高級鎖(遞歸鎖)。
低層鎖的解鎖方式有兩種,使用wait()方法會暫時解開底層鎖同時加上一把高級鎖,只有當接收到別的線程里的notfiy()后才會解開高級鎖和重新上鎖低層鎖,也就是說條件鎖底層是根據同步鎖和遞歸鎖的不斷切換來進行實現的:
def__init__(self,lock=None):
iflockisNone:
lock=RLock()#可以看到條件鎖的內部是基于遞歸鎖,而遞歸鎖又是基于同步鎖來做的
self._lock=lock
self.acquire=lock.acquire
self.release=lock.release
try:
self._release_save=lock._release_save
exceptAttributeError:
pass
try:
self._acquire_restore=lock._acquire_restore
exceptAttributeError:
pass
try:
self._is_owned=lock._is_owned
exceptAttributeError:
pass
self._waiters=_deque()
Event事件鎖內部是基于條件鎖來做的:
classEvent:
def__init__(self):
self._cond=Condition(Lock())#實例化出了一個條件鎖。
self._flag=False
def_reset_internal_locks(self):
#private!calledbyThread._reset_internal_locksby_after_fork()
self._cond.__init__(Lock())
defis_set(self):
"""Returntrueifandonlyiftheinternalflagistrue."""
returnself._flag
isSet=is_set
Semaphore信號量鎖內部也是基于條件鎖來做的:
classSemaphore:
def__init__(self,value=1):
ifvalue0:
raiseValueError("semaphoreinitialvaluemustbe>=0")
self._cond=Condition(Lock())#可以看到,這里是實例化出了一個條件鎖
self._value=value
基本練習題
條件鎖的應用
需求:一個空列表,兩個線程輪番往里面加值(一個加偶數,一個加奇數),最終讓該列表中的值為 1 - 100 ,且是有序排列的。
importthreading
lst=[]
defeven():
"""加偶數"""
withcondLock:
foriinrange(2,101,2):
#判斷當前列表的長度處于2是否能處盡
#如果能處盡則代表需要添加奇數
#否則就添加偶數
iflen(lst)%2!=0:
#添偶數
lst.append(i)#先添加值
condLock.notify()#告訴另一個線程,你可以加奇數了,但是這里不會立即交出執行權
condLock.wait()#交出執行權,并等待另一個線程通知加偶數
else:
#添奇數
condLock.wait()#交出執行權,等待另一個線程通知加偶數
lst.append(i)
condLock.notify()
condLock.notify()
defodd():
"""加奇數"""
withcondLock:
foriinrange(1,101,2):
iflen(lst)%2==0:
lst.append(i)
condLock.notify()
condLock.wait()
condLock.notify()
if__name__=="__main__":
condLock=threading.Condition()
addEvenTask=threading.Thread(target=even)
addOddTask=threading.Thread(target=odd)
addEvenTask.start()
addOddTask.start()
addEvenTask.join()
addOddTask.join()
print(lst)
事件鎖的應用
有2個任務線程來扮演李白和杜甫,如何讓他們一人一句進行對答?文本如下:
杜甫:老李啊,來喝酒!
李白:老杜啊,不喝了我喝不下了!
杜甫:老李啊,再來一壺?
杜甫:...老李?
李白:呼呼呼...睡著了..
代碼如下:
importthreading
deflibai():
event.wait()
print("李白:老杜啊,不喝了我喝不下了!")
event.set()
event.clear()
event.wait()
print("李白:呼呼呼...睡著了..")
defdufu():
print("杜甫:老李啊,來喝酒!")
event.set()
event.clear()
event.wait()
print("杜甫:老李啊,再來一壺?")
print("杜甫:...老李?")
event.set()
if__name__=='__main__':
event=threading.Event()
t1=threading.Thread(target=libai)
t2=threading.Thread(target=dufu)
t1.start()
t2.start()
t1.join()
t2.join()
原文鏈接:https://www.cnblogs.com/YunyaSir/p/14963682.html
-
源碼
+關注
關注
8文章
633瀏覽量
29147 -
python
+關注
關注
56文章
4783瀏覽量
84473
原文標題:Python 中最常用的 5 種線程鎖你會用嗎?
文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論