精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Java手寫分布式鎖的實現

jf_ro2CN3Fa ? 來源:稀土掘金 ? 2023-11-17 15:51 ? 次閱讀

Part1 前言

隨著互聯網業務的發展,原本單機部署的系統演化成如今的分布式集群系統后,由于分布式系統多線程,多進程并且分布在不同的機器上,這會使原本的單機鎖失效,而且單純的Java API并不能提供分布式鎖的能力,為了解決這個問題就需要一種跨JVM的互斥機制來控制共享資源的訪問,這就是分布式鎖要解決的問題。

本文將從實現本地鎖所產生的問題入手,從而介紹分布式鎖主流的實現方案,重點實現基于Redis的分布式鎖。

本地鎖會出現的問題(此篇幅代碼圖片過多,因此放在最后)

Part2 分布式鎖的實現

1 分布式鎖主要的實現有:

基于數據庫實現分布式鎖

基于緩存(Redis等,本文基于Redis實現手寫分布式鎖 ,因為這樣可以更好的理解分布式鎖的原理及實現,當然也可以使用Redisson)

基于Zookeeper

2 每種分布式鎖的解決方案都有各自的優缺點

性能角度:redis > zk > mysql

安全角度:zk > redis == mysql

難易程度:zk > redis > mysql

3 分布式鎖要具備的特點:

獨占排他互斥

可以通過 setnx (redis命令:執行多次,只有一次能夠成功)

set key value ex 3 nx

防死鎖發生

請求獲取到鎖之后,服務器掛掉了,導致鎖無法釋放:給lock鎖添加過期時間

可以通過redis命令 expire

或者通過 set key value ex 3 nx

保證原子性

redis是單線程的,接受或者執行指令遵循one-by-one原則。只要指令之間不被插入其他指令即可保證原子性,lua腳本批量發送多個指令給redis服務器,lua腳本也可以實現一些業務邏輯,redis集成了lua腳本,可以直接使用eval指令執行lua腳本。

獲取鎖和設置過期時間之間

判斷和刪除之間:lua腳本

防誤刪:

uuid給每個線程的鎖添加唯一標識

自動續期

可重入:hash數據結構 + lua腳本

集群情況下,可能導致鎖失效:RedLock算法(redis特有的)

一個請求從主中獲取到鎖,從還沒來得及同步數據,主就掛掉了,從就升級為新主,新的請求就可以從新主中獲取鎖

4 基于redis分布式鎖的基本實現

我們可以借助于redis中的命令setnx(key, value),key不存在就新增,存在就什么都不做。同時有多個客戶端發送setnx命令,只有一個客戶端可以成功,返回1(true);其他的客戶端返回0(false),流程圖如下圖所示:

多個客戶端同時嘗試獲取鎖(setnx)

獲取成功,執行業務邏輯,執行完成釋放鎖(del)

其他客戶端等待重試

f3480f14-851c-11ee-939d-92fbcf53809c.jpg

代碼實現:

publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock","111");
if(lock){
//查詢redis中的num值
Stringvalue=this.redisTemplate.opsForValue().get("num");
//沒有該值return
if(StringUtils.isBlank(value)){
return;
}
//有值就轉成成int
intnum=Integer.parseInt(value);
//把redis中的num值+1
this.redisTemplate.opsForValue().set("num",String.valueOf(++num));
//2.釋放鎖del
this.redisTemplate.delete("lock");
}else{
//3.每隔1秒鐘回調一次,再次嘗試獲取鎖
try{
Thread.sleep(1000);
testLock();
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
}

那么以上代碼是否可以解決全部問題呢? 顯示是不能的,我們假設setnx剛好獲取到鎖,業務邏輯出現異常,導致鎖無法釋放,怎么辦呢?

5 優化分布式鎖_設置過期時間

設置過期有倆種方式可以選擇:

通過expire設置過期時間(缺乏原子性:如果在setnx和expire之間出現異常,鎖也無法釋放)

在set時指定過期時間(推薦

f35de50a-851c-11ee-939d-92fbcf53809c.jpg

代碼實現優化就是在設置鎖的時候設置過期時間:

publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock","111",3,TimeUnit.MINUTES);
if(lock){
//與之前相同代碼略過
...
}
}

那么還會不會存在問題呢?

場景:如果業務邏輯的執行時間是7s。執行流程如下:

index1業務邏輯沒執行完,3秒后鎖被自動釋放。

index2獲取到鎖,執行業務邏輯,3秒后鎖被自動釋放。

index3獲取到鎖,執行業務邏輯

index1業務邏輯執行完成,開始調用del釋放鎖,這時釋放的是index3的鎖,導致index3的業務只執行1s就被別人釋放。

最終等于沒鎖的情況。

解決:setnx獲取鎖時,設置一個指定的唯一值(例如:uuid);釋放前獲取這個值,判斷是否自己的鎖

6 優化分布式鎖_防止誤刪除

f3712fca-851c-11ee-939d-92fbcf53809c.jpg

publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Stringuuid=UUID.randomUUID().toString();
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock",uuid,3,TimeUnit.MINUTES);
if(lock){
//與之前相同代碼略過
...
//2.釋放鎖del
if(StringUtils.equals(redisTemplate.opsForValue().get("lock"),uuid)){
this.redisTemplate.delete("lock");
}
}
}

場景:

index1執行刪除時,查詢到的lock值確實和uuid相等

index1執行刪除前,lock剛好過期時間已到,被redis自動釋放

index2獲取了lock

index1執行刪除,此時會把index2的lock刪除

問題:缺乏原子性

7 優化分布式鎖_LUA腳本保證刪除的原子性

首先我們先簡單介紹一下lua腳本的基本知識(lua腳本是c語言

定義變量:

全局變量:a = 11

局部變量:local b = 22

redis不允許lua腳本創建全局變量,只能聲明局部變量

流程控制:

if(exp)then
業務邏輯
elseif(exp)then
業務邏輯
else
業務邏輯
end

redis中執行lua腳本:

eval script numkeys keys[] args[] : eval指令的輸出不是lua腳本的打印而是lua腳本的返回值

script:lua腳本字符串,定義動態變量:KEYS[1] ARGV[1]

numkeys:key數組的元素個數

keys:keys數組

args:argv數組

redis集群執行lua腳本可能會報錯:如果所有keys不在同一個分片上,lua腳本就會報錯:解決方案是:

keys只傳一個

可以使用CLUSTER KEYSLOT bb{xx}

刪除LUA腳本:

ifredis.call('get',KEYS[1])==ARGV[1]thenreturnredis.call('del',KEYS[1])elsereturn0end
publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Stringuuid=UUID.randomUUID().toString();
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock",uuid,3,TimeUnit.SECONDS);
if(lock){
//與之前相同代碼略過
...
//2.釋放鎖del
Stringscript="ifredis.call('get',KEYS[1])==ARGV[1]thenreturnredis.call('del',KEYS[1])elsereturn0end";
this.redisTemplate.execute(newDefaultRedisScript<>(script),Arrays.asList("lock"),uuid);
}else{
//3.每隔1秒鐘回調一次,再次嘗試獲取鎖
try{
Thread.sleep(1000);
testLock();
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
}

8 優化分布式鎖_可以重入

上述加鎖命令使用了 SETNX ,一旦鍵存在就無法再設置成功,這就導致后續同一線程內繼續加鎖,將會加鎖失敗。當一個線程執行一段代碼成功獲取鎖之后,繼續執行時,又遇到加鎖的子任務代碼,可重入性就保證線程能繼續執行,而不可重入就是需要等待鎖釋放之后,再次獲取鎖成功,才能繼續往下執行。

可重入鎖最大特性就是計數,計算加鎖的次數。所以當可重入鎖需要在分布式環境實現時,我們也就需要統計加鎖次數。

我們基于Redis Hash 實現方案

Redis 提供了 Hash (哈希表)這種可以存儲鍵值對數據結構。所以我們可以使用 Redis Hash 存儲的鎖的重入次數,然后利用 lua 腳本判斷邏輯。

加鎖

if(redis.call('exists',KEYS[1])==0orredis.call('hexists',KEYS[1],ARGV[1])==1)
then
redis.call('hincrby',KEYS[1],ARGV[1],1);
redis.call('expire',KEYS[1],ARGV[2]);
return1;
else
return0;
end

假設值為:KEYS:[lock], ARGV[uuid, expire]

如果鎖不存在或者這是自己的鎖,就通過hincrby(不存在新增,存在就加1)獲取鎖或者鎖次數加1。 代碼實例如下:

privateBooleantryLock(StringlockName,Stringuuid,Longexpire){
Stringscript="if(redis.call('exists',KEYS[1])==0orredis.call('hexists',KEYS[1],ARGV[1])==1)"+
"then"+
"redis.call('hincrby',KEYS[1],ARGV[1],1);"+
"redis.call('expire',KEYS[1],ARGV[2]);"+
"return1;"+
"else"+
"return0;"+
"end";
if(!this.redisTemplate.execute(newDefaultRedisScript<>(script,Boolean.class),Arrays.asList(lockName),uuid,expire.toString())){
try{
//沒有獲取到鎖,重試
Thread.sleep(200);
tryLock(lockName,uuid,expire);
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
//獲取到鎖,返回true
returntrue;
}

解鎖

--判斷hashset可重入key的值是否等于0
--如果為nil代表自己的鎖已不存在,在嘗試解其他線程的鎖,解鎖失敗
--如果為0代表可重入次數被減1
--如果為1代表該可重入key解鎖成功
if(redis.call('hexists',KEYS[1],ARGV[1])==0)then
returnnil;
end;
--小于等于0代表可以解鎖
if(redis.call('hincrby',KEYS[1],ARGV[1],-1)>0)then
return0;
else
redis.call('del',KEYS[1]);
return1;
end;

這里之所以沒有跟加鎖一樣使用 Boolean ,這是因為解鎖 lua 腳本中,三個返回值含義如下:

1 代表解鎖成功,鎖被釋放

0 代表可重入次數被減 1

null 代表其他線程嘗試解鎖,解鎖失敗

如果返回值使用 Boolean,Spring-data-redis 進行類型轉換時將會把 null 轉為 false,這就會影響我們邏輯判斷,所以返回類型只好使用 Long。

privatevoidunlock(StringlockName,Stringuuid){
Stringscript="if(redis.call('hexists',KEYS[1],ARGV[1])==0)then"+
"returnnil;"+
"end;"+
"if(redis.call('hincrby',KEYS[1],ARGV[1],-1)>0)then"+
"return0;"+
"else"+
"redis.call('del',KEYS[1]);"+
"return1;"+
"end;";
//這里之所以沒有跟加鎖一樣使用Boolean,這是因為解鎖lua腳本中,三個返回值含義如下:
//1代表解鎖成功,鎖被釋放
//0代表可重入次數被減1
//null代表其他線程嘗試解鎖,解鎖失敗
Longresult=this.redisTemplate.execute(newDefaultRedisScript<>(script,Long.class),Lists.newArrayList(lockName),uuid);
//如果未返回值,代表嘗試解其他線程的鎖
if(result==null){
thrownewIllegalMonitorStateException("attempttounlocklock,notlockedbylockName:"
+lockName+"withrequest:"+uuid);
}
}

使用

publicvoidtestLock(){
//加鎖
Stringuuid=UUID.randomUUID().toString();
Booleanlock=this.tryLock("lock",uuid,300l);
if(lock){
//讀取redis中的num值
StringnumString=this.redisTemplate.opsForValue().get("num");
if(StringUtils.isBlank(numString)){
return;
}
//++操作
Integernum=Integer.parseInt(numString);
num++;
//放入redis
this.redisTemplate.opsForValue().set("num",String.valueOf(num));
//測試可重入性
this.testSubLock(uuid);
//釋放鎖
this.unlock("lock",uuid);
}
}
//測試可重入性
privatevoidtestSubLock(Stringuuid){
//加鎖
Booleanlock=this.tryLock("lock",uuid,300l);
if(lock){
System.out.println("分布式可重入鎖。。。");
this.unlock("lock",uuid);
}
}

9 優化分布式鎖_自動續期

A線程超時時間設為10s(為了解決死鎖問題),但代碼執行時間可能需要30s,然后redis服務端10s后將鎖刪除。 此時,B線程恰好申請鎖,redis服務端不存在該鎖,可以申請,也執行了代碼。

那么問題來了, A、B線程都同時獲取到鎖并執行業務邏輯,這與分布式鎖最基本的性質相違背:在任意一個時刻,只有一個客戶端持有鎖(即獨享排他)。

鎖延期方法:開啟子線程執行延期

/**
*鎖延期
*線程等待超時時間的2/3時間后,執行鎖延時代碼,直到業務邏輯執行完畢,因此在此過程中,其他線程無法獲取到鎖,保證了線程安全性
*@paramlockName
*@paramexpire單位:毫秒
*/
privatevoidrenewTime(StringlockName,Stringuuid,Longexpire){
Stringscript="if(redis.call('hexists',KEYS[1],ARGV[1])==1)thenredis.call('expire',KEYS[1],ARGV[2]);return1;elsereturn0;end";
newThread(()->{
while(this.redisTemplate.execute(newDefaultRedisScript<>(script,Boolean.class),Lists.newArrayList(lockName),uuid,expire.toString())){
try{
//到達過期時間的2/3時間,自動續期
Thread.sleep(expire/3);
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
}).start();
}

獲取鎖成功后,調用延期方法給鎖 定時延期:

privateBooleantryLock(StringlockName,Stringuuid,Longexpire){
Stringscript="if(redis.call('exists',KEYS[1])==0orredis.call('hexists',KEYS[1],ARGV[1])==1)"+
"then"+
"redis.call('hincrby',KEYS[1],ARGV[1],1);"+
"redis.call('expire',KEYS[1],ARGV[2]);"+
"return1;"+
"else"+
"return0;"+
"end";
if(!this.redisTemplate.execute(newDefaultRedisScript<>(script,Boolean.class),Arrays.asList(lockName),uuid,expire.toString())){
try{
//沒有獲取到鎖,重試
Thread.sleep(200);
tryLock(lockName,uuid,expire);
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
//鎖續期
this.renewTime(lockName,uuid,expire*1000);
//獲取到鎖,返回true
returntrue;
}

10 優化分布式鎖_Redlock算法

redis集群狀態下的問題:

客戶端A從master獲取到鎖

在master將鎖同步到slave之前,master宕掉了。

slave節點被晉級為master節點

客戶端B取得了同一個資源被客戶端A已經獲取到的另外一個鎖。安全失效 解決集群下鎖失效,參照redis官方網站針對redlock文檔:redis.io/topics/dist… [1]

11 本地鎖會出現的問題

我們知道java中有synchronized、lock鎖、讀寫鎖ReadWriteLock,眾所周知這些鎖都是本地鎖。

提到鎖就不得不提JUC:java.util.concurrent包,又稱concurrent包。jdk1.5提供,為多線程高并發編程而提供的包,但此文章的場景是分布式場景,后續會出JUC的文章。

簡單的介紹一下synchronized及lock鎖

synchronized是一個關鍵字,lock是一個接口,ReentrantLock是實現了lock接口的一個類

ReentrantLock:悲觀的獨占的互斥的排他的可公平可不公平的可重入鎖

synchronized:悲觀的獨占的互斥的排他的非公平的可重入鎖

準備

redis、ab工具(壓測)

不使用任何鎖的情況下

我們首先創建一個測試方法,testNoLock

@GetMapping("/test")
publicvoidtestNoLock(){
Stringcount=(String)this.redisTemplate.opsForValue().get("count");
if(count==null){
//沒有值直接返回
return;
}
//有值就轉成成int
intnumber=Integer.parseInt(count);
//把redis中的num值+1
this.redisTemplate.opsForValue().set("count",String.valueOf(++number));
}

測試之前的查看值為1

@GetMapping("/getCount")
publicStringgetCount(){
Stringcount=String.valueOf(this.redisTemplate.opsForValue().get("count"));
returncount;//1
}

接下來使用ab壓力測試工具

//ab-n(一次發送的請求數)-c(請求的并發數)訪問路徑
ab-n100-c50http://127.0.0.1:8080/test/test

再次查詢結果為6,說明問題很大

f38c2064-851c-11ee-939d-92fbcf53809c.jpg

使用本地鎖

publicsynchronizedvoidtestNoLock(){
Stringcount=String.valueOf(this.redisTemplate.opsForValue().get("count"));
if("null".equals(count)){
//沒有值直接返回
return;
}
//有值就轉成成int
intnumber=Integer.parseInt(count);
//把redis中的num值+1
this.redisTemplate.opsForValue().set("count",String.valueOf(++number));
}

再次使用ab壓力測試工具

ab-n100-c50http://127.0.0.1:8080/test/test

此次結果為106,說明結果是正確的,看樣子結果是非常完美的,但是真的很完美嗎?

f3a2203a-851c-11ee-939d-92fbcf53809c.jpg

使用集群+本地鎖

我們只需要在idea中在啟動倆個服務,修改端口號,三個運行實例的名稱是相同的,并且網關的配置就是通過服務名在負載均衡,所以我們只需要訪問網關,網關就會給我們做負載均衡了。

f3b506be-851c-11ee-939d-92fbcf53809c.jpg

再次使用ab壓力測試工具(將count重置為1)

ab-n100-c50http://127.0.0.1:8080/test/test

此次的結果為58!??!

f3cb8696-851c-11ee-939d-92fbcf53809c.jpg

到此我們可以知道,本地鎖是有局限性的。







審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • JAVA
    +關注

    關注

    19

    文章

    2960

    瀏覽量

    104562
  • JVM
    JVM
    +關注

    關注

    0

    文章

    157

    瀏覽量

    12210
  • Hash算法
    +關注

    關注

    0

    文章

    43

    瀏覽量

    7380

原文標題:Java手寫分布式鎖的實現(非常牛逼)

文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    HarmonyOS開發實例:【分布式手寫板】

    使用設備管理及分布式鍵值數據庫能力,實現多設備之間手寫板應用拉起及同步書寫內容的功能。
    的頭像 發表于 04-17 21:45 ?446次閱讀
    HarmonyOS開發實例:【<b class='flag-5'>分布式</b><b class='flag-5'>手寫</b>板】

    Java 中利用 redis 實現一個分布式服務

    Java 中利用 redis 實現一個分布式服務
    發表于 07-05 13:14

    基于OpenHarmony3.1開發的一個分布式手寫板應用

    1.介紹基于TS擴展的聲明開發范式開發一個分布式手寫板應用。涉及的OS特性有分布式拉起和分布式數據管理,使用這兩個特性
    發表于 04-07 11:42

    Redis 分布式的正確實現方式

    分布式一般有三種實現方式:1. 數據庫樂觀;2. 基于Redis的分布式;3. 基于Zoo
    的頭像 發表于 05-31 14:19 ?3572次閱讀

    Java:Redis分布式的原理和案例

    要介紹分布式,首先要提到與分布式鎖相對應的是線程、進程。
    的頭像 發表于 07-01 11:49 ?3851次閱讀

    分布式的基本原理和案例實現

    前面我們有聊過樂觀和悲觀實現,均是對于單體架構的場景下的實現。那么現在我們來總結看下分布式情況下如何
    的頭像 發表于 07-01 14:53 ?3303次閱讀
    <b class='flag-5'>分布式</b><b class='flag-5'>鎖</b>的基本原理和案例<b class='flag-5'>實現</b>

    分布式的設計與實現

    今天跟大家探討一下分布式的設計與實現。希望對大家有幫助,如果有不正確的地方,歡迎指出,一起學習,一起進步哈。
    的頭像 發表于 05-13 15:36 ?1726次閱讀

    深入理解redis分布式

    深入理解redis分布式 哈嘍,大家好,我是指北君。 本篇文件我們來介紹如何Redis實現分布式的演進過程,以及為什么不能直接用Setn
    的頭像 發表于 10-08 14:13 ?913次閱讀
    深入理解redis<b class='flag-5'>分布式</b><b class='flag-5'>鎖</b>

    Redis實現分布式的幾種方案

    本文將介紹什么是分布式,以及使用Redis實現分布式的幾種方案。 前言 了解分布式
    的頭像 發表于 10-11 15:19 ?659次閱讀

    什么是分布式 Redis的五種分布式方案

    本地加鎖的方式在分布式的場景下不適用,所以本文我們來探討下如何引入分布式解決本地的問題。本篇所有代碼和業務基于我的開源項目 PassJava。
    發表于 10-23 11:35 ?1089次閱讀
    什么是<b class='flag-5'>分布式</b><b class='flag-5'>鎖</b> Redis的五種<b class='flag-5'>分布式</b><b class='flag-5'>鎖</b>方案

    tldb提供分布式使用方法

    前言:分布式分布式系統中一個極為重要的工具。目前有多種分布式的設計方案,比如借助 redis,mq,數據庫,zookeeper 等第三
    的頭像 發表于 11-02 14:44 ?867次閱讀
    tldb提供<b class='flag-5'>分布式</b><b class='flag-5'>鎖</b>使用方法

    redis分布式如何實現

    Redis分布式是一種基于Redis實現的機制,可以用于多個進程或多臺服務器之間對共享資源的并發訪問控制。在分布式系統中,由于多個進程或多臺服務器同時訪問共享資源,可能會發生數據競爭
    的頭像 發表于 11-16 11:29 ?503次閱讀

    redis分布式三個方法

    的三種常見的分布式實現方法:基于SETNX命令的簡單分布式、基于SET命令的帶過期時間的分布式
    的頭像 發表于 12-04 11:22 ?1417次閱讀

    如何實現Redis分布式

    機制,下面將詳細介紹如何實現Redis分布式。 一、引言 在分布式系統中,多個節點可能同時讀寫同一共享資源。如果沒有實現互斥訪問和同步機制
    的頭像 發表于 12-04 11:24 ?668次閱讀

    分布式的三種實現方式

    分布式的三種實現方式? 分布式是在分布式系統中用于實現
    的頭像 發表于 12-28 10:01 ?863次閱讀