<acronym id="s8ci2"><small id="s8ci2"></small></acronym>
<rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
<acronym id="s8ci2"></acronym>
<acronym id="s8ci2"><center id="s8ci2"></center></acronym>
0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Java手寫分布式鎖的實現

jf_ro2CN3Fa ? 來源:稀土掘金 ? 2023-11-17 15:51 ? 次閱讀

Part1 前言

隨著互聯網業務的發展,原本單機部署的系統演化成如今的分布式集群系統后,由于分布式系統多線程,多進程并且分布在不同的機器上,這會使原本的單機鎖失效,而且單純的Java API并不能提供分布式鎖的能力,為了解決這個問題就需要一種跨JVM的互斥機制來控制共享資源的訪問,這就是分布式鎖要解決的問題。

本文將從實現本地鎖所產生的問題入手,從而介紹分布式鎖主流的實現方案,重點實現基于Redis的分布式鎖。

本地鎖會出現的問題(此篇幅代碼圖片過多,因此放在最后)

Part2 分布式鎖的實現

1 分布式鎖主要的實現有:

基于數據庫實現分布式鎖

基于緩存(Redis等,本文基于Redis實現手寫分布式鎖 ,因為這樣可以更好的理解分布式鎖的原理及實現,當然也可以使用Redisson)

基于Zookeeper

2 每種分布式鎖的解決方案都有各自的優缺點

性能角度:redis > zk > mysql

安全角度:zk > redis == mysql

難易程度:zk > redis > mysql

3 分布式鎖要具備的特點:

獨占排他互斥

可以通過 setnx (redis命令:執行多次,只有一次能夠成功)

set key value ex 3 nx

防死鎖發生

請求獲取到鎖之后,服務器掛掉了,導致鎖無法釋放:給lock鎖添加過期時間

可以通過redis命令 expire

或者通過 set key value ex 3 nx

保證原子性

redis是單線程的,接受或者執行指令遵循one-by-one原則。只要指令之間不被插入其他指令即可保證原子性,lua腳本批量發送多個指令給redis服務器,lua腳本也可以實現一些業務邏輯,redis集成了lua腳本,可以直接使用eval指令執行lua腳本。

獲取鎖和設置過期時間之間

判斷和刪除之間:lua腳本

防誤刪:

uuid給每個線程的鎖添加唯一標識

自動續期

可重入:hash數據結構 + lua腳本

集群情況下,可能導致鎖失效:RedLock算法(redis特有的)

一個請求從主中獲取到鎖,從還沒來得及同步數據,主就掛掉了,從就升級為新主,新的請求就可以從新主中獲取鎖

4 基于redis分布式鎖的基本實現

我們可以借助于redis中的命令setnx(key, value),key不存在就新增,存在就什么都不做。同時有多個客戶端發送setnx命令,只有一個客戶端可以成功,返回1(true);其他的客戶端返回0(false),流程圖如下圖所示:

多個客戶端同時嘗試獲取鎖(setnx)

獲取成功,執行業務邏輯,執行完成釋放鎖(del)

其他客戶端等待重試

f3480f14-851c-11ee-939d-92fbcf53809c.jpg

代碼實現:

publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock","111");
if(lock){
//查詢redis中的num值
Stringvalue=this.redisTemplate.opsForValue().get("num");
//沒有該值return
if(StringUtils.isBlank(value)){
return;
}
//有值就轉成成int
intnum=Integer.parseInt(value);
//把redis中的num值+1
this.redisTemplate.opsForValue().set("num",String.valueOf(++num));
//2.釋放鎖del
this.redisTemplate.delete("lock");
}else{
//3.每隔1秒鐘回調一次,再次嘗試獲取鎖
try{
Thread.sleep(1000);
testLock();
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
}

那么以上代碼是否可以解決全部問題呢? 顯示是不能的,我們假設setnx剛好獲取到鎖,業務邏輯出現異常,導致鎖無法釋放,怎么辦呢?

5 優化分布式鎖_設置過期時間

設置過期有倆種方式可以選擇:

通過expire設置過期時間(缺乏原子性:如果在setnx和expire之間出現異常,鎖也無法釋放)

在set時指定過期時間(推薦

f35de50a-851c-11ee-939d-92fbcf53809c.jpg

代碼實現優化就是在設置鎖的時候設置過期時間:

publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock","111",3,TimeUnit.MINUTES);
if(lock){
//與之前相同代碼略過
...
}
}

那么還會不會存在問題呢?

場景:如果業務邏輯的執行時間是7s。執行流程如下:

index1業務邏輯沒執行完,3秒后鎖被自動釋放。

index2獲取到鎖,執行業務邏輯,3秒后鎖被自動釋放。

index3獲取到鎖,執行業務邏輯

index1業務邏輯執行完成,開始調用del釋放鎖,這時釋放的是index3的鎖,導致index3的業務只執行1s就被別人釋放。

最終等于沒鎖的情況。

解決:setnx獲取鎖時,設置一個指定的唯一值(例如:uuid);釋放前獲取這個值,判斷是否自己的鎖

6 優化分布式鎖_防止誤刪除

f3712fca-851c-11ee-939d-92fbcf53809c.jpg

publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Stringuuid=UUID.randomUUID().toString();
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock",uuid,3,TimeUnit.MINUTES);
if(lock){
//與之前相同代碼略過
...
//2.釋放鎖del
if(StringUtils.equals(redisTemplate.opsForValue().get("lock"),uuid)){
this.redisTemplate.delete("lock");
}
}
}

場景:

index1執行刪除時,查詢到的lock值確實和uuid相等

index1執行刪除前,lock剛好過期時間已到,被redis自動釋放

index2獲取了lock

index1執行刪除,此時會把index2的lock刪除

問題:缺乏原子性

7 優化分布式鎖_LUA腳本保證刪除的原子性

首先我們先簡單介紹一下lua腳本的基本知識(lua腳本是c語言

定義變量:

全局變量:a = 11

局部變量:local b = 22

redis不允許lua腳本創建全局變量,只能聲明局部變量

流程控制:

if(exp)then
業務邏輯
elseif(exp)then
業務邏輯
else
業務邏輯
end

redis中執行lua腳本:

eval script numkeys keys[] args[] : eval指令的輸出不是lua腳本的打印而是lua腳本的返回值

script:lua腳本字符串,定義動態變量:KEYS[1] ARGV[1]

numkeys:key數組的元素個數

keys:keys數組

args:argv數組

redis集群執行lua腳本可能會報錯:如果所有keys不在同一個分片上,lua腳本就會報錯:解決方案是:

keys只傳一個

可以使用CLUSTER KEYSLOT bb{xx}

刪除LUA腳本:

ifredis.call('get',KEYS[1])==ARGV[1]thenreturnredis.call('del',KEYS[1])elsereturn0end
publicvoidtestLock(){
//1.從redis中獲取鎖,setnx
Stringuuid=UUID.randomUUID().toString();
Booleanlock=this.redisTemplate.opsForValue().setIfAbsent("lock",uuid,3,TimeUnit.SECONDS);
if(lock){
//與之前相同代碼略過
...
//2.釋放鎖del
Stringscript="ifredis.call('get',KEYS[1])==ARGV[1]thenreturnredis.call('del',KEYS[1])elsereturn0end";
this.redisTemplate.execute(newDefaultRedisScript<>(script),Arrays.asList("lock"),uuid);
}else{
//3.每隔1秒鐘回調一次,再次嘗試獲取鎖
try{
Thread.sleep(1000);
testLock();
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
}

8 優化分布式鎖_可以重入

上述加鎖命令使用了 SETNX ,一旦鍵存在就無法再設置成功,這就導致后續同一線程內繼續加鎖,將會加鎖失敗。當一個線程執行一段代碼成功獲取鎖之后,繼續執行時,又遇到加鎖的子任務代碼,可重入性就保證線程能繼續執行,而不可重入就是需要等待鎖釋放之后,再次獲取鎖成功,才能繼續往下執行。

可重入鎖最大特性就是計數,計算加鎖的次數。所以當可重入鎖需要在分布式環境實現時,我們也就需要統計加鎖次數。

我們基于Redis Hash 實現方案

Redis 提供了 Hash (哈希表)這種可以存儲鍵值對數據結構。所以我們可以使用 Redis Hash 存儲的鎖的重入次數,然后利用 lua 腳本判斷邏輯。

加鎖

if(redis.call('exists',KEYS[1])==0orredis.call('hexists',KEYS[1],ARGV[1])==1)
then
redis.call('hincrby',KEYS[1],ARGV[1],1);
redis.call('expire',KEYS[1],ARGV[2]);
return1;
else
return0;
end

假設值為:KEYS:[lock], ARGV[uuid, expire]

如果鎖不存在或者這是自己的鎖,就通過hincrby(不存在新增,存在就加1)獲取鎖或者鎖次數加1。 代碼實例如下:

privateBooleantryLock(StringlockName,Stringuuid,Longexpire){
Stringscript="if(redis.call('exists',KEYS[1])==0orredis.call('hexists',KEYS[1],ARGV[1])==1)"+
"then"+
"redis.call('hincrby',KEYS[1],ARGV[1],1);"+
"redis.call('expire',KEYS[1],ARGV[2]);"+
"return1;"+
"else"+
"return0;"+
"end";
if(!this.redisTemplate.execute(newDefaultRedisScript<>(script,Boolean.class),Arrays.asList(lockName),uuid,expire.toString())){
try{
//沒有獲取到鎖,重試
Thread.sleep(200);
tryLock(lockName,uuid,expire);
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
//獲取到鎖,返回true
returntrue;
}

解鎖

--判斷hashset可重入key的值是否等于0
--如果為nil代表自己的鎖已不存在,在嘗試解其他線程的鎖,解鎖失敗
--如果為0代表可重入次數被減1
--如果為1代表該可重入key解鎖成功
if(redis.call('hexists',KEYS[1],ARGV[1])==0)then
returnnil;
end;
--小于等于0代表可以解鎖
if(redis.call('hincrby',KEYS[1],ARGV[1],-1)>0)then
return0;
else
redis.call('del',KEYS[1]);
return1;
end;

這里之所以沒有跟加鎖一樣使用 Boolean ,這是因為解鎖 lua 腳本中,三個返回值含義如下:

1 代表解鎖成功,鎖被釋放

0 代表可重入次數被減 1

null 代表其他線程嘗試解鎖,解鎖失敗

如果返回值使用 Boolean,Spring-data-redis 進行類型轉換時將會把 null 轉為 false,這就會影響我們邏輯判斷,所以返回類型只好使用 Long。

privatevoidunlock(StringlockName,Stringuuid){
Stringscript="if(redis.call('hexists',KEYS[1],ARGV[1])==0)then"+
"returnnil;"+
"end;"+
"if(redis.call('hincrby',KEYS[1],ARGV[1],-1)>0)then"+
"return0;"+
"else"+
"redis.call('del',KEYS[1]);"+
"return1;"+
"end;";
//這里之所以沒有跟加鎖一樣使用Boolean,這是因為解鎖lua腳本中,三個返回值含義如下:
//1代表解鎖成功,鎖被釋放
//0代表可重入次數被減1
//null代表其他線程嘗試解鎖,解鎖失敗
Longresult=this.redisTemplate.execute(newDefaultRedisScript<>(script,Long.class),Lists.newArrayList(lockName),uuid);
//如果未返回值,代表嘗試解其他線程的鎖
if(result==null){
thrownewIllegalMonitorStateException("attempttounlocklock,notlockedbylockName:"
+lockName+"withrequest:"+uuid);
}
}

使用

publicvoidtestLock(){
//加鎖
Stringuuid=UUID.randomUUID().toString();
Booleanlock=this.tryLock("lock",uuid,300l);
if(lock){
//讀取redis中的num值
StringnumString=this.redisTemplate.opsForValue().get("num");
if(StringUtils.isBlank(numString)){
return;
}
//++操作
Integernum=Integer.parseInt(numString);
num++;
//放入redis
this.redisTemplate.opsForValue().set("num",String.valueOf(num));
//測試可重入性
this.testSubLock(uuid);
//釋放鎖
this.unlock("lock",uuid);
}
}
//測試可重入性
privatevoidtestSubLock(Stringuuid){
//加鎖
Booleanlock=this.tryLock("lock",uuid,300l);
if(lock){
System.out.println("分布式可重入鎖。。。");
this.unlock("lock",uuid);
}
}

9 優化分布式鎖_自動續期

A線程超時時間設為10s(為了解決死鎖問題),但代碼執行時間可能需要30s,然后redis服務端10s后將鎖刪除。 此時,B線程恰好申請鎖,redis服務端不存在該鎖,可以申請,也執行了代碼。

那么問題來了, A、B線程都同時獲取到鎖并執行業務邏輯,這與分布式鎖最基本的性質相違背:在任意一個時刻,只有一個客戶端持有鎖(即獨享排他)。

鎖延期方法:開啟子線程執行延期

/**
*鎖延期
*線程等待超時時間的2/3時間后,執行鎖延時代碼,直到業務邏輯執行完畢,因此在此過程中,其他線程無法獲取到鎖,保證了線程安全性
*@paramlockName
*@paramexpire單位:毫秒
*/
privatevoidrenewTime(StringlockName,Stringuuid,Longexpire){
Stringscript="if(redis.call('hexists',KEYS[1],ARGV[1])==1)thenredis.call('expire',KEYS[1],ARGV[2]);return1;elsereturn0;end";
newThread(()->{
while(this.redisTemplate.execute(newDefaultRedisScript<>(script,Boolean.class),Lists.newArrayList(lockName),uuid,expire.toString())){
try{
//到達過期時間的2/3時間,自動續期
Thread.sleep(expire/3);
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
}).start();
}

獲取鎖成功后,調用延期方法給鎖 定時延期:

privateBooleantryLock(StringlockName,Stringuuid,Longexpire){
Stringscript="if(redis.call('exists',KEYS[1])==0orredis.call('hexists',KEYS[1],ARGV[1])==1)"+
"then"+
"redis.call('hincrby',KEYS[1],ARGV[1],1);"+
"redis.call('expire',KEYS[1],ARGV[2]);"+
"return1;"+
"else"+
"return0;"+
"end";
if(!this.redisTemplate.execute(newDefaultRedisScript<>(script,Boolean.class),Arrays.asList(lockName),uuid,expire.toString())){
try{
//沒有獲取到鎖,重試
Thread.sleep(200);
tryLock(lockName,uuid,expire);
}catch(InterruptedExceptione){
e.printStackTrace();
}
}
//鎖續期
this.renewTime(lockName,uuid,expire*1000);
//獲取到鎖,返回true
returntrue;
}

10 優化分布式鎖_Redlock算法

redis集群狀態下的問題:

客戶端A從master獲取到鎖

在master將鎖同步到slave之前,master宕掉了。

slave節點被晉級為master節點

客戶端B取得了同一個資源被客戶端A已經獲取到的另外一個鎖。安全失效 解決集群下鎖失效,參照redis官方網站針對redlock文檔:redis.io/topics/dist… [1]

11 本地鎖會出現的問題

我們知道java中有synchronized、lock鎖、讀寫鎖ReadWriteLock,眾所周知這些鎖都是本地鎖。

提到鎖就不得不提JUC:java.util.concurrent包,又稱concurrent包。jdk1.5提供,為多線程高并發編程而提供的包,但此文章的場景是分布式場景,后續會出JUC的文章。

簡單的介紹一下synchronized及lock鎖

synchronized是一個關鍵字,lock是一個接口,ReentrantLock是實現了lock接口的一個類

ReentrantLock:悲觀的獨占的互斥的排他的可公平可不公平的可重入鎖

synchronized:悲觀的獨占的互斥的排他的非公平的可重入鎖

準備

redis、ab工具(壓測)

不使用任何鎖的情況下

我們首先創建一個測試方法,testNoLock

@GetMapping("/test")
publicvoidtestNoLock(){
Stringcount=(String)this.redisTemplate.opsForValue().get("count");
if(count==null){
//沒有值直接返回
return;
}
//有值就轉成成int
intnumber=Integer.parseInt(count);
//把redis中的num值+1
this.redisTemplate.opsForValue().set("count",String.valueOf(++number));
}

測試之前的查看值為1

@GetMapping("/getCount")
publicStringgetCount(){
Stringcount=String.valueOf(this.redisTemplate.opsForValue().get("count"));
returncount;//1
}

接下來使用ab壓力測試工具

//ab-n(一次發送的請求數)-c(請求的并發數)訪問路徑
ab-n100-c50http://127.0.0.1:8080/test/test

再次查詢結果為6,說明問題很大

f38c2064-851c-11ee-939d-92fbcf53809c.jpg

使用本地鎖

publicsynchronizedvoidtestNoLock(){
Stringcount=String.valueOf(this.redisTemplate.opsForValue().get("count"));
if("null".equals(count)){
//沒有值直接返回
return;
}
//有值就轉成成int
intnumber=Integer.parseInt(count);
//把redis中的num值+1
this.redisTemplate.opsForValue().set("count",String.valueOf(++number));
}

再次使用ab壓力測試工具

ab-n100-c50http://127.0.0.1:8080/test/test

此次結果為106,說明結果是正確的,看樣子結果是非常完美的,但是真的很完美嗎?

f3a2203a-851c-11ee-939d-92fbcf53809c.jpg

使用集群+本地鎖

我們只需要在idea中在啟動倆個服務,修改端口號,三個運行實例的名稱是相同的,并且網關的配置就是通過服務名在負載均衡,所以我們只需要訪問網關,網關就會給我們做負載均衡了。

f3b506be-851c-11ee-939d-92fbcf53809c.jpg

再次使用ab壓力測試工具(將count重置為1)

ab-n100-c50http://127.0.0.1:8080/test/test

此次的結果為58?。?!

f3cb8696-851c-11ee-939d-92fbcf53809c.jpg

到此我們可以知道,本地鎖是有局限性的。







審核編輯:劉清

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • JAVA
    +關注

    關注

    19

    文章

    2911

    瀏覽量

    103278
  • JVM
    JVM
    +關注

    關注

    0

    文章

    152

    瀏覽量

    12143
  • Hash算法
    +關注

    關注

    0

    文章

    43

    瀏覽量

    7368

原文標題:Java手寫分布式鎖的實現(非常牛逼)

文章出處:【微信號:芋道源碼,微信公眾號:芋道源碼】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    HarmonyOS開發實例:【分布式手寫板】

    使用設備管理及分布式鍵值數據庫能力,實現多設備之間手寫板應用拉起及同步書寫內容的功能。
    的頭像 發表于 04-17 21:45 ?244次閱讀
    HarmonyOS開發實例:【<b class='flag-5'>分布式</b><b class='flag-5'>手寫</b>板】

    分布式軟件系統

    降到最低。負載在各處理機之間分擔,可以避免臨界瓶頸。 4、當現有機構中已存在幾個數據庫系統,而且實現全局應用的必要性增加時,就可以由這些數據庫自下而上構成分布式數據庫系統。 5、相等規模的分布式
    發表于 07-22 14:53

    基于Java分布式緩存優化在網絡管理系統中的應用

    問題,除了要提升服務器的硬件檔次、提高網絡帶寬外,對網管服務器端的緩存進行高效的使用和管理也是非常重要的。本文討論了一種采用Java實現分布式緩存系統來優化網管系統的設計方案。該分布式
    發表于 09-19 09:20

    分布式整流橋測試系統的設計與實現

    分布式整流橋測試系統的設計與實現
    發表于 08-07 00:20

    Java 中利用 redis 實現一個分布式服務

    Java 中利用 redis 實現一個分布式服務
    發表于 07-05 13:14

    如何在集群部署時實現分布式session?

    集群部署時的分布式 session 如何實現?
    發表于 07-17 06:57

    分布式系統的優勢是什么?

    當討論分布式系統時,我們面臨許多以下這些形容詞所描述的 同類型: 分布式的、刪絡的、并行的、并發的和分散的。分布式處理是一個相對較新的領域,所以還沒有‘致的定義。與順序計算相比、并行的、并發的和
    發表于 03-31 09:01

    HarmonyOS應用開發-分布式任務調度

    1. 介紹本篇CodeLab將實現的內容HarmonyOS是面向全場景多終端的分布式操作系統,使得應用程序的開發打破了智能終端互通的性能和數據壁壘,業務邏輯原子化開發,適配多端。通過一個簡單應用開發
    發表于 09-18 09:21

    HarmonyOS應用開發-分布式設計

    設計理念HarmonyOS 是面向未來全場景智慧生活方式的分布式操作系統。對消費者而言,HarmonyOS 將生活場景中的各類終端進行能力整合,形成“One Super Device”,以實現
    發表于 09-22 17:11

    HarmonyOS教程一基于分布式調度的能力,實現遠程FA的啟動

    1. 介紹開發者在應用中集成分布式調度能力,通過調用指定能力的分布式接口,實現跨設備能力調度。根據Ability模板及意圖的不同,分布式任務調度向開發者提供六種能力:啟動遠程FA(Fe
    發表于 09-10 10:07

    如何高效完成HarmonyOS分布式應用測試?

    , getText等。② 提供遠程和本地描述方式一致的分布式持測試API,僅參數不同,使用簡單方便。通過UIDriver來實現。③ 分布式UI測試框架集成于IDE,開發者一鍵開展自動
    發表于 12-13 18:07

    分布式軟總線實現近場設備間統一的分布式通信管理能力如何?

    現實中多設備間通信方式多種多樣(WIFI、藍牙等),不同的通信方式使用差異大,導致通信問題多;同時還面臨設備間通信鏈路的融合共享和沖突無法處理等挑戰。那么分布式軟總線實現近場設備間統一的分布式通信管理能力如何呢?
    發表于 03-16 11:03

    基于OpenHarmony3.1開發的一個分布式手寫板應用

    1.介紹基于TS擴展的聲明開發范式開發一個分布式手寫板應用。涉及的OS特性有分布式拉起和分布式數據管理,使用這兩個特性
    發表于 04-07 11:42

    OpenHarmony3.1分布式技術資料合集

    手寫板應用。涉及的OS特性有分布式拉起和分布式數據管理,使用這兩個特性實現不同設備間拉起與筆跡同步,即每臺設備在書寫的時候,連接的其他設備都能實時同步筆跡,效果圖如下:2.代碼結構整個
    發表于 04-11 11:50

    鴻蒙版JS如何實現分布式仿抖音應用

    ?? 之前大家看過了 Java 版的《 HarmonyOS 分布式之仿抖音應用 》,現在講講 JS 如何實現分布式仿抖音應用,通過 JS 方式開發視頻播放,
    的頭像 發表于 11-15 09:44 ?2136次閱讀
    亚洲欧美日韩精品久久_久久精品AⅤ无码中文_日本中文字幕有码在线播放_亚洲视频高清不卡在线观看
    <acronym id="s8ci2"><small id="s8ci2"></small></acronym>
    <rt id="s8ci2"></rt><rt id="s8ci2"><optgroup id="s8ci2"></optgroup></rt>
    <acronym id="s8ci2"></acronym>
    <acronym id="s8ci2"><center id="s8ci2"></center></acronym>