redis高可用原理及demo
示例代碼
https://github.com/Abradat/redis-sentinel
原理
原文:https://www.codedump.info/post/20190409-redis-sentinel/
redis中為了實(shí)現(xiàn)高可用(High Availability,簡(jiǎn)稱HA),采用了如下兩個(gè)方式:
- 主從復(fù)制數(shù)據(jù)。
- 采用哨兵監(jiān)控?cái)?shù)據(jù)節(jié)點(diǎn)的運(yùn)行情況,一旦主節(jié)點(diǎn)出現(xiàn)問(wèn)題由從節(jié)點(diǎn)頂上繼續(xù)進(jìn)行服務(wù)。
主從復(fù)制
redis中主從節(jié)點(diǎn)復(fù)制數(shù)據(jù)有全量復(fù)制和部分復(fù)制之分。
舊版本全量復(fù)制功能的實(shí)現(xiàn)
全量復(fù)制使用snyc命令來(lái)實(shí)現(xiàn),其流程是:
- 從服務(wù)器向主服務(wù)器發(fā)送sync命令。
- 主服務(wù)器在收到sync命令之后,調(diào)用bgsave命令生成最新的rdb文件,將這個(gè)文件同步給從服務(wù)器,這樣從服務(wù)器載入這個(gè)rdb文件之后,狀態(tài)就會(huì)和主服務(wù)器執(zhí)行bgsave命令時(shí)候的一致。
- 主服務(wù)器將保存在命令緩沖區(qū)中的寫命令同步給從服務(wù)器,從服務(wù)器執(zhí)行這些命令,這樣從服務(wù)器的狀態(tài)就跟主服務(wù)器當(dāng)前狀態(tài)一致了。
舊版本全量復(fù)制功能,其最大的問(wèn)題是從服務(wù)器斷線重連時(shí),即便在從服務(wù)器上已經(jīng)有一部分?jǐn)?shù)據(jù)了,也需要進(jìn)行全量復(fù)制,這樣做的效率很低,于是新版本的redis在這部分做了改進(jìn)。
新版本全量復(fù)制功能的實(shí)現(xiàn)
新版本redis使用psync命令來(lái)代替sync命令,該命令既可以實(shí)現(xiàn)完整全同步也可以實(shí)現(xiàn)部分同步。
復(fù)制偏移量
執(zhí)行復(fù)制的雙方,主從服務(wù)器,分別會(huì)維護(hù)一個(gè)復(fù)制偏移量:
- 主服務(wù)器每次向從服務(wù)器同步了N字節(jié)數(shù)據(jù)之后,將修改自己的復(fù)制偏移量+N。
- 從服務(wù)器每次從主服務(wù)器同步了N字節(jié)數(shù)據(jù)之后,將修改自己的復(fù)制偏移量+N。
復(fù)制積壓緩沖區(qū)
主服務(wù)器內(nèi)部維護(hù)了一個(gè)固定長(zhǎng)度的先進(jìn)先出隊(duì)列做為復(fù)制積壓緩沖區(qū),其默認(rèn)大小為1MB。
在主服務(wù)器進(jìn)行命令傳播時(shí),不僅會(huì)將寫命令同步到從服務(wù)器,還會(huì)將寫命令寫入復(fù)制積壓緩沖區(qū)。
服務(wù)器運(yùn)行ID
每個(gè)redis服務(wù)器,都有其運(yùn)行ID,運(yùn)行ID由服務(wù)器在啟動(dòng)時(shí)自動(dòng)生成,主服務(wù)器會(huì)將自己的運(yùn)行ID發(fā)送給從服務(wù)器,而從服務(wù)器會(huì)將主服務(wù)器的運(yùn)行ID保存起來(lái)。
從服務(wù)器redis斷線重連之后進(jìn)行同步時(shí),就是根據(jù)運(yùn)行ID來(lái)判斷同步的進(jìn)度:
- 如果從服務(wù)器上面保存的主服務(wù)器運(yùn)行ID與當(dāng)前主服務(wù)器運(yùn)行ID一致,則認(rèn)為這一次斷線重連連接的是之前復(fù)制的主服務(wù)器,主服務(wù)器可以繼續(xù)嘗試部分同步操作。
- 否則,如果前后兩次主服務(wù)器運(yùn)行ID不相同,則認(rèn)為是完成全同步流程。
psync命令流程
有了前面的準(zhǔn)備,下面開始分析psync命令的流程:
- 如果從服務(wù)器之前沒(méi)有復(fù)制過(guò)任何主服務(wù)器,或者之前執(zhí)行過(guò)slaveof no one命令,那么從服務(wù)器就會(huì)向主服務(wù)器發(fā)送psync ? -1命令,請(qǐng)求主服務(wù)器進(jìn)行數(shù)據(jù)的全量同步。
- 否則,如果前面從服務(wù)器已經(jīng)同步過(guò)部分?jǐn)?shù)據(jù),那么從服務(wù)器向主服務(wù)器發(fā)送psync <runid> <offset>命令,其中runid是上一次主服務(wù)器的運(yùn)行id,offset是當(dāng)前從服務(wù)器的復(fù)制偏移量。
前面兩種情況主服務(wù)器收到psync命令之后,會(huì)出現(xiàn)以下三種可能:
- 主服務(wù)器返回+fullresync <runid> <offset>回復(fù),表示主服務(wù)器要求與從服務(wù)器進(jìn)行完整的數(shù)據(jù)全量同步操作。其中,runid是當(dāng)前主服務(wù)器運(yùn)行id,而offset是當(dāng)前主服務(wù)器的復(fù)制偏移量。
- 如果主服務(wù)器應(yīng)答+continue,那么表示主服務(wù)器與從服務(wù)器進(jìn)行部分?jǐn)?shù)據(jù)同步操作,將從服務(wù)器缺失的數(shù)據(jù)同步過(guò)來(lái)即可。
- 如果主服務(wù)器應(yīng)答-err,那么表示主服務(wù)器版本低于2.8,識(shí)別不了psync命令,此時(shí)從服務(wù)器將向主服務(wù)器發(fā)送sync命令,執(zhí)行完整的全量數(shù)據(jù)同步。
哨兵機(jī)制概述
redis使用哨兵機(jī)制來(lái)實(shí)現(xiàn)高可用(HA),其大概工作原理是:
- redis使用一組哨兵(sentinel)節(jié)點(diǎn)來(lái)監(jiān)控主從redis服務(wù)的可用性。
- 一旦發(fā)現(xiàn)redis主節(jié)點(diǎn)失效,將選舉出一個(gè)哨兵節(jié)點(diǎn)作為領(lǐng)導(dǎo)者(leader)。
- 哨兵領(lǐng)導(dǎo)者再?gòu)氖S嗟膹膔edis節(jié)點(diǎn)中選出一個(gè)redis節(jié)點(diǎn)作為新的主redis節(jié)點(diǎn)對(duì)外服務(wù)。
以上將redis節(jié)點(diǎn)分為兩類:
- 哨兵節(jié)點(diǎn)(sentinel):負(fù)責(zé)監(jiān)控節(jié)點(diǎn)的運(yùn)行情況。
- 數(shù)據(jù)節(jié)點(diǎn):即正常服務(wù)客戶端請(qǐng)求的redis節(jié)點(diǎn),有主從之分。
以上是大體的流程,這個(gè)流程需要解決以下幾個(gè)問(wèn)題:
- 如何對(duì)redis數(shù)據(jù)節(jié)點(diǎn)進(jìn)行監(jiān)控?
- 如何確定一個(gè)redis數(shù)據(jù)節(jié)點(diǎn)失效?
- 如何選擇出一個(gè)哨兵領(lǐng)導(dǎo)者節(jié)點(diǎn)?
- 哨兵節(jié)點(diǎn)選擇新的主redis節(jié)點(diǎn)的依據(jù)是什么?
以下來(lái)逐個(gè)回答這些問(wèn)題。
三個(gè)監(jiān)控任務(wù)
哨兵節(jié)點(diǎn)通過(guò)三個(gè)定時(shí)監(jiān)控任務(wù)監(jiān)控redis數(shù)據(jù)節(jié)點(diǎn)的服務(wù)可用性。
info命令
每隔10秒,每個(gè)哨兵節(jié)點(diǎn)都會(huì)向主、從redis數(shù)據(jù)節(jié)點(diǎn)發(fā)送info命令,獲取新的拓?fù)浣Y(jié)構(gòu)信息。
redis拓?fù)浣Y(jié)構(gòu)信息包括了:
- 本節(jié)點(diǎn)角色:主或從。
- 主從節(jié)點(diǎn)的地址、端口信息。
這樣,哨兵節(jié)點(diǎn)就能從info命令中自動(dòng)獲取到從節(jié)點(diǎn)信息,因此那些后續(xù)才加入的從節(jié)點(diǎn)信息不需要顯式配置就能自動(dòng)感知。
向__sentinel__:hello頻道同步信息
每隔2秒,每個(gè)哨兵節(jié)點(diǎn)將會(huì)向redis數(shù)據(jù)節(jié)點(diǎn)的__sentinel__:hello頻道同步自身得到的主節(jié)點(diǎn)信息以及當(dāng)前哨兵節(jié)點(diǎn)的信息,由于其他哨兵節(jié)點(diǎn)也訂閱了這個(gè)頻道,因此實(shí)際上這個(gè)操作可以交換哨兵節(jié)點(diǎn)之間關(guān)于主節(jié)點(diǎn)以及哨兵節(jié)點(diǎn)的信息。
這一操作實(shí)際上完成了兩件事情: * 發(fā)現(xiàn)新的哨兵節(jié)點(diǎn):如果有新的哨兵節(jié)點(diǎn)加入,此時(shí)保存下來(lái)這個(gè)新哨兵節(jié)點(diǎn)的信息,后續(xù)與該哨兵節(jié)點(diǎn)建立連接。 * 交換主節(jié)點(diǎn)的狀態(tài)信息,作為后續(xù)客觀判斷主節(jié)點(diǎn)下線的依據(jù)。
向數(shù)據(jù)節(jié)點(diǎn)做心跳探測(cè)
每隔1秒,每個(gè)哨兵節(jié)點(diǎn)向主、從數(shù)據(jù)節(jié)點(diǎn)以及其他sentinel節(jié)點(diǎn)發(fā)送ping命令做心跳探測(cè),這個(gè)心跳探測(cè)是后續(xù)主觀判斷數(shù)據(jù)節(jié)點(diǎn)下線的依據(jù)。
主觀下線和客觀下線
主觀下線
上面三個(gè)監(jiān)控任務(wù)中的第三個(gè)探測(cè)心跳任務(wù),如果在配置的down-after-milliseconds之后沒(méi)有收到有效回復(fù),那么就認(rèn)為該數(shù)據(jù)節(jié)點(diǎn)“主觀下線(sdown)”。
為什么稱為“主觀下線”?因?yàn)樵谝粋€(gè)分布式系統(tǒng)中,有多個(gè)機(jī)器在一起聯(lián)動(dòng)工作,網(wǎng)絡(luò)可能出現(xiàn)各種狀況,僅憑一個(gè)節(jié)點(diǎn)的判斷還不足以認(rèn)為一個(gè)數(shù)據(jù)節(jié)點(diǎn)下線了,這就需要后面的“客觀下線”。
客觀下線
當(dāng)一個(gè)哨兵節(jié)點(diǎn)認(rèn)為主節(jié)點(diǎn)主觀下線時(shí),該哨兵節(jié)點(diǎn)需要通過(guò)”sentinel is-master-down-by addr”命令向其他哨兵節(jié)點(diǎn)咨詢?cè)撝鞴?jié)點(diǎn)是否下線了,如果有超過(guò)半數(shù)的哨兵節(jié)點(diǎn)都回答了下線,此時(shí)認(rèn)為主節(jié)點(diǎn)“客觀下線”。
選舉哨兵領(lǐng)導(dǎo)者
當(dāng)主節(jié)點(diǎn)客觀下線時(shí),需要選舉出一個(gè)哨兵節(jié)點(diǎn)做為哨兵領(lǐng)導(dǎo)者,以完成后續(xù)選出新的主節(jié)點(diǎn)的工作。
這個(gè)選舉的大體思路是:
- 每個(gè)哨兵節(jié)點(diǎn)通過(guò)向其他哨兵節(jié)點(diǎn)發(fā)送”sentinel is-master-down-by addr”命令來(lái)申請(qǐng)成為哨兵領(lǐng)導(dǎo)者。
- 而每個(gè)哨兵節(jié)點(diǎn)在收到一個(gè)”sentinel is-master-down-by addr”命令時(shí),只允許給第一個(gè)節(jié)點(diǎn)投票,其他節(jié)點(diǎn)的該命令都會(huì)被拒絕。
- 如果一個(gè)哨兵節(jié)點(diǎn)收到了半數(shù)以上的同意票,則成為哨兵領(lǐng)導(dǎo)者。
- 如果前面三步在一定時(shí)間內(nèi)都沒(méi)有選出一個(gè)哨兵領(lǐng)導(dǎo)者,將重新開始下一次選舉。
可以看到,這個(gè)選舉領(lǐng)導(dǎo)者的流程很像raft中選舉leader的流程。
選出新的主節(jié)點(diǎn)
在剩下的redis從節(jié)點(diǎn)中,按照以下順序來(lái)選擇新的主節(jié)點(diǎn):
- 過(guò)濾掉“不健康”的數(shù)據(jù)節(jié)點(diǎn):比如主觀下線、斷線的從節(jié)點(diǎn)、五秒內(nèi)沒(méi)有回復(fù)過(guò)哨兵節(jié)點(diǎn)ping命令的節(jié)點(diǎn)、與主節(jié)點(diǎn)失聯(lián)的從節(jié)點(diǎn)。
- 選擇slave-priority(從節(jié)點(diǎn)優(yōu)先級(jí))最高的從節(jié)點(diǎn),如果存在則返回不存在則繼續(xù)后面的流程。
- 選擇復(fù)制偏移量最大的從節(jié)點(diǎn),這意味著這個(gè)從節(jié)點(diǎn)上面的數(shù)據(jù)最完整,如果存在則返回不存在則繼續(xù)后面的流程。
- 到了這里,所有剩余從節(jié)點(diǎn)的狀態(tài)都是一樣的,選擇runid最小的從節(jié)點(diǎn)。
提升新的主節(jié)點(diǎn)
選擇了新的主節(jié)點(diǎn)之后,還需要最后的流程讓該節(jié)點(diǎn)成為新的主節(jié)點(diǎn):
- 哨兵領(lǐng)導(dǎo)者向上一步選出的從節(jié)點(diǎn)發(fā)出“slaveof no one”命令,讓該節(jié)點(diǎn)成為主節(jié)點(diǎn)。
- 哨兵領(lǐng)導(dǎo)者向剩余的從節(jié)點(diǎn)發(fā)送命令,讓它們成為新主節(jié)點(diǎn)的從節(jié)點(diǎn)。
- 哨兵節(jié)點(diǎn)集合會(huì)將原來(lái)的主節(jié)點(diǎn)更新為從節(jié)點(diǎn),當(dāng)其恢復(fù)之后命令它去復(fù)制新的主節(jié)點(diǎn)的數(shù)據(jù)。
?
?
?
redis cluster
https://redis.io/topics/cluster-tutorial
?
轉(zhuǎn)載于:https://www.cnblogs.com/davidwang456/articles/10860726.html
總結(jié)
以上是生活随笔為你收集整理的redis高可用原理及demo的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 分布式存储系统设计的几个问题和考虑点
- 下一篇: windows下flink示例程序的执行