02 | 日志系统:一条 SQL 更新语句是如何执行的
??可能經(jīng)常聽(tīng) DBA 同事說(shuō),MySQL 可以恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài),驚嘆的同時(shí),你是不是心中也會(huì)不免會(huì)好奇,這是怎樣做到的呢?我們還是從一個(gè)表的一條更新語(yǔ)句說(shuō)起,下面是這個(gè)表的創(chuàng)建語(yǔ)句,這個(gè)表有一個(gè)主鍵 ID和一個(gè)整型字段 c:
> create table T(ID int primary key, c int);??如果要將 ID=2 這一行的值加 1,SQL 語(yǔ)句就會(huì)這么寫(xiě):
mysql> update T set c=c+1 where ID=2;??前面我有跟你介紹過(guò) SQL 語(yǔ)句基本的執(zhí)行鏈路,這里我再把那張圖拿過(guò)來(lái),你也可以先簡(jiǎn)單看看這個(gè)圖回顧下。首先,可以確定的說(shuō),查詢語(yǔ)句的那一套流程,更新語(yǔ)句也是同樣會(huì)走一遍。
??你執(zhí)行語(yǔ)句前要先連接數(shù)據(jù)庫(kù),這是連接器的工作。
??前面我們說(shuō)過(guò),在一個(gè)表上有更新的時(shí)候,跟這個(gè)表有關(guān)的查詢緩存會(huì)失效,所以這條語(yǔ)句就會(huì)把表 T 上所有緩存結(jié)果都清空。這也就是我們一般不建議使用查詢緩存的原因。
??接下來(lái),分析器會(huì)通過(guò)詞法和語(yǔ)法解析知道這是一條更新語(yǔ)句。優(yōu)化器決定要使用 ID 這個(gè)索引。然后,執(zhí)行器負(fù)責(zé)具體執(zhí)行,找到這一行,然后更新。與查詢流程不一樣的是,更新流程還涉及兩個(gè)重要的日志模塊,它們正是我們今天要討論的主角:redo log(重做日志)和 binlog(歸檔日志)。如果接觸 MySQL,那這兩個(gè)詞肯定是繞不過(guò)的,我后面的內(nèi)容里也會(huì)不斷地和你強(qiáng)調(diào)。不過(guò)話說(shuō)回來(lái),redo log 和 binlog在設(shè)計(jì)上有很多有意思的地方,這些設(shè)計(jì)思路也可以用到你自己的程序里。
重要的日志模塊:redo log
?? MySQL 如果每一次的更新操作都需要寫(xiě)進(jìn)磁盤(pán),然后磁盤(pán)也要找到對(duì)應(yīng)的那條記錄,然后再更新,整個(gè)過(guò)程 IO 成本、查找成本都很高。為了解決這個(gè)問(wèn)題,MySQL 的設(shè)計(jì)者就用了類似酒店掌柜粉板的思路來(lái)提升更新效率。
?? 當(dāng)有一條記錄需要更新的時(shí)候,InnoDB 引擎就會(huì)先把記錄寫(xiě)到 redo log(粉板)里面,并更新內(nèi)存,這個(gè)時(shí)候更新就算完成了。同時(shí),InnoDB 引擎會(huì)在適當(dāng)?shù)臅r(shí)候,將這個(gè)操作記錄更新到磁盤(pán)里面,而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做,這就像打烊以后掌柜做的事。
?? 如果今天賒賬的不多,掌柜可以等打烊后再整理。但如果某天賒賬的特別多,粉板寫(xiě)滿了,又怎么辦呢?這個(gè)時(shí)候掌柜只好放下手中的活兒,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉,為記新賬騰出空間。
?? 與此類似,InnoDB 的 redo log 是固定大小的,比如可以配置為一組 4 個(gè)文件,每個(gè)文件的大小是 1GB,那么這塊“粉板”總共就可以記錄 4GB 的操作。從頭開(kāi)始寫(xiě),寫(xiě)到末尾就又回到開(kāi)頭循環(huán)寫(xiě),如下面這個(gè)圖所示。
?? write pos 是當(dāng)前記錄的位置,一邊寫(xiě)一邊后移,寫(xiě)到第 3 號(hào)文件末尾后就回到 0 號(hào)文件開(kāi)頭checkpoint 是當(dāng)前要擦除的位置,也是往后推移并且循環(huán)的,擦除記錄前要把記錄更新到數(shù)據(jù)文件。
?? write pos 和 checkpoint 之間的是“粉板”上還空著的部分,可以用來(lái)記錄新的操作。如果 write pos 追上 checkpoint,表示“粉板”滿了,這時(shí)候不能再執(zhí)行新的更新,得停下來(lái)先擦掉一些記錄,把 checkpoint 推進(jìn)一下。
?? 有了 redo log,InnoDB 就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟,之前提交的記錄都不會(huì)丟失,這個(gè)能力稱為crash-safe。
?? 要理解 crash-safe 這個(gè)概念,可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上,之后即使掌柜忘記了,比如突然停業(yè)幾天,恢復(fù)生意后依然可以通過(guò)賬本和粉板上的數(shù)據(jù)明確賒賬賬目。
重要的日志模塊:binlog
??前面我們講過(guò),MySQL 整體來(lái)看,其實(shí)就有兩塊:一塊是 Server 層,它主要做的是MySQL 功能層面的事情;還有一塊是引擎層,負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志,而 Server 層也有自己的日志,稱binlog(歸檔日志)。
因?yàn)樽铋_(kāi)始 MySQL 里并沒(méi)有 InnoDB 引擎。
??MySQL 自帶的引擎是 MyISAM,但是MyISAM 沒(méi)有 crash-safe 的能力,binlog 日志只能用于歸檔。而InnoDB 是另一個(gè)公司以插件形式引入 MySQL 的,既然只依靠 binlog 是沒(méi)有 crash-safe 能力的,所以 InnoDB使用另外一套日志系統(tǒng)——也就是 redo log 來(lái)實(shí)現(xiàn) crash-safe 能力。
這兩種日志有以下三點(diǎn)不同。
有了對(duì)這兩個(gè)日志的概念性理解,我們?cè)賮?lái)看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個(gè)簡(jiǎn)單的update 語(yǔ)句時(shí)的內(nèi)部流程。
4. 執(zhí)行器先找引擎取 ID=2 這一行。ID 是主鍵,引擎直接用樹(shù)搜索找到這一行。如果ID=2 這一行所在的數(shù)據(jù)頁(yè)本來(lái)就在內(nèi)存中,就直接返回給執(zhí)行器;否則,需要先從磁盤(pán)讀入內(nèi)存,然后再返回。
5. 執(zhí)行器拿到引擎給的行數(shù)據(jù),把這個(gè)值加上 1,比如原來(lái)是 N,現(xiàn)在就是 N+1,得到新的一行數(shù)據(jù),再調(diào)用引擎接口寫(xiě)入這行新數(shù)據(jù)。
6. 引擎將這行新數(shù)據(jù)更新到內(nèi)存中,同時(shí)將這個(gè)更新操作記錄到 redo log 里面,此時(shí)redo log 處于 prepare 狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了,隨時(shí)可以提交事務(wù)。
7. 執(zhí)行器生成這個(gè)操作的 binlog,并把 binlog 寫(xiě)入磁盤(pán)。
8. 執(zhí)行器調(diào)用引擎的提交事務(wù)接口,引擎把剛剛寫(xiě)入的 redo log 改成提交(commit)狀態(tài),更新完成。
?? 你可能注意到了,最后三步看上去有點(diǎn)“繞”,將 redo log 的寫(xiě)入拆成了兩個(gè)步驟:prepare 和 commit,這就是"兩階段提交"。
兩階段提交
?? 為什么必須有“兩階段提交”呢?這是為了讓兩份日志之間的邏輯一致。要說(shuō)明這個(gè)問(wèn)題,我們得從文章開(kāi)頭的那個(gè)問(wèn)題說(shuō)起:怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)?
?? 前面我們說(shuō)過(guò)了,binlog 會(huì)記錄所有的邏輯操作,并且是采用“追加寫(xiě)”的形式。如果你的 DBA 承諾說(shuō)半個(gè)月內(nèi)可以恢復(fù),那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有binlog,同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。這里的“定期”取決于系統(tǒng)的重要性,可以是一天一備,也可以是一周一備。
??當(dāng)需要恢復(fù)到指定的某一秒時(shí),比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表,需要找回?cái)?shù)據(jù),那你可以這么做:
??好了,說(shuō)完了數(shù)據(jù)恢復(fù)過(guò)程,我們回來(lái)說(shuō)說(shuō),為什么日志需要“兩階段提交”。這里不妨用反證法來(lái)進(jìn)行解釋。
3. 先寫(xiě) redo log 后寫(xiě) binlog。假設(shè)在 redo log 寫(xiě)完,binlog 還沒(méi)有寫(xiě)完的時(shí)候,MySQL 進(jìn)程異常重啟。由于我們前面說(shuō)過(guò)的,redo log 寫(xiě)完之后,系統(tǒng)即使崩潰,仍然能夠把數(shù)據(jù)恢復(fù)回來(lái),所以恢復(fù)后這一行 c 的值是 1。但是由于 binlog 沒(méi)寫(xiě)完就 crash 了,這時(shí)候 binlog 里面就沒(méi)有記錄這個(gè)語(yǔ)句。
因此,之后備份日志的時(shí)候,存起來(lái)的 binlog 里面就沒(méi)有這條語(yǔ)句。然后你會(huì)發(fā)現(xiàn),如果需要用這個(gè) binlog 來(lái)恢復(fù)臨時(shí)庫(kù)的話,由于這個(gè)語(yǔ)句的 binlog 丟失,這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新,恢復(fù)出來(lái)的這一行 c 的值就是 0,與原庫(kù)的值不同。
4. 先寫(xiě) binlog 后寫(xiě) redo log。如果在 binlog 寫(xiě)完之后 crash,由于 redo log 還沒(méi)寫(xiě),崩潰恢復(fù)以后這個(gè)事務(wù)無(wú)效,所以這一行 c 的值是 0。但是 binlog 里面已經(jīng)記錄了“把c 從 0 改成 1”這個(gè)日志。所以,在之后用 binlog 來(lái)恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來(lái),恢復(fù)出來(lái)的這一行 c 的值就是 1,與原庫(kù)的值不同。
小結(jié)
今天,我介紹了 MySQL 里面最重要的兩個(gè)日志,即物理日志 redo log 和邏輯日志binlog。
redo log 用于保證 crash-safe 能力innodb_flush_log_at_trx_commit 這個(gè)參數(shù)設(shè)置成1
的時(shí)候,表示每次事務(wù)的 redo log 都直接持久化到磁盤(pán)。這個(gè)參數(shù)我建議你設(shè)置成 1,這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失。
sync_binlog 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候,表示每次事務(wù)的 binlog 都持久化到磁盤(pán)。這個(gè)參數(shù)我也建議你設(shè)置成 1,這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。
總結(jié)
以上是生活随笔為你收集整理的02 | 日志系统:一条 SQL 更新语句是如何执行的的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 01 | 基础架构:一条 SQL 查询语
- 下一篇: 05丨深入浅出索引(下)