當前位置：首頁 > 运维知识 > 数据库 >内容正文

数据库

读数据库遇到空就进行不下去_如何解决高并发场景下缓存+数据库双写不一致问题?...

發(fā)布時間：2025/3/21 数据库 28 豆豆

生活随笔收集整理的這篇文章主要介紹了读数据库遇到空就进行不下去_如何解决高并发场景下缓存+数据库双写不一致问题?... 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

一、數(shù)據(jù)庫+緩存雙寫不一致問題引入

要講數(shù)據(jù)庫+緩存雙寫不一致的問題，就需要先講一下這個問題是怎么發(fā)生的。我們選擇電商系統(tǒng)中要求數(shù)據(jù)實時性較高的庫存服務(wù)來舉例講講這個問題。

庫存可能會修改，每次修改數(shù)據(jù)庫的同時也都要去更新這個緩存數(shù)據(jù);；每次庫存的數(shù)據(jù)，在緩存中一旦過期，或者是被清理掉了，前端對庫存數(shù)據(jù)的請求都會發(fā)送給庫存服務(wù)，去獲取相應(yīng)的數(shù)據(jù)。

庫存這一塊，寫數(shù)據(jù)庫的時候，直接更新redis緩存嗎？實際上不是，因為沒有這么簡單。這里，其實就涉及到了一個問題，數(shù)據(jù)庫與緩存雙寫，數(shù)據(jù)不一致的問題。圍繞和結(jié)合實時性較高的庫存服務(wù)，把數(shù)據(jù)庫與緩存雙寫不一致問題以及其解決方案，給大家分享一下。

二、各種級別的不一致問題及解決方案

1.最初級的緩存不一致問題及解決方案

問題

如果是先修改數(shù)據(jù)庫，再刪除緩存的方案，會有問題，試想，如果刪除緩存失敗了，那么會導致數(shù)據(jù)庫中是新數(shù)據(jù)，緩存中是舊數(shù)據(jù)，出現(xiàn)數(shù)據(jù)不一致的情況。

解決思路

反過來，先刪除緩存，再修改數(shù)據(jù)庫。讀緩存讀不到，查數(shù)據(jù)庫更新緩存的時候就拿到了最新的庫存數(shù)據(jù)。如果刪除緩存成功了，而修改數(shù)據(jù)庫失敗了，那么數(shù)據(jù)庫中依舊是舊數(shù)據(jù)，緩存中是空的，那么數(shù)據(jù)不會不一致。因為讀的時候緩存沒有，則讀數(shù)據(jù)庫中舊數(shù)據(jù)，然后更新到緩存中。

2.比較復雜的數(shù)據(jù)不一致問題分析

當庫存數(shù)據(jù)發(fā)生了變更，我們先刪除了緩存，然后要去修改數(shù)據(jù)庫。
設(shè)想一下，如果這個時候修改數(shù)據(jù)庫的操作還沒來及完成，突然一個請求過來，去讀緩存，發(fā)現(xiàn)緩存空了，去查詢數(shù)據(jù)庫，查到了修改前的舊數(shù)據(jù)，放到了緩存中。
數(shù)據(jù)變更的操作完成后數(shù)據(jù)庫的庫存被修改成了新值，但緩存中又變成了舊數(shù)據(jù)。那么這個時候是不是還會出現(xiàn)緩存和數(shù)據(jù)庫不一致的情況？

3.為何上億流量高并發(fā)時會出現(xiàn)該問題？

上述問題，只有在對一個數(shù)據(jù)在并發(fā)的進行讀寫的時候，才可能會出現(xiàn)。
其實如果并發(fā)量很低的話，特別是讀并發(fā)很低，每天訪問量就1萬次，那么很少的情況下，會出現(xiàn)剛才描述的那種不一致的場景。
但是問題是，高并發(fā)了以后，問題是很多的。如果每天的是上億的流量，每秒并發(fā)讀是幾萬，每秒只要有數(shù)據(jù)更新的請求，就可能會出現(xiàn)上述的數(shù)據(jù)庫+緩存不一致的情況。
怎么解決？

4.更新與讀取操作進行異步串行化

這里說一種解決方案。

不就是還沒更新數(shù)據(jù)庫的就查數(shù)據(jù)庫讀到舊數(shù)據(jù)嗎？不就是因為讀在更新前面了嗎？那我就讓你排隊執(zhí)行唄。

4.1 異步串行化

我在系統(tǒng)內(nèi)部維護n個內(nèi)存隊列，更新數(shù)據(jù)的時候，根據(jù)數(shù)據(jù)的唯一標識，將該操作路由之后，發(fā)送到其中一個jvm內(nèi)部的內(nèi)存隊列中（對同一數(shù)據(jù)的請求發(fā)送到同一個隊列）。讀取數(shù)據(jù)的時候，如果發(fā)現(xiàn)數(shù)據(jù)不在緩存中，并且此時隊列里有更新庫存的操作，那么將重新讀取數(shù)據(jù)+更新緩存的操作，根據(jù)唯一標識路由之后，也將發(fā)送到同一個jvm內(nèi)部的內(nèi)存隊列中。然后每個隊列對應(yīng)一個工作線程，每個工作線程串行地拿到對應(yīng)的操作，然后一條一條的執(zhí)行。
這樣的話，一個數(shù)據(jù)變更的操作，先執(zhí)行刪除緩存，然后再去更新數(shù)據(jù)庫，但是還沒完成更新的時候，如果此時一個讀請求過來，讀到了空的緩存，那么可以先將緩存更新的請求發(fā)送到隊列中，此時會在隊列中積壓，排在剛才更新庫的操作之后，然后同步等待緩存更新完成，再讀庫。

4.2 讀操作去重

多個讀庫更新緩存的請求串在同一個隊列中是沒意義的，因此可以做過濾，如果發(fā)現(xiàn)隊列中已經(jīng)有了該數(shù)據(jù)的更新緩存的請求了，那么就不用再放進去了，直接等待前面的更新操作請求完成即可，待那個隊列對應(yīng)的工作線程完成了上一個操作（數(shù)據(jù)庫的修改）之后，才會去執(zhí)行下一個操作（讀庫更新緩存），此時會從數(shù)據(jù)庫中讀取最新的值，然后寫入緩存中。
如果請求還在等待時間范圍內(nèi)，不斷輪詢發(fā)現(xiàn)可以取到值了，那么就直接返回；如果請求等待的時間超過一定時長，那么這一次直接從數(shù)據(jù)庫中讀取當前的舊值。（返回舊值不是又導致緩存和數(shù)據(jù)庫不一致了么？那至少可以減少這個情況發(fā)生，因為等待超時也不是每次都是，幾率很小吧。這里我想的是，如果超時了就直接讀舊值，這時候僅僅是讀庫后返回而不放緩存

5.高并發(fā)的場景下，該方案要注意的問題

高并發(fā)的場景下，該解決方案其實還是有一些問題需要特別注意的。

5.1 讀請求長時阻塞

由于讀請求進行了非常輕度的異步化，所以一定要注意讀超時的問題，每個讀請求必須在超時時間范圍內(nèi)返回。

該解決方案，最大的風險點在于，數(shù)據(jù)更新很頻繁的情況下導致隊列中積壓了大量更新操作在里面，然后讀請求會發(fā)生大量的超時，最后導致大量的請求直接走數(shù)據(jù)庫取到了舊值。所以，務(wù)必通過一些模擬真實的測試，看看更新數(shù)據(jù)頻繁的場景下是怎樣的。
另外一點，因為一個隊列中，可能會積壓針對多個數(shù)據(jù)項的更新操作，因此需要根據(jù)自己的業(yè)務(wù)情況進行測試，確定一個實例中創(chuàng)建多少個內(nèi)存隊列，且可能需要部署多個服務(wù)，每個服務(wù)分攤一些數(shù)據(jù)的更新操作。

如果一個內(nèi)存隊列里積壓100個商品的庫存修改操作，每個庫存修改操作要耗費10ms去完成，那么最后一個商品的讀請求，可能等待10 * 100 = 1000ms = 1s后，才能得到數(shù)據(jù)。
這個時候就導致讀請求的長時阻塞。

一定要做根據(jù)實際業(yè)務(wù)系統(tǒng)的運行情況，去進行一些壓力測試，和模擬線上環(huán)境，去看看最繁忙的時候，內(nèi)存隊列可能會擠壓多少更新操作，可能會導致最后一個更新操作對應(yīng)的讀請求，會hang多少時間。如果讀請求在200ms返回，而且你計算過后，哪怕是最繁忙的時候，積壓10個更新操作，最多等待200ms，那還可以的。
如果一個內(nèi)存隊列可能積壓的更新操作特別多，那么你就要加機器，讓每個機器上部署的服務(wù)實例處理更少的數(shù)據(jù)，那么每個內(nèi)存隊列中積壓的更新操作就會越少。

Tips:
其實根據(jù)之前的項目經(jīng)驗，一般來說數(shù)據(jù)的寫頻率是很低的，因此實際上正常來說，在隊列中積壓的更新操作應(yīng)該是很少的。
針對讀高并發(fā)，讀緩存架構(gòu)的項目，一般寫請求相對讀來說，是非常非常少的，每秒的QPS能到幾百就不錯了。
假如一秒500的寫操作，可以看成5份，每200ms就100個寫操作。對于單機器，如果又20個內(nèi)存隊列，每個內(nèi)存隊列，可能就積壓5個寫操作，每個寫操作性能測試后，一般在20ms左右就完成。
那么針對每個內(nèi)存隊列中的數(shù)據(jù)的讀請求，也就最多hang一會兒，200ms以內(nèi)肯定能返回了。
假如寫QPS擴大10倍，但是經(jīng)過剛才的測算，就知道，單機支撐寫QPS幾百沒問題，那么就擴容機器，擴容10倍的機器，10臺機器，每個機器20個隊列，200個隊列。
大部分的情況下，應(yīng)該是這樣的：大量的讀請求過來，都是直接走緩存取到數(shù)據(jù)的。少量情況下，可能遇到讀和數(shù)據(jù)更新沖突的情況。如上所述，那么此時更新操作如果先入隊列，之后可能會瞬間來了對這個數(shù)據(jù)大量的讀請求，但是因為做了去重的優(yōu)化，所以也就一個更新緩存的操作跟在它后面。
等數(shù)據(jù)更新完了，讀請求觸發(fā)的緩存更新操作也完成，然后臨時等待的讀請求全部可以讀到緩存中的數(shù)據(jù)。

5.2 讀請求并發(fā)量過高

這里還必須做好壓力測試，確保恰巧碰上上述情況的時候，還有一個風險，就是突然間大量讀請求會在幾十毫秒的延時hang在服務(wù)上，看服務(wù)能不能抗的住，需要多少機器才能抗住最大的極限情況的峰值。
但是因為并不是所有的數(shù)據(jù)都在同一時間更新，緩存也不會同一時間失效，所以每次可能也就是少數(shù)數(shù)據(jù)的緩存失效了，然后那些數(shù)據(jù)對應(yīng)的讀請求過來，并發(fā)量應(yīng)該也不會特別大

Tips:
如果按1:99的比例計算寫和讀的請求，那么每秒5萬的讀QPS，可能只有500次更新操作。
如果一秒有500的寫QPS，那么要測算好，可能寫操作影響的數(shù)據(jù)有500條，這500條數(shù)據(jù)在緩存中失效后，可能導致多少讀緩存的請求，發(fā)送讀請求到庫存服務(wù)來，要求更新緩存。
一般來說，按1:2的話，每秒鐘有1000個讀請求去讀這500個正在更新庫的數(shù)據(jù)，就會有1000個請求hang在庫存服務(wù)上，如果規(guī)定每個請求200ms就返回，那么每個讀請求最多hang多少時間，這個一定要測算好。
在同一時間最多hang住的可能也就是單機200個讀請求，最壞的同時hang住，單機hang200個讀請求，還是ok的。
但是假如1:20，每秒更新500條數(shù)據(jù)，這500秒數(shù)據(jù)對應(yīng)的讀請求，會有20 * 500 = 1萬，1萬個讀請求全部hang在庫存服務(wù)上，就死定了。

5.3 多服務(wù)實例部署的請求路由

可能這個庫存服務(wù)部署了多個實例，那么必須保證說，執(zhí)行數(shù)據(jù)更新操作，以及執(zhí)行緩存更新操作的請求，對于同一商品的讀寫請求全部路由到同一臺機器上。可以自己去做服務(wù)間的按照某個請求的參數(shù)做hash路由，也可以通過nginx服務(wù)器hash路由的功能路由到相同的服務(wù)實例上。

5.4 熱點商品的路由問題，導致請求的傾斜

萬一某個商品的讀寫請求特別高，全部打到相同的機器的相同的隊列里面去了，可能造成某臺機器的壓力過大。
但是因為只有在商品數(shù)據(jù)更新的時候才會清空緩存，然后才會導致讀寫并發(fā)，所以更新頻率不是太高的話，這個問題的影響并不是特別大。
但是的確可能某些機器的負載會高一些。

三、總結(jié)

一般來說，就是如果你的系統(tǒng)不是嚴格要求緩存+數(shù)據(jù)庫必須一致性的話，緩存可以稍微的跟數(shù)據(jù)庫偶爾有不一致的情況，那最好不要上述的串行化的這個方案，因為讀請求和寫請求串行化，串到一個內(nèi)存隊列里去，這樣是可以保證一定不會出現(xiàn)不一致的情況。但是，串行化之后，就會導致系統(tǒng)的吞吐量會大幅度的降低，你就需要用比正常情況下多幾倍的機器去支撐線上的一個請求。

另外，不是說，講課的、寫文章的就是超人，萬能的。就跟寫書一樣，很可能會寫錯，也可能有些方案里的一些地方，沒考慮到。或者有些方案只是適合某些場景，在某些場景下，可能需要你進行方案的優(yōu)化和調(diào)整才能適用于你自己的項目。

如果大家覺得對這些方案有什么疑問或者見解，都可以溝通交流。如果的確覺得是講解的不對，或者有些地方考慮不周，那么都是可以交流的，多多包涵。

作者：walkinger
原文鏈接：https://juejin.im/post/5e1134e1e51d45414b74e12e 《新程序員》：云原生和全面數(shù)字化實踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的读数据库遇到空就进行不下去_如何解决高并发场景下缓存+数据库双写不一致问题?...的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。

上一篇： airpods固件更新方法_苹果AirP
下一篇： python中关键字表示空类型_Pyt