深入理解分布式之?dāng)?shù)據(jù)庫和緩存雙寫一致性方案解析

引言

為什么寫這篇文章？

首先，緩存由于其高并發(fā)和高性能的特性，已經(jīng)在項(xiàng)目中被廣泛使用。在讀取緩存方面，大家沒啥疑問，都是按照下圖的流程來進(jìn)行業(yè)務(wù)操作。
cdn2.b0.upaiyun.com/2018/05/efb54ba1306999e884c5f44d35db7380.png">
但是在更新緩存方面，對(duì)于更新完數(shù)據(jù)庫，是更新緩存呢，還是刪除緩存。又或者是先刪除緩存，再更新數(shù)據(jù)庫，其實(shí)大家存在很大的爭(zhēng)議。目前沒有一篇全面的博客，對(duì)這幾種方案進(jìn)行解析。于是博主戰(zhàn)戰(zhàn)兢兢，頂著被大家噴的風(fēng)險(xiǎn)，寫了這篇文章。

文章結(jié)構(gòu)

本文由以下三個(gè)部分組成
1、講解緩存更新策略
2、對(duì)每種策略進(jìn)行缺點(diǎn)分析
3、針對(duì)缺點(diǎn)給出改進(jìn)方案

正文

先做一個(gè)說明，從理論上來說，給緩存設(shè)置過期時(shí)間，是保證最終一致性的解決方案。這種方案下，我們可以對(duì)存入緩存的數(shù)據(jù)設(shè)置過期時(shí)間，所有的寫操作以數(shù)據(jù)庫為準(zhǔn)，對(duì)緩存操作只是盡最大努力即可。也就是說如果數(shù)據(jù)庫寫成功，緩存更新失敗，那么只要到達(dá)過期時(shí)間，則后面的讀請(qǐng)求自然會(huì)從數(shù)據(jù)庫中讀取新值然后回填緩存。因此，接下來討論的思路不依賴于給緩存設(shè)置過期時(shí)間這個(gè)方案。
在這里，我們討論 三種 更新策略：

1. 先更新數(shù)據(jù)庫，再更新緩存

2. 先刪除緩存，再更新數(shù)據(jù)庫

3. 先更新數(shù)據(jù)庫，再刪除緩存

應(yīng)該沒人問我，為什么沒有先更新緩存，再更新數(shù)據(jù)庫這種策略。

(1)先更新數(shù)據(jù)庫，再更新緩存

這套方案，大家是普遍反對(duì)的。為什么呢？有如下兩點(diǎn)原因。
原因一（線程安全角度）
同時(shí)有請(qǐng)求A和請(qǐng)求B進(jìn)行更新操作，那么會(huì)出現(xiàn)
（1）線程A更新了數(shù)據(jù)庫
（2）線程B更新了數(shù)據(jù)庫
（3）線程B更新了緩存
（4）線程A更新了緩存
這就出現(xiàn)請(qǐng)求A更新緩存應(yīng)該比請(qǐng)求B更新緩存早才對(duì)，但是因?yàn)榫W(wǎng)絡(luò)等原因，B卻比A更早更新了緩存。這就導(dǎo)致了臟數(shù)據(jù)，因此不考慮。
原因二（業(yè)務(wù)場(chǎng)景角度）
有如下兩點(diǎn)：
（1）如果你是一個(gè)寫數(shù)據(jù)庫場(chǎng)景比較多，而讀數(shù)據(jù)場(chǎng)景比較少的業(yè)務(wù)需求，采用這種方案就會(huì)導(dǎo)致，數(shù)據(jù)壓根還沒讀到，緩存就被頻繁的更新，浪費(fèi)性能。
（2）如果你寫入數(shù)據(jù)庫的值，并不是直接寫入緩存的，而是要經(jīng)過一系列復(fù)雜的計(jì)算再寫入緩存。那么，每次寫入數(shù)據(jù)庫后，都再次計(jì)算寫入緩存的值，無疑是浪費(fèi)性能的。顯然，刪除緩存更為適合。

接下來討論的就是爭(zhēng)議最大的，先刪緩存，再更新數(shù)據(jù)庫。還是先更新數(shù)據(jù)庫，再刪緩存的問題。

(2)先刪緩存，再更新數(shù)據(jù)庫

該方案會(huì)導(dǎo)致不一致的原因是。同時(shí)有一個(gè)請(qǐng)求A進(jìn)行更新操作，另一個(gè)請(qǐng)求B進(jìn)行查詢操作。那么會(huì)出現(xiàn)如下情形:
（1）請(qǐng)求A進(jìn)行寫操作，刪除緩存
（2）請(qǐng)求B查詢發(fā)現(xiàn)緩存不存在
（3）請(qǐng)求B去數(shù)據(jù)庫查詢得到舊值
（4）請(qǐng)求B將舊值寫入緩存
（5）請(qǐng)求A將新值寫入數(shù)據(jù)庫
上述情況就會(huì)導(dǎo)致不一致的情形出現(xiàn)。而且，如果不采用給緩存設(shè)置過期時(shí)間策略，該數(shù)據(jù)永遠(yuǎn)都是臟數(shù)據(jù)。
那么， 如何解決呢？采用延時(shí)雙刪策略
偽代碼如下

轉(zhuǎn)化為中文描述就是
（1）先淘汰緩存
（2）再寫數(shù)據(jù)庫（這兩步和原來一樣）
（3）休眠1秒，再次淘汰緩存
這么做，可以將1秒內(nèi)所造成的緩存臟數(shù)據(jù)，再次刪除。
那么，這個(gè)1秒怎么確定的，具體該休眠多久呢？
針對(duì)上面的情形，讀者應(yīng)該自行評(píng)估自己的項(xiàng)目的讀數(shù)據(jù)業(yè)務(wù)邏輯的耗時(shí)。然后寫數(shù)據(jù)的休眠時(shí)間則在讀數(shù)據(jù)業(yè)務(wù)邏輯的耗時(shí)基礎(chǔ)上，加幾百ms即可。這么做的目的，就是確保讀請(qǐng)求結(jié)束，寫請(qǐng)求可以刪除讀請(qǐng)求造成的緩存臟數(shù)據(jù)。
如果你用了mysql的讀寫分離架構(gòu)怎么辦？
ok，在這種情況下，造成數(shù)據(jù)不一致的原因如下，還是兩個(gè)請(qǐng)求，一個(gè)請(qǐng)求A進(jìn)行更新操作，另一個(gè)請(qǐng)求B進(jìn)行查詢操作。
（1）請(qǐng)求A進(jìn)行寫操作，刪除緩存
（2）請(qǐng)求A將數(shù)據(jù)寫入數(shù)據(jù)庫了，
（3）請(qǐng)求B查詢緩存發(fā)現(xiàn)，緩存沒有值
（4）請(qǐng)求B去從庫查詢，這時(shí)，還沒有完成主從同步，因此查詢到的是舊值
（5）請(qǐng)求B將舊值寫入緩存
（6）數(shù)據(jù)庫完成主從同步，從庫變?yōu)樾轮?
上述情形，就是數(shù)據(jù)不一致的原因。還是使用雙刪延時(shí)策略。只是，睡眠時(shí)間修改為在主從同步的延時(shí)時(shí)間基礎(chǔ)上，加幾百ms。
采用這種同步淘汰策略，吞吐量降低怎么辦？
ok，那就將第二次刪除作為異步的。自己起一個(gè)線程，異步刪除。這樣，寫的請(qǐng)求就不用沉睡一段時(shí)間后了，再返回。這么做，加大吞吐量。
第二次刪除,如果刪除失敗怎么辦？
這是個(gè)非常好的問題，因?yàn)榈诙蝿h除失敗，就會(huì)出現(xiàn)如下情形。還是有兩個(gè)請(qǐng)求，一個(gè)請(qǐng)求A進(jìn)行更新操作，另一個(gè)請(qǐng)求B進(jìn)行查詢操作，為了方便，假設(shè)是單庫：
（1）請(qǐng)求A進(jìn)行寫操作，刪除緩存
（2）請(qǐng)求B查詢發(fā)現(xiàn)緩存不存在
（3）請(qǐng)求B去數(shù)據(jù)庫查詢得到舊值
（4）請(qǐng)求B將舊值寫入緩存
（5）請(qǐng)求A將新值寫入數(shù)據(jù)庫
（6）請(qǐng)求A試圖去刪除請(qǐng)求B寫入對(duì)緩存值，結(jié)果失敗了。
ok,這也就是說。如果第二次刪除緩存失敗，會(huì)再次出現(xiàn)緩存和數(shù)據(jù)庫不一致的問題。
如何解決呢？
具體解決方案，且看博主對(duì)第(3)種更新策略的解析。

(3)先更新數(shù)據(jù)庫，再刪緩存

首先，先說一下。老外提出了一個(gè)緩存更新套路，名為 《Cache-Aside pattern》 。其中就指出

• 失效 ：應(yīng)用程序先從cache取數(shù)據(jù)，沒有得到，則從數(shù)據(jù)庫中取數(shù)據(jù)，成功后，放到緩存中。

• 命中 ：應(yīng)用程序從cache中取數(shù)據(jù)，取到后返回。

• 更新 ：先把數(shù)據(jù)存到數(shù)據(jù)庫中，成功后，再讓緩存失效。

另外，知名社交網(wǎng)站facebook也在論文 《Scaling Memcache at Facebook》 中提出，他們用的也是先更新數(shù)據(jù)庫，再刪緩存的策略。
這種情況不存在并發(fā)問題么？
不是的。假設(shè)這會(huì)有兩個(gè)請(qǐng)求，一個(gè)請(qǐng)求A做查詢操作，一個(gè)請(qǐng)求B做更新操作，那么會(huì)有如下情形產(chǎn)生
（1）緩存剛好失效
（2）請(qǐng)求A查詢數(shù)據(jù)庫，得一個(gè)舊值
（3）請(qǐng)求B將新值寫入數(shù)據(jù)庫
（4）請(qǐng)求B刪除緩存
（5）請(qǐng)求A將查到的舊值寫入緩存
ok，如果發(fā)生上述情況，確實(shí)是會(huì)發(fā)生臟數(shù)據(jù)。
然而，發(fā)生這種情況的概率又有多少呢？
發(fā)生上述情況有一個(gè)先天性條件，就是步驟（3）的寫數(shù)據(jù)庫操作比步驟（2）的讀數(shù)據(jù)庫操作耗時(shí)更短，才有可能使得步驟（4）先于步驟（5）?？墒牵蠹蚁胂?，數(shù)據(jù)庫的讀操作的速度遠(yuǎn)快于寫操作的（不然做讀寫分離干嘛，做讀寫分離的意義就是因?yàn)樽x操作比較快，耗資源少），因此步驟（3）耗時(shí)比步驟（2）更短，這一情形很難出現(xiàn)。
假設(shè)，有人非要抬杠，有強(qiáng)迫癥，一定要解決怎么辦？
如何解決上述并發(fā)問題？
首先，給緩存設(shè)有效時(shí)間是一種方案。其次，采用策略（2）里給出的異步延時(shí)刪除策略，保證讀請(qǐng)求完成以后，再進(jìn)行刪除操作。
還有其他造成不一致的原因么？
有的，這也是緩存更新策略（2）和緩存更新策略（3）都存在的一個(gè)問題，如果刪緩存失敗了怎么辦，那不是會(huì)有不一致的情況出現(xiàn)么。比如一個(gè)寫數(shù)據(jù)請(qǐng)求，然后寫入數(shù)據(jù)庫了，刪緩存失敗了，這會(huì)就出現(xiàn)不一致的情況了。這也是緩存更新策略（2）里留下的最后一個(gè)疑問。
如何解決？
提供一個(gè)保障的重試機(jī)制即可，這里給出兩套方案。
方案一 ：
如下圖所示

流程如下所示
（1）更新數(shù)據(jù)庫數(shù)據(jù)；
（2）緩存因?yàn)榉N種問題刪除失敗
（3）將需要?jiǎng)h除的key發(fā)送至消息隊(duì)列
（4）自己消費(fèi)消息，獲得需要?jiǎng)h除的key
（5）繼續(xù)重試刪除操作，直到成功
然而，該方案有一個(gè)缺點(diǎn)，對(duì)業(yè)務(wù)線代碼造成大量的侵入。于是有了方案二，在方案二中，啟動(dòng)一個(gè)訂閱程序去訂閱數(shù)據(jù)庫的binlog，獲得需要操作的數(shù)據(jù)。在應(yīng)用程序中，另起一段程序，獲得這個(gè)訂閱程序傳來的信息，進(jìn)行刪除緩存操作。
方案二 ：

流程如下圖所示：
（1）更新數(shù)據(jù)庫數(shù)據(jù)
（2）數(shù)據(jù)庫會(huì)將操作信息寫入binlog日志當(dāng)中
（3）訂閱程序提取出所需要的數(shù)據(jù)以及key
（4）另起一段非業(yè)務(wù)代碼，獲得該信息
（5）嘗試刪除緩存操作，發(fā)現(xiàn)刪除失敗
（6）將這些信息發(fā)送至消息隊(duì)列
（7）重新從消息隊(duì)列中獲得該數(shù)據(jù)，重試操作。

備注說明： 上述的訂閱binlog程序在mysql中有現(xiàn)成的中間件叫canal，可以完成訂閱binlog日志的功能。至于oracle中，博主目前不知道有沒有現(xiàn)成中間件可以使用。另外，重試機(jī)制，博主是采用的是消息隊(duì)列的方式。如果對(duì)一致性要求不是很高，直接在程序中另起一個(gè)線程，每隔一段時(shí)間去重試即可，這些大家可以靈活自由發(fā)揮，只是提供一個(gè)思路。

總結(jié)

本文其實(shí)是對(duì)目前互聯(lián)網(wǎng)中已有的一致性方案，進(jìn)行了一個(gè)總結(jié)。對(duì)于先刪緩存，再更新數(shù)據(jù)庫的更新策略，還有方案提出維護(hù)一個(gè)內(nèi)存隊(duì)列的方式，作者看了一下，覺得實(shí)現(xiàn)異常復(fù)雜，沒有必要，因此沒有必要在文中給出。最后，希望大家有所收獲。

對(duì) Java技術(shù)，架構(gòu)技術(shù) 感興趣的朋友，歡迎加 QQ群 ：725633148 ，一起學(xué)習(xí)，相互討論。

群內(nèi)已經(jīng)有小伙伴將知識(shí)體系整理好（源碼，筆記， PPT，學(xué)習(xí)視頻），加QQ群 ： 725633148 免費(fèi)領(lǐng)取資料！

分享給喜歡 Java，喜歡編程，有夢(mèng)想成為架構(gòu)師的程序員們，希望能夠幫助到你們！