Kafka中時間輪TimingWheel的示例分析

Kafka中時間輪TimingWheel的示例分析，相信很多沒有經(jīng)驗的人對此束手無策，為此本文總結(jié)了問題出現(xiàn)的原因和解決方法，通過這篇文章希望你能解決這個問題。

Kafka中存在大量的延遲操作，比如延遲生產(chǎn)、延遲拉取以及延遲刪除等。Kafka并沒有使用JDK自帶的Timer或者DelayQueue來實現(xiàn)延遲的功能，而是基于時間輪自定義了一個用于實現(xiàn)延遲功能的定時器(SystemTimer)。JDK的Timer和DelayQueue插入和刪除操作的平均時間復(fù)雜度為O(nlog(n))，并不能滿足Kafka的高性能要求，而基于時間輪可以將插入和刪除操作的時間復(fù)雜度都降為O(1)。時間輪的應(yīng)用并非Kafka獨有，其應(yīng)用場景還有很多，在Netty、Akka、Quartz、Zookeeper等組件中都存在時間輪的蹤影。

參考下圖，Kafka中的時間輪(TimingWheel)是一個存儲定時任務(wù)的環(huán)形隊列，底層采用數(shù)組實現(xiàn)，數(shù)組中的每個元素可以存放一個定時任務(wù)列表(TimerTaskList)。TimerTaskList是一個環(huán)形的雙向鏈表，鏈表中的每一項表示的都是定時任務(wù)項(TimerTaskEntry)，其中封裝了真正的定時任務(wù)TimerTask。

時間輪由多個時間格組成，每個時間格代表當(dāng)前時間輪的基本時間跨度(tickMs)。時間輪的時間格個數(shù)是固定的，可用wheelSize來表示，那么整個時間輪的總體時間跨度(interval)可以通過公式  tickMs ×  wheelSize計算得出。時間輪還有一個表盤指針(currentTime)，用來表示時間輪當(dāng)前所處的時間，currentTime是tickMs的整數(shù)倍。currentTime可以將整個時間輪劃分為到期部分和未到期部分，currentTime當(dāng)前指向的時間格也屬于到期部分，表示剛好到期，需要處理此時間格所對應(yīng)的TimerTaskList的所有任務(wù)。

若時間輪的tickMs=1ms，wheelSize=20，那么可以計算得出interval為20ms。初始情況下表盤指針currentTime指向時間格0，此時有一個定時為2ms的任務(wù)插入進(jìn)來會存放到時間格為2的TimerTaskList中。隨著時間的不斷推移，指針currentTime不斷向前推進(jìn)，過了2ms之后，當(dāng)?shù)竭_(dá)時間格2時，就需要將時間格2所對應(yīng)的TimeTaskList中的任務(wù)做相應(yīng)的到期操作。

此時若又有一個定時為8ms的任務(wù)插入進(jìn)來，則會存放到時間格10中，currentTime再過8ms后會指向時間格10。如果同時有一個定時為19ms的任務(wù)插入進(jìn)來怎么辦?新來的TimerTaskEntry會復(fù)用原來的TimerTaskList，所以它會插入到原本已經(jīng)到期的時間格1中?？傊?，整個時間輪的總體跨度是不變的，隨著指針currentTime的不斷推進(jìn)，當(dāng)前時間輪所能處理的時間段也在不斷后移，總體時間范圍在currentTime和currentTime+interval之間。

如果此時有個定時為350ms的任務(wù)該如何處理?直接擴(kuò)充wheelSize的大小么?Kafka中不乏幾萬甚至幾十萬毫秒的定時任務(wù)，這個wheelSize的擴(kuò)充沒有底線，就算將所有的定時任務(wù)的到期時間都設(shè)定一個上限，比如100萬毫秒，那么這個wheelSize為100萬毫秒的時間輪不僅占用很大的內(nèi)存空間，而且效率也會拉低。Kafka為此引入了層級時間輪的概念，當(dāng)任務(wù)的到期時間超過了當(dāng)前時間輪所表示的時間范圍時，就會嘗試添加到上層時間輪中。

參考上圖，復(fù)用之前的案例，***層的時間輪tickMs=1ms, wheelSize=20,  interval=20ms。第二層的時間輪的tickMs為***層時間輪的interval，即為20ms。每一層時間輪的wheelSize是固定的，都是20，那么第二層的時間輪的總體時間跨度interval為400ms。以此類推，這個400ms也是第三層的tickMs的大小，第三層的時間輪的總體時間跨度為8000ms。

對于之前所說的350ms的定時任務(wù)，顯然***層時間輪不能滿足條件，所以就升級到第二層時間輪中，最終被插入到第二層時間輪中時間格17所對應(yīng)的TimerTaskList中。如果此時又有一個定時為450ms的任務(wù)，那么顯然第二層時間輪也無法滿足條件，所以又升級到第三層時間輪中，最終被插入到第三層時間輪中時間格1的TimerTaskList中。注意到在到期時間在[400ms,800ms)區(qū)間的多個任務(wù)(比如446ms、455ms以及473ms的定時任務(wù))都會被放入到第三層時間輪的時間格1中，時間格1對應(yīng)的TimerTaskList的超時時間為400ms。

隨著時間的流逝，當(dāng)次TimerTaskList到期之時，原本定時為450ms的任務(wù)還剩下50ms的時間，還不能執(zhí)行這個任務(wù)的到期操作。這里就有一個時間輪降級的操作，會將這個剩余時間為50ms的定時任務(wù)重新提交到層級時間輪中，此時***層時間輪的總體時間跨度不夠，而第二層足夠，所以該任務(wù)被放到第二層時間輪到期時間為[40ms,60ms)的時間格中。再經(jīng)歷了40ms之后，此時這個任務(wù)又被“察覺”到，不過還剩余10ms，還是不能立即執(zhí)行到期操作。所以還要再有一次時間輪的降級，此任務(wù)被添加到***層時間輪到期時間為[10ms,11ms)的時間格中，之后再經(jīng)歷10ms后，此任務(wù)真正到期，最終執(zhí)行相應(yīng)的到期操作。

設(shè)計，其本源于生活。我們常見的鐘表就是一種具有三層結(jié)構(gòu)的時間輪，***層時間輪tickMs=1ms,  wheelSize=60，interval=1min，此為秒鐘;第二層tickMs=1min，wheelSize=60，interval=1hour，此為分鐘;第三層tickMs=1hour，wheelSize為12，interval為12hours，此為時鐘。

在Kafka中***層時間輪的參數(shù)同上面的案例一樣：tickMs=1ms, wheelSize=20,  interval=20ms，各個層級的wheelSize也固定為20，所以各個層級的tickMs和interval也可以相應(yīng)的推算出來。Kafka在具體實現(xiàn)時間輪TimingWheel時還有一些小細(xì)節(jié)：

1. TimingWheel在創(chuàng)建的時候以當(dāng)前系統(tǒng)時間為***層時間輪的起始時間(startMs)，這里的當(dāng)前系統(tǒng)時間并沒有簡單的調(diào)用System.currentTimeMillis()，而是調(diào)用了Time.SYSTEM.hiResClockMs，這是因為currentTimeMillis()方法的時間精度依賴于操作系統(tǒng)的具體實現(xiàn)，有些操作系統(tǒng)下并不能達(dá)到毫秒級的精度，而Time.SYSTEM.hiResClockMs實質(zhì)上是采用了System.nanoTime()/1_000_000來將精度調(diào)整到毫秒級。也有其他的某些騷操作可以實現(xiàn)毫秒級的精度，但是筆者并不推薦，System.nanoTime()/1_000_000是最有效的方法。(如對此有想法，可在留言區(qū)探討。)

2. TimingWheel中的每個雙向環(huán)形鏈表TimerTaskList都會有一個哨兵節(jié)點(sentinel)，引入哨兵節(jié)點可以簡化邊界條件。哨兵節(jié)點也稱為啞元節(jié)點(dummy  node)，它是一個附加的鏈表節(jié)點，該節(jié)點作為***個節(jié)點，它的值域中并不存儲任何東西，只是為了操作的方便而引入的。如果一個鏈表有哨兵節(jié)點的話，那么線性表的***個元素應(yīng)該是鏈表的第二個節(jié)點。

3. 除了***層時間輪，其余高層時間輪的起始時間(startMs)都設(shè)置為創(chuàng)建此層時間輪時前面***輪的currentTime。每一層的currentTime都必須是tickMs的整數(shù)倍，如果不滿足則會將currentTime修剪為tickMs的整數(shù)倍，以此與時間輪中的時間格的到期時間范圍對應(yīng)起來。修剪方法為：currentTime  = startMs - (startMs %  tickMs)。currentTime會隨著時間推移而推薦，但是不會改變?yōu)閠ickMs的整數(shù)倍的既定事實。若某一時刻的時間為timeMs，那么此時時間輪的currentTime  = timeMs - (timeMs % tickMs)，時間每推進(jìn)一次，每個層級的時間輪的currentTime都會依據(jù)此公式推進(jìn)。

4. Kafka中的定時器只需持有TimingWheel的第一層時間輪的引用，并不會直接持有其他高層的時間輪，但是每一層時間輪都會有一個引用(overflowWheel)指向更高一層的應(yīng)用，以此層級調(diào)用而可以實現(xiàn)定時器間接持有各個層級時間輪的引用。

關(guān)于時間輪的細(xì)節(jié)就描述到這里，各個組件中時間輪的實現(xiàn)大同小異。讀者讀到這里是否會好奇文中一直描述的一個情景——“隨著時間的流逝”或者“隨著時間的推移”，那么在Kafka中到底是怎么推進(jìn)時間的呢?類似采用JDK中的scheduleAtFixedRate來每秒推進(jìn)時間輪?顯然這樣并不合理，TimingWheel也失去了大部分意義。

Kafka中的定時器借助了JDK中的DelayQueue來協(xié)助推進(jìn)時間輪。具體做法是對于每個使用到的TimerTaskList都會加入到DelayQueue中，“每個使用到的TimerTaskList”特指有非哨兵節(jié)點的定時任務(wù)項TimerTaskEntry的TimerTaskList。DelayQueue會根據(jù)TimerTaskList對應(yīng)的超時時間expiration來排序，最短expiration的TimerTaskList會被排在DelayQueue的隊頭。Kafka中會有一個線程來獲取DelayQueue中的到期的任務(wù)列表，有意思的是這個線程所對應(yīng)的名稱叫做“ExpiredOperationReaper”，可以直譯為“過期操作收割機”，和“SkimpyOffsetMap”有的一拼。當(dāng)“收割機”線程獲取到DelayQueue中的超時的任務(wù)列表TimerTaskList之后，既可以根據(jù)TimerTaskList的expiration來推進(jìn)時間輪的時間，也可以就獲取到的TimerTaskList執(zhí)行相應(yīng)的操作，對立面的TimerTaskEntry該執(zhí)行過期操作的就執(zhí)行過期操作，該降級時間輪的就降級時間輪。

讀者讀到這里或許又非常的困惑，文章開頭明確指明的DelayQueue不適合Kafka這種高性能要求的定時任務(wù)，為何這里還要引入DelayQueue呢?注意對于定時任務(wù)項TimerTaskEntry插入和刪除操作而言，TimingWheel時間復(fù)雜度為O(1)，性能高出DelayQueue很多，如果直接將TimerTaskEntry插入DelayQueue中，那么性能顯然難以支撐。就算我們根據(jù)一定的規(guī)則將若干TimerTaskEntry劃分到TimerTaskList這個組中，然后再將TimerTaskList插入到DelayQueue中，試想下如果這個TimerTaskList中又要多添加一個TimerTaskEntry該如何處理?對于DelayQueue而言，這類操作顯然變得力不從心。

分析到這里可以發(fā)現(xiàn)，Kafka中的TimingWheel專門用來執(zhí)行插入和刪除TimerTaskEntry的操作，而DelayQueue專門負(fù)責(zé)時間推進(jìn)的任務(wù)。再試想一下，DelayQueue中的***個超時任務(wù)列表的expiration為200ms，第二個超時任務(wù)為840ms，這里獲取DelayQueue的隊頭只需要O(1)的時間復(fù)雜度。如果采用每秒定時推進(jìn)，那么獲取到***個超時的任務(wù)列表時執(zhí)行的200次推進(jìn)中有199次屬于“空推進(jìn)”，而獲取到第二個超時任務(wù)時有需要執(zhí)行639次“空推進(jìn)”，這樣會無故空耗機器的性能資源，這里采用DelayQueue來輔助以少量空間換時間，從而做到了“精準(zhǔn)推進(jìn)”。Kafka中的定時器真可謂是“知人善用”，用TimingWheel做最擅長的任務(wù)添加和刪除操作，而用DelayQueue做最擅長的時間推進(jìn)工作，相輔相成。

看完上述內(nèi)容，你們掌握Kafka中時間輪TimingWheel的示例分析的方法了嗎？如果還想學(xué)到更多技能或想了解更多相關(guān)內(nèi)容，歡迎關(guān)注億速云行業(yè)資訊頻道，感謝各位的閱讀！