溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Rabbitmq如何解決消息積壓問題

發(fā)布時間:2021-12-24 09:20:50 來源:億速云 閱讀:2170 作者:小新 欄目:大數(shù)據(jù)

這篇文章主要介紹了Rabbitmq如何解決消息積壓問題,具有一定借鑒價值,感興趣的朋友可以參考下,希望大家閱讀完這篇文章之后大有收獲,下面讓小編帶著大家一起了解一下。

Rabbitmq如何解決消息積壓問題

上千萬條消息在mq里積壓了幾個小時了還沒解決

1)先修復(fù)consumer的問題,確保其恢復(fù)消費(fèi)速度,然后將現(xiàn)有cnosumer都停掉

2)新建一個topic,partition是原來的10倍,臨時建立好原先10倍或者20倍的queue數(shù)量

3)然后寫一個臨時的分發(fā)數(shù)據(jù)的consumer程序,這個程序部署上去消費(fèi)積壓的數(shù)據(jù),

消費(fèi)之后不做耗時的處理,直接均勻輪詢寫入臨時建立好的10倍數(shù)量的queue

4)接著臨時征用10倍的機(jī)器來部署consumer,每一批consumer消費(fèi)一個臨時queue的數(shù)據(jù)

5)這種做法相當(dāng)于是臨時將queue資源和consumer資源擴(kuò)大10倍,以正常的10倍速度來消費(fèi)數(shù)據(jù)

6)等快速消費(fèi)完積壓數(shù)據(jù)之后,得恢復(fù)原先部署架構(gòu),重新用原先的consumer機(jī)器來消費(fèi)消息

rabbitmq設(shè)置過期時間的,就是TTL

  1. 如果消息在queue中積壓超過一定的時間就會被rabbitmq給清理掉,這個數(shù)據(jù)就沒了。

  2. 那這就是第二個坑了。這就不是說數(shù)據(jù)會大量積壓在mq里,而是大量的數(shù)據(jù)會直接搞丟

解決

  1. 丟了大量的消息。我們可以采取一個方案,就是批量重導(dǎo),這個時候我們就開始寫程序,

  2. 將丟失的那批數(shù)據(jù),寫個臨時程序,一點(diǎn)一點(diǎn)的查出來,然后重新灌入mq里面去,把白天丟的數(shù)據(jù)給他補(bǔ)回來

RAM node 和 disk node 的區(qū)別?

RAM node 僅將 fabric(即 queue、exchange 和 binding等 RabbitMQ基礎(chǔ)構(gòu)件)相關(guān)元數(shù)據(jù)保存到內(nèi)存中,但 disk node 會在內(nèi)存和磁盤中均進(jìn)行存儲。RAM node 上唯一會存儲到磁盤上的元數(shù)據(jù)是 cluster 中使用的 disk node 的地址。要求在 RabbitMQ cluster 中至少存在一個 disk node 。

vhost 是什么?起什么作用?

vhost 可以理解為虛擬 broker ,即 mini-RabbitMQ server。其內(nèi)部均含有獨(dú)立的 queue、exchange 和 binding 等,但最最重要的是,其擁有獨(dú)立的權(quán)限系統(tǒng),可以做到 vhost 范圍的用戶控制。當(dāng)然,從 RabbitMQ 的全局角度,vhost 可以作為不同權(quán)限隔離的手段(一個典型的例子就是不同的應(yīng)用可以跑在不同的 vhost 中)。

感謝你能夠認(rèn)真閱讀完這篇文章,希望小編分享的“Rabbitmq如何解決消息積壓問題”這篇文章對大家有幫助,同時也希望大家多多支持億速云,關(guān)注億速云行業(yè)資訊頻道,更多相關(guān)知識等著你來學(xué)習(xí)!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI