溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Kafka數(shù)據(jù)中轉(zhuǎn)傳輸?shù)氖纠治?/h1>
發(fā)布時間:2021-12-15 10:28:38 來源:億速云 閱讀:284 作者:柒染 欄目:云計算

今天就跟大家聊聊有關(guān)Kafka數(shù)據(jù)中轉(zhuǎn)傳輸?shù)氖纠治?,可能很多人都不太了解,為了讓大家更加了解,小編給大家總結(jié)了以下內(nèi)容,希望大家根據(jù)這篇文章可以有所收獲。

需求起源

由于某些海外節(jié)點的數(shù)據(jù)發(fā)送到Kafka的上海集群會產(chǎn)生較高的延遲,因為公網(wǎng)訪問的時候數(shù)據(jù)可能會進行多次中轉(zhuǎn),而導(dǎo)致網(wǎng)絡(luò)延遲較高。所以增加了一個地區(qū)中轉(zhuǎn),該地區(qū)的網(wǎng)絡(luò)情況到所有的節(jié)點的網(wǎng)絡(luò)情況較好(廠商推薦)。

所以想把數(shù)據(jù)通過該地區(qū)做一次中轉(zhuǎn),再發(fā)送到上海。這樣來看整體時延約120ms+。所以在Kafka的producer直接把host配置為該中轉(zhuǎn)節(jié)點。經(jīng)過測試,發(fā)現(xiàn)數(shù)據(jù)能夠到上海。

設(shè)想的數(shù)據(jù)流程

Kafka數(shù)據(jù)中轉(zhuǎn)傳輸?shù)氖纠治?></p><h6>出現(xiàn)異常,延遲依然很高</h6><p><img src=服務(wù)器,使用 kafka-producer-perf-test進行壓力測試,直接出現(xiàn)大量的timeout。網(wǎng)絡(luò)情況非常不好。
Kafka數(shù)據(jù)中轉(zhuǎn)傳輸?shù)氖纠治?><br/>但是ping的結(jié)果還好啊...</p><h6><strong>查看程序日志</strong></h6><p>查看進程發(fā)送的日志,從日志上發(fā)現(xiàn)一個問題。由于我使用了nginx進行轉(zhuǎn)發(fā),所以我數(shù)據(jù)發(fā)送到nginx的端口修改成了9000,也就是producer配置的是nginx的host:9000,但是我發(fā)現(xiàn)我日志上出現(xiàn)的依然是發(fā)送至kafka的端口:9092。<br/>進程沒有重啟?應(yīng)該所有人的第一反應(yīng)就是這個,所以重啟進行咯...<br/>重啟進程,盯日志...</p><p>發(fā)現(xiàn)請求發(fā)送到nginx的9000端口..這次應(yīng)該是對了...</p><p><img src=看完上述內(nèi)容,你們對Kafka數(shù)據(jù)中轉(zhuǎn)傳輸?shù)氖纠治鲇羞M一步的了解嗎?如果還想了解更多知識或者相關(guān)內(nèi)容,請關(guān)注億速云行業(yè)資訊頻道,感謝大家的支持。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI