溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶(hù)服務(wù)條款》

常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別

發(fā)布時(shí)間:2021-10-13 14:42:14 來(lái)源:億速云 閱讀:122 作者:iii 欄目:編程語(yǔ)言

本篇內(nèi)容介紹了“常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別”的有關(guān)知識(shí),在實(shí)際案例的操作過(guò)程中,不少人都會(huì)遇到這樣的困境,接下來(lái)就讓小編帶領(lǐng)大家學(xué)習(xí)一下如何處理這些情況吧!希望大家仔細(xì)閱讀,能夠?qū)W有所成!

簡(jiǎn)單分析一下需求

所謂全局唯一的 id 其實(shí)往往對(duì)應(yīng)是生成唯一記錄標(biāo)識(shí)的業(yè)務(wù)需求。

這個(gè) id 常常是數(shù)據(jù)庫(kù)的主鍵,數(shù)據(jù)庫(kù)上會(huì)建立聚集索引(cluster index),即在物理存儲(chǔ)上以這個(gè)字段排序。這個(gè)記錄標(biāo)識(shí)上的查詢(xún),往往又有分頁(yè)或者排序的業(yè)務(wù)需求。所以往往要有一個(gè)time字段,并且在time字段上建立普通索引(non-cluster index)。

普通索引存儲(chǔ)的是實(shí)際記錄的指針,其訪(fǎng)問(wèn)效率會(huì)比聚集索引慢,如果記錄標(biāo)識(shí)在生成時(shí)能夠基本按照時(shí)間有序,則可以省去這個(gè)time字段的索引查詢(xún)。

這就引出了記錄標(biāo)識(shí)生成的兩大核心需求:

  • 全局唯一

  • 趨勢(shì)有序

常見(jiàn)生成策略的優(yōu)缺點(diǎn)對(duì)比
方法一: 用數(shù)據(jù)庫(kù)的 auto_increment 來(lái)生成

優(yōu)點(diǎn):

  • 此方法使用數(shù)據(jù)庫(kù)原有的功能,所以相對(duì)簡(jiǎn)單

  • 能夠保證唯一性

  • 能夠保證遞增性

  • id 之間的步長(zhǎng)是固定且可自定義的
    缺點(diǎn):

  • 可用性難以保證:數(shù)據(jù)庫(kù)常見(jiàn)架構(gòu)是 一主多從 + 讀寫(xiě)分離,生成自增ID是寫(xiě)請(qǐng)求 主庫(kù)掛了就玩不轉(zhuǎn)了

  • 擴(kuò)展性差,性能有上限:因?yàn)閷?xiě)入是單點(diǎn),數(shù)據(jù)庫(kù)主庫(kù)的寫(xiě)性能決定ID的生成性能上限,并且 難以擴(kuò)展
    改進(jìn)方案:

  • 冗余主庫(kù),避免寫(xiě)入單點(diǎn)

  • 數(shù)據(jù)水平切分,保證各主庫(kù)生成的ID不重復(fù)

常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別

如上圖所述,由1個(gè)寫(xiě)庫(kù)變成3個(gè)寫(xiě)庫(kù),每個(gè)寫(xiě)庫(kù)設(shè)置不同的 auto_increment 初始值,以及相同的增長(zhǎng)步長(zhǎng),以保證每個(gè)數(shù)據(jù)庫(kù)生成的ID是不同的(上圖中DB 01生成0,3,6,9…,DB 02生成1,4,7,10,DB 03生成2,5,8,11…)

改進(jìn)后的架構(gòu)保證了可用性,但缺點(diǎn)是

  • 喪失了ID生成的“絕對(duì)遞增性”:先訪(fǎng)問(wèn)DB 01生成0,3,再訪(fǎng)問(wèn)DB 02生成1,可能導(dǎo)致在非常短的時(shí)間內(nèi),ID生成不是絕對(duì)遞增的(這個(gè)問(wèn)題不大,目標(biāo)是趨勢(shì)遞增,不是絕對(duì)遞增

  • 數(shù)據(jù)庫(kù)的寫(xiě)壓力依然很大,每次生成ID都要訪(fǎng)問(wèn)數(shù)據(jù)庫(kù)
    為了解決這些問(wèn)題,引出了以下方法:

方法二:?jiǎn)吸c(diǎn)批量ID生成服務(wù)

分布式系統(tǒng)之所以難,很重要的原因之一是“沒(méi)有一個(gè)全局時(shí)鐘,難以保證絕對(duì)的時(shí)序”,要想保證絕對(duì)的時(shí)序,還是只能使用單點(diǎn)服務(wù),用本地時(shí)鐘保證“絕對(duì)時(shí)序”。

數(shù)據(jù)庫(kù)寫(xiě)壓力大,是因?yàn)槊看紊蒊D都訪(fǎng)問(wèn)了數(shù)據(jù)庫(kù),可以使用批量的方式降低數(shù)據(jù)庫(kù)寫(xiě)壓力。

常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別

如上圖所述,數(shù)據(jù)庫(kù)使用雙master保證可用性,數(shù)據(jù)庫(kù)中只存儲(chǔ)當(dāng)前ID的最大值,例如4。

ID生成服務(wù)假設(shè)每次批量拉取5個(gè)ID,服務(wù)訪(fǎng)問(wèn)數(shù)據(jù)庫(kù),將當(dāng)前ID的最大值修改為4,這樣應(yīng)用訪(fǎng)問(wèn)ID生成服務(wù)索要ID,ID生成服務(wù)不需要每次訪(fǎng)問(wèn)數(shù)據(jù)庫(kù),就能依次派發(fā)0,1,2,3,4這些ID了。

當(dāng)ID發(fā)完后,再將ID的最大值修改為11,就能再次派發(fā)6,7,8,9,10,11這些ID了,于是數(shù)據(jù)庫(kù)的壓力就降低到原來(lái)的1/6。

優(yōu)點(diǎn):

  • 保證了ID生成的絕對(duì)遞增有序

  • 大大的降低了數(shù)據(jù)庫(kù)的壓力,ID生成可以做到每秒生成幾萬(wàn)幾十萬(wàn)個(gè)
    缺點(diǎn):

  • 服務(wù)仍然是單點(diǎn)

  • 如果服務(wù)掛了,服務(wù)重啟起來(lái)之后,繼續(xù)生成ID可能會(huì)不連續(xù),中間出現(xiàn)空洞(服務(wù)內(nèi)存是保存著0,1,2,3,4,數(shù)據(jù)庫(kù)中max-id是4,分配到3時(shí),服務(wù)重啟了,下次會(huì)從5開(kāi)始分配,3和4就成了空洞,不過(guò)這個(gè)問(wèn)題也不大)
    雖然每秒可以生成幾萬(wàn)幾十萬(wàn)個(gè)ID,但畢竟還是有性能上限,無(wú)法進(jìn)行水平擴(kuò)展

改進(jìn)方案
  • 單點(diǎn)服務(wù)的常用高可用優(yōu)化方案是“備用服務(wù)”,也叫“影子服務(wù)”,所以我們能用以下方法優(yōu)化上述缺點(diǎn):

常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別

如上圖,對(duì)外提供的服務(wù)是主服務(wù),有一個(gè)影子服務(wù)時(shí)刻處于備用狀態(tài),當(dāng)主服務(wù)掛了的時(shí)候影子服務(wù)頂上。這個(gè)切換的過(guò)程對(duì)調(diào)用方是透明的,可以自動(dòng)完成,常用的技術(shù)是 vip+keepalived。另外,id generate service 也可以進(jìn)行水平擴(kuò)展,以解決上述缺點(diǎn),但會(huì)引發(fā)一致性問(wèn)題。

方法三:uuid / guid

不管是通過(guò)數(shù)據(jù)庫(kù),還是通過(guò)服務(wù)來(lái)生成ID,業(yè)務(wù)方Application都需要進(jìn)行一次遠(yuǎn)程調(diào)用,比較耗時(shí)。uuid是一種常見(jiàn)的本地生成ID的方法。

UUID uuid = UUID.randomUUID();

優(yōu)點(diǎn):

  • 本地生成ID,不需要進(jìn)行遠(yuǎn)程調(diào)用,時(shí)延低

  • 擴(kuò)展性好,基本可以認(rèn)為沒(méi)有性能上限
    缺點(diǎn):

  • 無(wú)法保證趨勢(shì)遞增

  • uuid過(guò)長(zhǎng),往往用字符串表示,作為主鍵建立索引查詢(xún)效率低,常見(jiàn)優(yōu)化方案為“轉(zhuǎn)化為兩個(gè)uint64整數(shù)存儲(chǔ)”或者“折半存儲(chǔ)”(折半后不能保證唯一性)

方法四:取當(dāng)前毫秒數(shù)

uuid是一個(gè)本地算法,生成性能高,但無(wú)法保證趨勢(shì)遞增,且作為字符串ID檢索效率低,有沒(méi)有一種能保證遞增的本地算法呢?- 取當(dāng)前毫秒數(shù)是一種常見(jiàn)方案。
優(yōu)點(diǎn):

  • 本地生成ID,不需要進(jìn)行遠(yuǎn)程調(diào)用,時(shí)延低

  • 生成的ID趨勢(shì)遞增

  • 生成的ID是整數(shù),建立索引后查詢(xún)效率高
    缺點(diǎn):

  • 如果并發(fā)量超過(guò)1000,會(huì)生成重復(fù)的ID

  • 這個(gè)缺點(diǎn)要了命了,不能保證ID的唯一性。當(dāng)然,使用微秒可以降低沖突概率,但每秒最多只能生成1000000個(gè)ID,再多的話(huà)就一定會(huì)沖突了,所以使用微秒并不從根本上解決問(wèn)題。

方法五:使用 Redis 來(lái)生成 id

當(dāng)使用數(shù)據(jù)庫(kù)來(lái)生成ID性能不夠要求的時(shí)候,我們可以嘗試使用Redis來(lái)生成ID。這主要依賴(lài)于Redis是單線(xiàn)程的,所以也可以用生成全局唯一的ID??梢杂肦edis的原子操作 INCR 和 INCRBY 來(lái)實(shí)現(xiàn)。
優(yōu)點(diǎn):

  • 依賴(lài)于數(shù)據(jù)庫(kù),靈活方便,且性能優(yōu)于數(shù)據(jù)庫(kù)。

  • 數(shù)字ID天然排序,對(duì)分頁(yè)或者需要排序的結(jié)果很有幫助。
    缺點(diǎn):

  • 如果系統(tǒng)中沒(méi)有Redis,還需要引入新的組件,增加系統(tǒng)復(fù)雜度。

  • 需要編碼和配置的工作量比較大。

方法六:Twitter 開(kāi)源的 Snowflake 算法

snowflake 是 twitter 開(kāi)源的分布式ID生成算法,其核心思想為,一個(gè)long型的ID:

  • 41 bit 作為毫秒數(shù) - 41位的長(zhǎng)度可以使用69年

  • 10 bit 作為機(jī)器編號(hào) (5個(gè)bit是數(shù)據(jù)中心,5個(gè)bit的機(jī)器ID) - 10位的長(zhǎng)度最多支持部署1024個(gè)節(jié)點(diǎn)

  • 12 bit 作為毫秒內(nèi)序列號(hào) - 12位的計(jì)數(shù)順序號(hào)支持每個(gè)節(jié)點(diǎn)每毫秒產(chǎn)生4096個(gè)ID序號(hào)

常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別

算法單機(jī)每秒內(nèi)理論上最多可以生成1000*(2^12),也就是400W的ID,完全能滿(mǎn)足業(yè)務(wù)的需求。

“常見(jiàn)分布式唯一ID生成策略有哪些區(qū)別”的內(nèi)容就介紹到這里了,感謝大家的閱讀。如果想了解更多行業(yè)相關(guān)的知識(shí)可以關(guān)注億速云網(wǎng)站,小編將為大家輸出更多高質(zhì)量的實(shí)用文章!

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI