您好,登錄后才能下訂單哦!
Snowflake的使用方法以及示例分析,很多新手對此不是很清楚,為了幫助大家解決這個難題,下面小編將為大家詳細(xì)講解,有這方面需求的人可以來學(xué)習(xí)下,希望你能有所收獲。
Snowflake,雪花算法是由Twitter開源的分布式ID生成算法,以劃分命名空間的方式將 64-bit位分割成多個部分,每個部分代表不同的含義。而 Java中64bit的整數(shù)是Long類型,所以在 Java 中 SnowFlake 算法生成的 ID 就是 long 來存儲的。
第1位占用1bit,其值始終是0,可看做是符號位不使用。
第2位開始的41位是時間戳,41-bit位可表示2^41個數(shù),每個數(shù)代表毫秒,那么雪花算法可用的時間年限是(1L<<41)/(1000L360024*365)=69 年的時間。
中間的10-bit位可表示機器數(shù),即2^10 = 1024臺機器,但是一般情況下我們不會部署這么臺機器。如果我們對IDC(互聯(lián)網(wǎng)數(shù)據(jù)中心)有需求,還可以將 10-bit 分 5-bit 給 IDC,分5-bit給工作機器。這樣就可以表示32個IDC,每個IDC下可以有32臺機器,具體的劃分可以根據(jù)自身需求定義。
最后12-bit位是自增序列,可表示2^12 = 4096個數(shù)。
這樣的劃分之后相當(dāng)于在一毫秒一個數(shù)據(jù)中心的一臺機器上可產(chǎn)生4096個有序的不重復(fù)的ID。但是我們 IDC 和機器數(shù)肯定不止一個,所以毫秒內(nèi)能生成的有序ID數(shù)是翻倍的。
Snowflake 的Twitter官方原版是用Scala寫的,對Scala語言有研究的同學(xué)可以去閱讀下,以下是 Java 版本的寫法。
package com.xxx.util; /** * Twitter_Snowflake<br> * SnowFlake的結(jié)構(gòu)如下(每部分用-分開):<br> * 0 - 0000000000 0000000000 0000000000 0000000000 0 - 00000 - 00000 - 000000000000 <br> * 1位標(biāo)識,由于long基本類型在Java中是帶符號的,最高位是符號位,正數(shù)是0,負(fù)數(shù)是1,所以id一般是正數(shù),最高位是0<br> * 41位時間截(毫秒級),注意,41位時間截不是存儲當(dāng)前時間的時間截,而是存儲時間截的差值(當(dāng)前時間截 - 開始時間截) * 得到的值),這里的的開始時間截,一般是我們的id生成器開始使用的時間,由我們程序來指定的(如下下面程序IdWorker類的startTime屬性)。41位的時間截,可以使用69年,年T = (1L << 41) / (1000L * 60 * 60 * 24 * 365) = 69<br> * 10位的數(shù)據(jù)機器位,可以部署在1024個節(jié)點,包括5位datacenterId和5位workerId<br> * 12位序列,毫秒內(nèi)的計數(shù),12位的計數(shù)順序號支持每個節(jié)點每毫秒(同一機器,同一時間截)產(chǎn)生4096個ID序號<br> * 加起來剛好64位,為一個Long型。<br> * SnowFlake的優(yōu)點是,整體上按照時間自增排序,并且整個分布式系統(tǒng)內(nèi)不會產(chǎn)生ID碰撞(由數(shù)據(jù)中心ID和機器ID作區(qū)分),并且效率較高,經(jīng)測試,SnowFlake每秒能夠產(chǎn)生26萬ID左右。 * * @author wsh * @version 1.0 * @since JDK1.8 * @date 2019/7/31 */ public class SnowflakeDistributeId { // ==============================Fields=========================================== /** * 開始時間截 (2015-01-01) */ private final long twepoch = 1420041600000L; /** * 機器id所占的位數(shù) */ private final long workerIdBits = 5L; /** * 數(shù)據(jù)標(biāo)識id所占的位數(shù) */ private final long datacenterIdBits = 5L; /** * 支持的最大機器id,結(jié)果是31 (這個移位算法可以很快的計算出幾位二進(jìn)制數(shù)所能表示的最大十進(jìn)制數(shù)) */ private final long maxWorkerId = -1L ^ (-1L << workerIdBits); /** * 支持的最大數(shù)據(jù)標(biāo)識id,結(jié)果是31 */ private final long maxDatacenterId = -1L ^ (-1L << datacenterIdBits); /** * 序列在id中占的位數(shù) */ private final long sequenceBits = 12L; /** * 機器ID向左移12位 */ private final long workerIdShift = sequenceBits; /** * 數(shù)據(jù)標(biāo)識id向左移17位(12+5) */ private final long datacenterIdShift = sequenceBits + workerIdBits; /** * 時間截向左移22位(5+5+12) */ private final long timestampLeftShift = sequenceBits + workerIdBits + datacenterIdBits; /** * 生成序列的掩碼,這里為4095 (0b111111111111=0xfff=4095) */ private final long sequenceMask = -1L ^ (-1L << sequenceBits); /** * 工作機器ID(0~31) */ private long workerId; /** * 數(shù)據(jù)中心ID(0~31) */ private long datacenterId; /** * 毫秒內(nèi)序列(0~4095) */ private long sequence = 0L; /** * 上次生成ID的時間截 */ private long lastTimestamp = -1L; //==============================Constructors===================================== /** * 構(gòu)造函數(shù) * * @param workerId 工作ID (0~31) * @param datacenterId 數(shù)據(jù)中心ID (0~31) */ public SnowflakeDistributeId(long workerId, long datacenterId) { if (workerId > maxWorkerId || workerId < 0) { throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId)); } if (datacenterId > maxDatacenterId || datacenterId < 0) { throw new IllegalArgumentException(String.format("datacenter Id can't be greater than %d or less than 0", maxDatacenterId)); } this.workerId = workerId; this.datacenterId = datacenterId; } // ==============================Methods========================================== /** * 獲得下一個ID (該方法是線程安全的) * * @return SnowflakeId */ public synchronized long nextId() { long timestamp = timeGen(); //如果當(dāng)前時間小于上一次ID生成的時間戳,說明系統(tǒng)時鐘回退過這個時候應(yīng)當(dāng)拋出異常 if (timestamp < lastTimestamp) { throw new RuntimeException( String.format("Clock moved backwards. Refusing to generate id for %d milliseconds", lastTimestamp - timestamp)); } //如果是同一時間生成的,則進(jìn)行毫秒內(nèi)序列 if (lastTimestamp == timestamp) { sequence = (sequence + 1) & sequenceMask; //毫秒內(nèi)序列溢出 if (sequence == 0) { //阻塞到下一個毫秒,獲得新的時間戳 timestamp = tilNextMillis(lastTimestamp); } } //時間戳改變,毫秒內(nèi)序列重置 else { sequence = 0L; } //上次生成ID的時間截 lastTimestamp = timestamp; //移位并通過或運算拼到一起組成64位的ID return ((timestamp - twepoch) << timestampLeftShift) // | (datacenterId << datacenterIdShift) // | (workerId << workerIdShift) // | sequence; } /** * 阻塞到下一個毫秒,直到獲得新的時間戳 * * @param lastTimestamp 上次生成ID的時間截 * @return 當(dāng)前時間戳 */ protected long tilNextMillis(long lastTimestamp) { long timestamp = timeGen(); while (timestamp <= lastTimestamp) { timestamp = timeGen(); } return timestamp; } /** * 返回以毫秒為單位的當(dāng)前時間 * * @return 當(dāng)前時間(毫秒) */ protected long timeGen() { return System.currentTimeMillis(); } }
測試的代碼如下
public static void main(String[] args) { SnowflakeDistributeId idWorker = new SnowflakeDistributeId(0, 0); for (int i = 0; i < 1000; i++) { long id = idWorker.nextId(); // System.out.println(Long.toBinaryString(id)); System.out.println(id); } }
雪花算法提供了一個很好的設(shè)計思想,雪花算法生成的ID是趨勢遞增,不依賴數(shù)據(jù)庫等第三方系統(tǒng),以服務(wù)的方式部署,穩(wěn)定性更高,生成ID的性能也是非常高的,而且可以根據(jù)自身業(yè)務(wù)特性分配bit位,非常靈活。
但是雪花算法強依賴機器時鐘,如果機器上時鐘回?fù)?,會?dǎo)致發(fā)號重復(fù)或者服務(wù)會處于不可用狀態(tài)。如果恰巧回退前生成過一些ID,而時間回退后,生成的ID就有可能重復(fù)。官方對于此并沒有給出解決方案,而是簡單的拋錯處理,這樣會造成在時間被追回之前的這段時間服務(wù)不可用。
時間戳:高位取從2018年1月1日到現(xiàn)在的毫秒數(shù),假設(shè)系統(tǒng)至少運行10年,那至少需要10年365天24小時3600秒1000毫秒=320*10^9,差不多預(yù)留39bit給毫秒數(shù)
業(yè)務(wù)線:8bit
機器:自動生成,預(yù)留10bit
毫秒內(nèi)序號:每秒的單機高峰并發(fā)量小于10W,即平均每毫秒的單機高峰并發(fā)量小于100,差不多預(yù)留7bit給每毫秒內(nèi)序列號。
時間戳 | 業(yè)務(wù)線 | 機器 | 毫秒內(nèi)序號 |
---|---|---|---|
timestamp | service | worker | sequence |
39 | 8 | 10 | 7 |
代碼如下:
SnowflakeIdGenerator.java
package com.wsh.common.util; import com.wsh.common.exception.IdsException; import java.net.InetAddress; import java.net.InterfaceAddress; import java.net.NetworkInterface; import java.net.SocketException; import java.util.List; import java.util.Random; /** * Snowflake算法改進(jìn)版 * * @author wsh * @version 1.0 * @date 2019/7/31 * @since JDK1.8 */ public class SnowflakeIdGenerator { /** * 業(yè)務(wù)線標(biāo)識id所占的位數(shù) **/ private final long serviceIdBits = 8L; /** * 業(yè)務(wù)線標(biāo)識支持的最大數(shù)據(jù)標(biāo)識id(這個移位算法可以很快的計算出幾位二進(jìn)制數(shù)所能表示的最大十進(jìn)制數(shù)) */ private final long maxServiceId = -1L ^ (-1L << serviceIdBits); private final long serviceId; /** * 機器id所占的位數(shù) **/ private final long workerIdBits = 10L; /** * 支持的最大機器id */ private final long maxWorkerId = -1L ^ (-1L << workerIdBits); private final long workerId; /** * 序列在id中占的位數(shù) **/ private final long sequenceBits = 7L; private final long sequenceMask = -1L ^ (-1L << sequenceBits); /** * 開始時間戳(2018年1月1日) **/ private final long twepoch = 1514736000000L; /** * 最后一次的時間戳 **/ private volatile long lastTimestamp = -1L; /** * 毫秒內(nèi)序列 **/ private volatile long sequence = 0L; /** * 隨機生成器 **/ private static volatile Random random = new Random(); /** * 機器id左移位數(shù) **/ private final long workerIdShift = sequenceBits; /** * 業(yè)務(wù)線id左移位數(shù) **/ private final long serviceIdShift = workerIdBits + sequenceBits; /** * 時間戳左移位數(shù) **/ private final long timestampLeftShift = serviceIdBits + workerIdBits + sequenceBits; public SnowflakeIdGenerator(long serviceId) { if ((serviceId > maxServiceId) || (serviceId < 0)) { throw new IllegalArgumentException(String.format("service Id can't be greater than %d or less than 0", maxServiceId)); } workerId = getWorkerId(); if ((workerId > maxWorkerId) || (workerId < 0)) { throw new IllegalArgumentException(String.format("worker Id can't be greater than %d or less than 0", maxWorkerId)); } this.serviceId = serviceId; } public synchronized long nextId() throws IdsException { long timestamp = System.currentTimeMillis(); if (timestamp < lastTimestamp) { throw new IdsException("Clock moved backwards. Refusing to generate id for " + ( lastTimestamp - timestamp) + " milliseconds."); } //如果是同一時間生成的,則進(jìn)行毫秒內(nèi)序列 if (lastTimestamp == timestamp) { sequence = (sequence + 1) & sequenceMask; if (sequence == 0) { timestamp = tilNextMillis(lastTimestamp); } } else { //跨毫秒時,序列號總是歸0,會導(dǎo)致序列號為0的ID比較多,導(dǎo)致生成的ID取模后不均勻,所以采用10以內(nèi)的隨機數(shù) sequence = random.nextInt(10) & sequenceMask; } //上次生成ID的時間截(設(shè)置最后時間戳) lastTimestamp = timestamp; //移位并通過或運算拼到一起組成64位的ID return ((timestamp - twepoch) << timestampLeftShift) //時間戳 | (serviceId << serviceIdShift) //業(yè)務(wù)線 | (workerId << workerIdShift) //機器 | sequence; //序號 } /** * 等待下一個毫秒的到來, 保證返回的毫秒數(shù)在參數(shù)lastTimestamp之后 * 不停獲得時間,直到大于最后時間 */ private long tilNextMillis(final long lastTimestamp) { long timestamp = System.currentTimeMillis(); while (timestamp <= lastTimestamp) { timestamp = System.currentTimeMillis(); } return timestamp; } /** * 根據(jù)機器的MAC地址獲取工作進(jìn)程Id,也可以使用機器IP獲取工作進(jìn)程Id,取最后兩個段,一共10個bit * 極端情況下,MAC地址后兩個段一樣,產(chǎn)品的工作進(jìn)程Id會一樣;再極端情況下,并發(fā)不大時,剛好跨毫秒,又剛好隨機出來的sequence一樣的話,產(chǎn)品的Id會重復(fù) * * @return * @throws IdsException */ protected long getWorkerId() throws IdsException { try { java.util.Enumeration<NetworkInterface> en = NetworkInterface.getNetworkInterfaces(); while (en.hasMoreElements()) { NetworkInterface iface = en.nextElement(); List<InterfaceAddress> addrs = iface.getInterfaceAddresses(); for (InterfaceAddress addr : addrs) { InetAddress ip = addr.getAddress(); NetworkInterface network = NetworkInterface.getByInetAddress(ip); if (network == null) { continue; } byte[] mac = network.getHardwareAddress(); if (mac == null) { continue; } long id = ((0x000000FF & (long) mac[mac.length - 1]) | (0x0000FF00 & (((long) mac[mac.length - 2]) << 8))) >> 11; if (id > maxWorkerId) { return new Random(maxWorkerId).nextInt(); } return id; } } return new Random(maxWorkerId).nextInt(); } catch (SocketException e) { throw new IdsException(e); } } /** * 獲取序號 * * @param id * @return */ public static Long getSequence(Long id) { String str = Long.toBinaryString(id); int size = str.length(); String sequenceBinary = str.substring(size - 7, size); return Long.parseLong(sequenceBinary, 2); } /** * 獲取機器 * * @param id * @return */ public static Long getWorker(Long id) { String str = Long.toBinaryString(id); int size = str.length(); String sequenceBinary = str.substring(size - 7 - 10, size - 7); return Long.parseLong(sequenceBinary, 2); } /** * 獲取業(yè)務(wù)線 * * @param id * @return */ public static Long getService(Long id) { String str = Long.toBinaryString(id); int size = str.length(); String sequenceBinary = str.substring(size - 7 - 10 - 8, size - 7 - 10); return Long.parseLong(sequenceBinary, 2); } }
IdsGen.java
package com.wsh.common.util; /** * ID生成器 * * @author wsh * @version 1.0 * @date 2019/7/31 * @since JDK1.8 */ public enum IdsGen { /** * 基礎(chǔ)公共 */ BASIC(0), /** * 業(yè)務(wù)服務(wù) */ BUSSINESS(1), /** * 其它 */ OTHER(255); private SnowflakeIdGenerator snowflakeIdGenerator; IdsGen(final int service) { snowflakeIdGenerator = new SnowflakeIdGenerator(service); } public long getIdGen() { return snowflakeIdGenerator.nextId(); } public String getIdGenStr() { return String.valueOf(snowflakeIdGenerator.nextId()); } }
Test.java
package com.wsh.common.util; /** * @author wsh * @version 1.0 * @date 2019/7/31 * @since JDK1.8 */ public class Test { public static void main(String[] args) { long t = System.currentTimeMillis(); for (int i = 0; i < 10000; i++) { System.out.println(IdsGen.BASIC.getIdGenStr()); } long t1 = System.currentTimeMillis(); System.out.println("耗時-->" + (t1 - t)); } }
缺點:
極端情況下,獲取的workerId可能會重復(fù),請看getWorkerId的注釋,后續(xù)可以改造為讀取配置文件,如果配置文件讀取不到再自動生成
無法避免時間回?fù)?,比如潤?/p>
無法保證每個ID都不浪費
看完上述內(nèi)容是否對您有幫助呢?如果還想對相關(guān)知識有進(jìn)一步的了解或閱讀更多相關(guān)文章,請關(guān)注億速云行業(yè)資訊頻道,感謝您對億速云的支持。
免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。