溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Redis瘦身的示例分析

發(fā)布時間:2021-05-27 10:30:11 來源:億速云 閱讀:159 作者:小新 欄目:開發(fā)技術(shù)

這篇文章主要介紹Redis瘦身的示例分析,文中介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們一定要看完!

Redis內(nèi)存回收

Redis 服務(wù)器的最大占用內(nèi)存量由配置項 maxmemory 決定,我們可以通過 config set maxmemory 2GB 的格式來配置。一旦 Redis 內(nèi)存滿,所有引起內(nèi)存增加的操作都會被返回 error。作為專業(yè) Redis 服務(wù)器我們通常將此項設(shè)置為0,以服務(wù)器系統(tǒng)內(nèi)存來作為限制;

那么 Redis 使用內(nèi)存達到了上限怎么辦?Redis 為我們提供了幾種選項以自動回收內(nèi)存,可以通過配置項 maxmemory-policy 來配置;

  • noeviction 不回收;

  • allkeys-lru 從所有鍵中刪除最近最少使用的鍵;

  • volatile-lru 從設(shè)置了過期時間的鍵中刪除最近最少使用的鍵;

  • allkeys-random 從所有鍵中隨機刪除;

  • volatile-random 從設(shè)置了過期時間的鍵中隨機刪除;

  • volatile-ttl 從設(shè)置了過期時間的鍵中選擇存活時間最短的鍵刪除;

最大內(nèi)存回收策略需要根據(jù)業(yè)務(wù)來配置,如果純粹做緩存,allkeys-lru無疑是最合適的。如果存儲了稍微重要的數(shù)據(jù),為了防止 Redis 誤刪一些重要鍵,則需要選用 noeviction;

allkeys-lru、allkeys-random 在內(nèi)存滿時都有鍵可刪,可以騰出內(nèi)存,但如果配置了其他的策略,數(shù)據(jù)庫用久了(根據(jù)業(yè)務(wù)量),隨著業(yè)務(wù)發(fā)展和數(shù)據(jù)積累,通常會累積到到服務(wù)器內(nèi)存占用率高,利用率低的情況,則可能會遇到內(nèi)存占用滿的問題。

問題原由

產(chǎn)生問題的原因有:

持久鍵廢棄

這是導(dǎo)致此問題的最常見情況。

有時候是開發(fā)人員的鍋,開發(fā)不規(guī)范,未給有時效性的鍵設(shè)置過期時間,后續(xù)又不進行手動刪除,鍵就成為無人管的孤兒鍵了。

還可能是整個業(yè)務(wù)慢慢被廢棄,不知道哪一天起,業(yè)務(wù)整體已不再維護了,一批鍵自然也就沒用了。比這更嚴重的是,如果使用 List 傳遞數(shù)據(jù),消費進程已被停止,但生產(chǎn)進程未同步停止,還在往 Redis 里寫數(shù)據(jù)。

過期鍵未回收

這個原因首先要談到 Redis 的兩種過期鍵刪除策略:

  • 惰性刪除:在讀取鍵時發(fā)現(xiàn)鍵已過期,則將其刪除。

  • 定期刪除:Redis 會從所有設(shè)置了過期時間的鍵中選取 100 個,刪除已過期的鍵,如果已過期的鍵超過 25 個,則再次進行此操作。 此刪除操作由配置項 hz 決定,Redis 默認每秒進行 10 次;

如果我們產(chǎn)生過期鍵的速度很快,最多可導(dǎo)致 Redis 25% 的過期鍵沒有被及時刪除。

遍歷清除垃圾鍵

由上,明白了問題產(chǎn)生的原因,解決 Redis 內(nèi)存滿的方法就明確了:清除這些垃圾鍵。 于是就面臨著兩個問題:

如何遍歷鍵

對于查找鍵,我們首先想到的是 KEYS,但 KEYS 的時間復(fù)雜度是O(n),n 是 Redis 內(nèi)鍵的總數(shù),如果 Redis 內(nèi)鍵很多還是會有性能問題,導(dǎo)致其他命令被阻塞的。

這里介紹一個鍵遍歷命令: SCAN。

SCAN cursor:

0 => cursor, // cursor = 0 遍歷結(jié)束
1 => array(key1, key2...)

需要注意的是 SCAN 命令是在版本2.8.0 加入的,如果是之前的版本,可以考慮解析 Redis 的 RDB 文件來獲取所有的鍵。

如何判斷鍵是否垃圾

我們有三種異常鍵需要處理:

  • 過期鍵:這些鍵會在被 SCAN 到時被自動刪除,不再考慮。如果是解析 RDB 文件獲取到的鍵,在查詢時也會被自動刪除;

  • 長時間未讀寫的鍵,很可能是業(yè)務(wù)不再需要的鍵;

  • 占用大量內(nèi)存的鍵,有可能是在不停地寫,但未消費。

這里介紹 Redis 的另一個命令 OBJECT,使用它可以從內(nèi)部查看 key 對象的狀態(tài)。使用 OBJECT IDLETIME key 來獲取 key 的閑置時間,我們可以判斷 key 閑置時間大于一個時間段(根據(jù)業(yè)務(wù)自定)的為已廢棄。

此外還能使用 OBJECT REFCOUNT key獲取 key 引用所儲存的值的次數(shù),OBJECT ENCODING key 獲取 key 儲存的值所使用的內(nèi)部表示。

獲取鍵大小

而獲取 Redis 某鍵占用內(nèi)存大小,則通過另一個命令 DEBUG OBJECT 來獲取,此命令會返回比OBJECT命令更詳細的內(nèi)部數(shù)據(jù)。

DEBUG OBJECT test
Value at:0x7fb0ee16ebd0 refcount:1 encoding:embstr serializedlength:6 lru:12362780 lru_seconds_idle:4

結(jié)果包括內(nèi)存地址、引用數(shù)、內(nèi)部編碼表示、序列化后的長度、最近最少使用標(biāo)識值,閑置時間,我們可以解析此結(jié)果串來獲取對應(yīng)的數(shù)據(jù)。

需要注意,key 作為復(fù)合鍵擁有大量字段時使用 DEBUG 命令計算內(nèi)存會使 Redis 阻塞較長時間,且 Redis 官方并不建議在客戶端使用此命令。

我們也可以先使用 TYPE key 獲取鍵的類型,再根據(jù)類型獲取其鍵的大小,如對字符串使用LEN,對 哈希表使用HLEN。

要注意在刪除特別大的復(fù)合鍵時,建議先逐步清空鍵內(nèi)的字段,防止因字段過多,Redis 阻塞較長時間。

管道加速

Redis 支持 pipeline 管道技術(shù),一次 請求/響應(yīng) 服務(wù)器能實現(xiàn)處理并響應(yīng)多個請求。這樣就可以將多個命令同時發(fā)送到服務(wù)器,不等待回復(fù),直接在最后獲取多個結(jié)果。

PHP 中使用 MULTI(Redis::PIPELINE) 和 EXEC() 命令來實現(xiàn)管道;

腳本實現(xiàn)

下面是個簡單的腳本:

$redis = new Redis();
$redis->connect('127.0.0.1');
do {
    $keys = $redis->scan($cursor);

    $pipeline = $redis->multi(Redis::PIPELINE);
    foreach ($keys as $key) {
        $idle_time = $redis->object('idletime', $key);
        if ($idle_time > 180 * 24 * 3600) {
            $pipeline->del($key);
        }
        // todo 判斷類型進而判斷占用內(nèi)存大小,再刪除
    }
    $pipeline->exec();
} while ($cursor != 0);

從根源避免問題

以上的腳本肯定也會在刪除鍵時影響 Redis 的效率,最好的情況還是從根源就避免此類情況,以下是一些建議:

  • 規(guī)范化開發(fā);

  • 首先是鍵命名要規(guī)范,讓人見名知義,這樣在人工排錯或刪除時也有判斷依據(jù),然后最好有完善的 Redis 鍵文檔,以保證業(yè)務(wù)在很長時間,經(jīng)手多人后也能資料可查。

  • 使用 HashSet 替代 Key-Value;

  • 將業(yè)務(wù)中某一族的鍵以 HashSet 的方式存儲,以替代普通的 key-value 類型。不僅可以省去為每個鍵設(shè)置前綴以節(jié)約內(nèi)存,也便于統(tǒng)一管理。

  • 有時效性的鍵注意設(shè)置過期時間;

  • 合理設(shè)置定時清除過期鍵頻率 hz,在 Redis 不做多余操作的情況下,使過期鍵盡量能被刪除;

  • 做好 Redis 內(nèi)存的監(jiān)控,在達到某個閾值時查找問題并解決。

以上是“Redis瘦身的示例分析”這篇文章的所有內(nèi)容,感謝各位的閱讀!希望分享的內(nèi)容對大家有幫助,更多相關(guān)知識,歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI