溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Redis如何節(jié)約內(nèi)存

發(fā)布時間:2022-01-05 17:52:34 來源:億速云 閱讀:103 作者:小新 欄目:大數(shù)據(jù)

這篇文章給大家分享的是有關(guān)Redis如何節(jié)約內(nèi)存的內(nèi)容。小編覺得挺實用的,因此分享給大家做個參考,一起跟隨小編過來看看吧。

首先,這個通過圖片ID反查用戶UID的應用有以下幾點需求:

  • 查詢速度要足夠快

  • 數(shù)據(jù)要能全部放到內(nèi)存里,最好是一臺EC2的 high-memory 機型就能存儲(17GB或者34GB的,68GB的太浪費了)

  • 支持持久化,這樣在服務器重啟后不需要再預熱

首先否定了數(shù)據(jù)庫存儲的方案,他們保持了KISS原則(Keep It Simple and Stupid),因為這個應用根本用不到數(shù)據(jù)庫的update功能,事務功能和關(guān)聯(lián)查詢等等牛X功能,所以不必為這些用不到的功能去選擇維護一個數(shù)據(jù)庫。

于是他們選擇了Redis,Redis是一個支持持久化的內(nèi)存數(shù)據(jù)庫,所有的數(shù)據(jù)都被存儲在內(nèi)存中(忘掉VM吧),而最簡單的實現(xiàn)就是使用Redis的String結(jié)構(gòu)來做一個key-value存儲就行了。像這樣:

SET media:1155315 939
GET media:1155315
> 939

其中1155315是圖片ID,939是用戶ID,我們將每一張圖片ID為作key,用戶uid作為value來存成key-value對。然后他們進行 了測試,將數(shù)據(jù)按上面的方法存儲,1,000,000數(shù)據(jù)會用掉70MB內(nèi)存,300,000,000張照片就會用掉21GB的內(nèi)存。對比預算的17GB 還是超支了。

NoSQLFan:其實這里我們可以看到一個優(yōu)化點,我們可以將key值前面相同的media去掉,只存數(shù)字,這樣key的長度就減少了,減少key值對內(nèi)存的開銷【注:Redis的key值不會做字符串到數(shù)字的轉(zhuǎn)換,所以這里節(jié)省的,僅僅是media:這6個字節(jié)的開銷】。經(jīng)過實驗,內(nèi)存占用會降到50MB,總的內(nèi)存占用是15GB,是滿足需求的,但是Instagram后面的改進任然有必要)

于是Instagram的開發(fā)者向Redis的開發(fā)者之一Pieter Noordhuis詢問優(yōu)化方案,得到的回復是使用Hash結(jié)構(gòu)。具體的做法就是將數(shù)據(jù)分段,每一段使用一個Hash結(jié)構(gòu)存儲,由于Hash結(jié)構(gòu)會在單個Hash元素在不足一定數(shù)量時進行壓縮存儲,所以可以大量節(jié)約內(nèi)存。這一點在上面的String結(jié)構(gòu)里是不存在的。而這個一定數(shù)量是由配置文件中的hash-zipmap-max-entries參數(shù)來控制的。經(jīng)過開發(fā)者們的實驗,將hash-zipmap-max-entries設(shè)置為1000時,性能比較好,超過1000后HSET命令就會導致CPU消耗變得非常大。

于是他們改變了方案,將數(shù)據(jù)存成如下結(jié)構(gòu):

HSET "mediabucket:1155" "1155315" "939"
HGET "mediabucket:1155" "1155315"
> "939"

通過取7位的圖片ID的前四位為Hash結(jié)構(gòu)的key值,保證了每個Hash內(nèi)部只包含3位的key,也就是1000個。

再做一次實驗,結(jié)果是每1,000,000個key只消耗了16MB的內(nèi)存??們?nèi)存使用也降到了5GB,滿足了應用需求。

(NoSQLFan: 同樣的,這里我們還是可以再進行優(yōu)化,首先是將Hash結(jié)構(gòu)的key值變成純數(shù)字,這樣key長度減少了12個字節(jié),其次是將Hash結(jié)構(gòu)中的 subkey值變成三位數(shù),這又減少了4個字節(jié)的開銷,如下所示。經(jīng)過實驗,內(nèi)存占用量會降到10MB,總內(nèi)存占用為3GB)

HSET "1155" "315" "939"
HGET "1155" "315"
> "939"

感謝各位的閱讀!關(guān)于“Redis如何節(jié)約內(nèi)存”這篇文章就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,讓大家可以學到更多知識,如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI