溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Memcache存儲機制與指令匯總

發(fā)布時間:2020-10-16 05:28:31 來源:網(wǎng)絡(luò) 閱讀:270 作者:鄒君安 欄目:建站服務(wù)器

1、memcache基本簡介

  memcached是高性能的分布式內(nèi)存緩存服務(wù)器。一般的使用目的是,通過緩存數(shù)據(jù)庫查詢結(jié)果,減少數(shù)據(jù)庫訪問次數(shù),以提高動態(tài)Web應(yīng)用的速度、提高可擴展性。

Memcache的運行圖:

Memcache存儲機制與指令匯總

Memcache的特征

memcached作為高速運行的分布式緩存服務(wù)器,具有以下的特點。

  1、基于C/S架構(gòu)協(xié)議簡單

  memcached的服務(wù)器客戶端通信并不使用復(fù)雜的XML等格式,而使用簡單的基于文本行的協(xié)議。 因此,通過telnet也能在memcached上保存數(shù)據(jù)、取得數(shù)據(jù)。

  2、基于libevent的事件處理

  libevent是個程序庫,它將Linux的epoll、BSD類操作系統(tǒng)的kqueue等事件處理功能封裝成統(tǒng)一的接口。即使對服務(wù)器的連接數(shù)增加,也能發(fā)揮O(1)的性能。memcached使用這個libevent庫,因此 能在Linux、BSD、Solaris等操作系統(tǒng)上發(fā)揮其高性能。

  3、內(nèi)置內(nèi)存存儲方式

  為了提高性能,memcached中保存的數(shù)據(jù)都存儲在memcached內(nèi)置的內(nèi)存存儲空間中。由于數(shù)據(jù)僅存在于內(nèi)存中,因此重啟memcached、重啟操作系統(tǒng)會導(dǎo)致全部數(shù)據(jù)消失。另外,內(nèi)容容量達到指值之后,就基于LRU(Least Recently Used)算法自動刪除不使用的緩存。memcached本身是為緩存 而設(shè)計的服務(wù)器,因此并沒有過多考慮數(shù)據(jù)的永久性問題。

  4、memcached不互相通信的分布式

  memcached盡管是“分布式”緩存服務(wù)器,但服務(wù)器端并沒有分布式功能。各個memcached不會互 相通信以共享信息。那么,怎樣進行分布式呢?這完全取決于客戶端的實現(xiàn)。(如下圖所示)

Memcache存儲機制與指令匯總

 

回到頂部

2、理解memcache的內(nèi)存存儲

回到頂部

  2.1、存儲機制

  Memcache采用的是Slab Allocator方式進行存儲數(shù)據(jù)。這一機制可以很好的整理內(nèi)存,以便重復(fù)利用,從而解決了內(nèi)存碎片的問題。在該機制出現(xiàn)以前,內(nèi)存的分配是通過對所有記錄簡單地進行malloc和free來進行的。但是,這種方式會導(dǎo)致內(nèi)存碎片,加重操作系統(tǒng)內(nèi)存管理器的負擔,最壞的情況下,會導(dǎo)致操作系統(tǒng)比memcached進程本身還慢。

  2.2Slab Allocator基本原理

  1、按照預(yù)先規(guī)定的大小,將分配的內(nèi)存以page(默認每個page為1M)為單位分為特定的塊(chunk),并且把相同大小的chunk分成組(chunk的集合);

  2、存儲數(shù)據(jù)時,將會尋找與value大小相近的chunk區(qū)域進行存儲;

  3、內(nèi)存一旦以page的形式分配出去,在重啟前不會被回收或者重新分配,以解決內(nèi)存碎片問題。(分配的內(nèi)存不會釋放,而是重復(fù)利用)

回到頂部

  2.3、理解四個名詞

  【可參考下面的形象解析圖進行理解】

  Slab

  用于表示存儲的最大size數(shù)據(jù),僅僅只是用于定義(通俗的講就是表示可以存儲數(shù)據(jù)大小的范圍)。默認情況下,前后兩個slab表示存儲的size以1.25倍進行增長。例如slab1為96字節(jié),slab2為120字節(jié)

  Page

  分配給Slab的內(nèi)存空間,默認為1MB。分給Slab后將會根據(jù)slab的大小切割成chunk

  Chunk

  用于緩存記錄的內(nèi)存空間

  Slab calss

  特定大小的Chunk集合

回到頂部

  2.4、Slab的內(nèi)存分配具體過程

  Memcached在啟動時通過-m參數(shù)指定最大使用內(nèi)存,但是這個不會一啟動就占用完,而是逐步分配給各slab的。如果一個新的數(shù)據(jù)要被存放,首先選擇一個合適的slab,然后查看該slab是否還有空閑的chunk,如果有則直接存放進去;如果沒有則要進行申請,slab申請內(nèi)存時以page為單位,無論大小為多少,都會有1M大小的page被分配給該slab(該page不會被回收或者重新分配,永遠都屬于該slab)。申請到page后,slab會將這個page的內(nèi)存按chunk的大小進行切分,這樣就變成了一個chunk的數(shù)組,再從這個chunk數(shù)組中選擇一個用于存儲數(shù)據(jù)。若沒有空閑的page的時候,則會對改slab進行LRU,而不是對整個memcache進行LRU。

形象解析圖:(這圖湊合湊合就好了哈,不是很專業(yè)2333

 Memcache存儲機制與指令匯總

回到頂部

  2.5、Memcache存儲具體過程

  Memcached并不是將所有大小的數(shù)據(jù)都放在一起的,而是預(yù)先將數(shù)據(jù)空間劃分為一系列slabs,每個slab只負責一定范圍內(nèi)的數(shù)據(jù)存儲。memcached根據(jù)收到的數(shù)據(jù)的大小,選擇最適合數(shù)據(jù)大小的slab。假若這個slab仍有空閑chunk的列表,根據(jù)該列表選擇chunk,然后將數(shù)據(jù)緩存于其中;若無則申請page(1M)【可以參考上面我畫的形象圖23333】

具體分析:從上面我們了解到slab的作用。Slab的增長因子默認以1.25倍進行增長。那為什么會導(dǎo)致有些不是1.25倍呢?答案是受小數(shù)的影響,你可以使用-f int測試個整數(shù)增長因子看看效果?!竞竺婢唧w講解】

以下圖進行分析,例如slab中112字節(jié),表示可以存儲大于88字節(jié)且小于或等于112字節(jié)的value。

Memcache存儲機制與指令匯總

 

回到頂部

  2.6、Slab Allocator缺點

  Slab Allocator解決了當初的內(nèi)存碎片問題,但新的機制也給memcached帶來了新的問題。

  這個問題就是,由于分配的是特定長度的內(nèi)存,因此無法有效利用分配的內(nèi)存。例如,將100字節(jié) 的數(shù)據(jù)緩存到128字節(jié)的chunk中,剩余的28字節(jié)就浪費了(如下圖所示)。

 Memcache存儲機制與指令匯總

回到頂部

  2.7、使用-f增長因子進行調(diào)優(yōu)

  增長因子就是相鄰兩個chunk之間的增長倍數(shù)。這個參數(shù)memcache默認是1.25,但是我們先采用整數(shù)2來測試一下,看看效果。

Memcache存儲機制與指令匯總

  由圖中我們可以看到chunk size的增長是2倍的。

  我們再來看看-f 1.25的效果

Memcache存儲機制與指令匯總

為什么1.25倍增長因子就不能保證全部相鄰的chunk size是1.25倍增長呢?

因為這些誤差是為了保持字節(jié)數(shù)的對齊而故意設(shè)置的。

兩圖一對比,可見,因子為1.25組間差距比因子為2時小得多,更適合緩存幾百字節(jié)的記錄。

因此,使用memcached時,最好是重新計算一下數(shù)據(jù)的預(yù)期平均長度,調(diào)整growth factor,以獲得最恰當?shù)脑O(shè)置。

 

回到頂部

3、memcache刪除機制

  從上面我們知道,已經(jīng)分配出去的內(nèi)存是不會被釋放回收的,記錄超時后,客戶端就無法看到該記錄,其存儲空間即可重復(fù)使用。

回到頂部

  3.1、Lazy Expiration

  memcached內(nèi)部不會監(jiān)視記錄是否過期,而是在get時查看記錄的時間戳,檢查記錄是否過期。這種技術(shù)被稱為lazy(惰性)expiration。因此,memcached不會在過期監(jiān)視上耗費CPU時間。

回到頂部

  3.2、LRU刪除

  memcached會優(yōu)先使用已超時的記錄的空間,但即使如此,也會發(fā)生追加新記錄時空間不足的情況, 此時就要使用名為Least Recently Used(LRU)機制來分配空間。顧名思義,這是刪除“最近最少 使用”的記錄的機制。因此,當memcached的內(nèi)存空間不足時(無法從slab class獲取到新的空間時),就從最近未被使用的記錄中搜索,并將其空間分配給新的記錄。從緩存的實用角度來看,該模型十分理想。

不過,有些情況下LRU機制反倒會造成麻煩。memcached啟動時通過“-M”參數(shù)可以禁止LRU。

Memcache存儲機制與指令匯總

  啟動時必須注意的是,小寫的“-m”選項是用來指定最大內(nèi)存大小的。不指定具體數(shù)值則使用默認 值64MB。

  指定“-M”參數(shù)啟動后,內(nèi)存用盡時memcached會返回錯誤。話說回來,memcached畢竟不是存儲器,而是緩存,所以推薦使用LRU。

 

回到頂部

4、啟動memcache參數(shù)

【黑體字的參數(shù)較為常用】

-p<num>

監(jiān)聽的TCP端口(默認:11211)

-U<num>

UDP監(jiān)聽端口(默認:11211 0關(guān)閉)

-d

以守護進程方式運行

-u<username>

指定用戶運行

-m<num>.

最大內(nèi)存使用,單位MB。默認64MB

-c<num>

最大同時連接數(shù),默認是1024

-v

輸出警告和錯誤消息

-vv

打印客戶端的請求和返回信息

-h

幫助信息

-l<ip>

綁定地址(默認任何ip地址都可以訪問)

-P<file>

將PID保存在file文件

-i

打印memcached和libevent版權(quán)信息

-M

禁止LRU策略,內(nèi)存耗盡時返回錯誤

-f<factor>

增長因子,默認1.25

-n<bytes>

初始chunk=key+suffix+value+32結(jié)構(gòu)體,默認48字節(jié)

-L

啟用大內(nèi)存頁,可以降低內(nèi)存浪費,改進性能

-l

調(diào)整分配slab頁的大小,默認1M,最小1k到128M

-t<num>

線程數(shù),默認4。由于memcached采用NIO,所以更多線程沒有太多作用

-R

每個event連接最大并發(fā)數(shù),默認20

-C

禁用CAS命令(可以禁止版本計數(shù),減少開銷)

-b

Set the backlog queue limit (default: 1024)

-B

Binding protocol-one of ascii, binary or auto (default)

-s<file>

UNIX socket

-a<mask>

access mask for UNIX socket, in octal (default: 0700)

回到頂部

5、Memcache指令匯總

 

指令

描述

例子

get key

#返回對應(yīng)的value

get mykey

set key 標識符 有效時間 長度

key不存在添加,存在更新

set mykey 0 60 5

add key標識符 有效時間 長度

#添加key-value值,返回stored/not_stored

add mykey 0 60 5

replace key標識符 有效時間 長度

#替換key中的value,key存在成功返回stored,key不存在失敗返回not_stored

replace mykey 0 60 5

append key標識符 有效時間 長度

#追加key中的value值,成功返回stored,失敗返回not_stored

append mykey 0 60 5

prepend key標識符 有效時間 長度

#前置追加key中的value值,成功返回stored,失敗返回not_stored

 

prepend mykey 0 60 5

incr key num

#給key中的value增加num。若key中不是數(shù)字,則將使用num替換value值。返回增加后的value

Incre mykey 1

decr

#同上

同上

delete key [key2…]

刪除一個或者多個key-value。成功刪除返回deleted,不存在失敗則返回not_found

delete mykey

flush_all [timeount]

#清除所有[timeout時間內(nèi)的]鍵值,但不會刪除items,所以memcache依舊占用內(nèi)存

flush_all 20

version

#返回版本號

version

verbosity

#日志級別

verbosity

quit

#關(guān)閉連接

quit

stats

#返回Memcache通用統(tǒng)計信息

stats

stats slabs

#返回Memcache運行期間創(chuàng)建的每個slab的信息

stats slabs

stats items

#返回各個slab中item的個數(shù),和最老的item秒數(shù)

stats items

stats malloc

#顯示內(nèi)存分配數(shù)據(jù)

stats malloc

stats detail [on|off|dump]

#on:打開詳細操作記錄、off:關(guān)閉詳細操作記錄、dump顯示詳細操作記錄(每一個鍵的get、set、hit、del的次數(shù))

stats detail on

stats detail off

stats detail dump

stats cachedump slab_id limit_num

#顯示slab_id中前l(fā)imit_num個key

stats cachedump 1 2

stats reset

#清空統(tǒng)計數(shù)據(jù)

stats reset

stats settings

#查看配置設(shè)置

stats settings

stats sizes

#展示了固定chunk大小中的items的數(shù)量

Stats sizes

注意:標識符:一個十六進制無符號的整數(shù)(以十進制來表示),需和數(shù)據(jù)一起存儲,get的時候一起返回

ps:最近老是思考以后的方向,感覺有點迷茫,都不能好好學(xué)習(xí)了。要盡快調(diào)整好心態(tài),切勿浮躁,欲速則不達。 

 

 

參考資料:

1、Memcached原理與使用詳解            作者:heiyeluren(黑夜路人)

  http://blog.csdn.net/heiyeshuwu

2 、memcached 全面剖析                作者:長野雅廣、前坂徹   charlee 譯

3、Memcache 內(nèi)存分配策略和性能(使用)狀態(tài)檢查  作者:jyzhou

 


向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關(guān)證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI