mfs常見(jiàn)問(wèn)題翻譯(moosefs)

英文原文參見(jiàn)：

    https://moosefs.com/documentation/faq.html#26

找翻譯工具翻譯的，個(gè)人感覺(jué)還比較準(zhǔn)確，如有疏漏和錯(cuò)誤的地方，各位可留言說(shuō)明。

歡迎交流溝通：QQ 249016681  

-------------------------------------------------------------------------------------

經(jīng)常問(wèn)的問(wèn)題

目錄：

1、我們期望什么平均的寫入/讀取速度？

2、目標(biāo)設(shè)置是否影響寫入/讀取速度？

3、是否支持并發(fā)讀寫操作？

4、使用多少CPU / RAM資源？

5、是否可以在飛行中添加/刪除chunkserver和磁盤？

6、如何標(biāo)記要?jiǎng)h除的磁盤？

7、我對(duì)集群文件系統(tǒng)的經(jīng)驗(yàn)是元數(shù)據(jù)操作相當(dāng)慢。你是如何解決這個(gè)問(wèn)題的？

8、目錄大小的值在MooseFS上有什么意義？它與標(biāo)準(zhǔn)Linux ls -l輸出不同。為什么？

9、當(dāng)我在文件系統(tǒng)上執(zhí)行df -h時(shí)，結(jié)果與預(yù)期的相符，考慮到書面文件的實(shí)際大小。

10、我可以在MooseFS上保留源代碼嗎？為什么小文件占用的空間比預(yù)期的多？

11、Chunkservers和Metadata Server是否自行進(jìn)行校驗(yàn)和？

12、主服務(wù)器需要什么資源？

13、當(dāng)我刪除文件或目錄時(shí)，MooseFS大小不會(huì)改變。為什么？

14、當(dāng)我添加第三臺(tái)服務(wù)器作為額外的chunkserver，它看起來(lái)像系統(tǒng)開(kāi)始將數(shù)據(jù)復(fù)制到第三臺(tái)服務(wù)器，即使文件目標(biāo)仍設(shè)置為2。

15、MooseFS 64位兼容嗎？

16、我可以修改塊大小嗎？ 

17、如何知道文件是否已成功寫入MooseFS

18、MooseFS有什么限制（例如文件大小限制，文件系統(tǒng)大小限制，最大文件數(shù)，可以存儲(chǔ)在文件系統(tǒng)上）？

19、我可以為mfscgiserv設(shè)置HTTP基本身份驗(yàn)證嗎？

20、我可以在MooseFS上運(yùn)行郵件服務(wù)器應(yīng)用程序嗎？郵件服務(wù)器是一個(gè)非常繁忙的應(yīng)用程序與大量的小文件 - 我不會(huì)丟失任何文件？

21、有沒(méi)有對(duì)網(wǎng)絡(luò)，MTU或帶寬的建議？

22、MooseFS是否支持補(bǔ)充組？

23、MooseFS是否支持文件鎖定？

24、可以通過(guò)DHCP為IP地址分配IP地址嗎？

25、我的一些塊服務(wù)器占用了90％的空間，而其他的只有10％。為什么重新平衡過(guò)程需要這么長(zhǎng)時(shí)間？

26、我有Metalogger運(yùn)行 - 我應(yīng)該在主服務(wù)器上進(jìn)一步備份元數(shù)據(jù)文件嗎？

27、我認(rèn)為我的一個(gè)磁盤較慢/損壞。我該怎么找到？

28、如何找到主服務(wù)器PID？

29、Web界面顯示有一些具有目標(biāo)0的塊的副本。這是什么意思？

30、mfsmount報(bào)告的每個(gè)錯(cuò)誤信息都是一個(gè)嚴(yán)重問(wèn)題嗎？

31、如何驗(yàn)證MooseFS集群是否聯(lián)機(jī)？當(dāng)主服務(wù)器關(guān)閉時(shí)，mfsmount會(huì)發(fā)生什么？

32、我們期望什么平均的寫/讀速度？

1.除了常見(jiàn)的（對(duì)于大多數(shù)文件系統(tǒng)）的因素，例如：塊大小和訪問(wèn)類型（順序或隨機(jī)），MooseFS中的速度也取決于硬件性能。主要因素是硬盤性能和網(wǎng)絡(luò)容量和拓?fù)洌ňW(wǎng)絡(luò)延遲）。使用的硬盤性能越好，網(wǎng)絡(luò)的吞吐量越好，整個(gè)系統(tǒng)的性能越好。

2.目標(biāo)設(shè)置是否影響寫入/讀取速度？

一般來(lái)說(shuō)，沒(méi)有。在讀取文件的情況下，在某些情況下，高于一個(gè)目標(biāo)的目標(biāo)可能有助于加快讀取操作，即當(dāng)兩個(gè)客戶端訪問(wèn)目標(biāo)為2或更高的文件時(shí)，它們可以對(duì)不同的副本執(zhí)行讀取操作，從而具有所有可用的通過(guò)自己的方式 但平均而言，目標(biāo)設(shè)定不會(huì)以任何方式改變閱讀操作的速度。

同樣，寫入速度也可以忽略不計(jì)地受到目標(biāo)設(shè)定的影響。寫入目標(biāo)高于2的鏈接類似于：客戶端將數(shù)據(jù)發(fā)送到一個(gè)組塊服務(wù)器，并且組塊服務(wù)器同時(shí)讀取，寫入數(shù)據(jù)并將數(shù)據(jù)發(fā)送到另一個(gè)組塊服務(wù)器（這可能會(huì)將它們發(fā)送到下一個(gè)組件）實(shí)現(xiàn)目標(biāo)）。這樣一來(lái)，客戶端的輸入就不會(huì)發(fā)送多個(gè)副本，而且所有副本幾乎同時(shí)被寫入。我們的測(cè)試表明，寫入操作可以在1Gbps網(wǎng)絡(luò)中使用客戶端的所有可用帶寬。

3.是否支持并發(fā)讀寫操作？

所有讀取操作是并行的 - 同一時(shí)刻幾個(gè)客戶端同時(shí)讀取相同數(shù)據(jù)沒(méi)有任何問(wèn)題。寫操作是并行的，execpt操作在相同的塊（文件片段）上，由主服務(wù)器同步，因此需要是順序的。

4.使用多少CPU / RAM資源？

在我們的環(huán)境中（共有1個(gè)PiB總空間，3600萬(wàn)個(gè)文件，100個(gè)機(jī)器上的3800萬(wàn)個(gè)數(shù)據(jù)包，600萬(wàn)個(gè)文件夾），使用chunkserver CPU（通過(guò)常量文件傳輸）約為15-30％，chunkserver RAM通常消耗在100Mb和1GiB之間（取決于每個(gè)塊服務(wù)器上的塊數(shù)量）。主服務(wù)器消耗現(xiàn)代3.3 GHz CPU的約50％（每秒大約5000個(gè)文件系統(tǒng)操作，其中大約1500個(gè)是修改）和12GiB RAM。CPU負(fù)載取決于操作數(shù)量和RAM對(duì)文件和文件夾的總數(shù)，而不是文件本身的總大小。RAM使用率與文件系統(tǒng)中的條目數(shù)成比例，因?yàn)橹鞣?wù)器進(jìn)程將整個(gè)元數(shù)據(jù)保留在內(nèi)存中以獲得性能。我們主服務(wù)器上的HHD使用情況 22 GB。

5.是否可以在飛行中添加/刪除chunkserver和磁盤？

您可以即時(shí)添加/刪除大塊服務(wù)器。但請(qǐng)記住，如果此服務(wù)器包含文件系統(tǒng)中的塊的唯一副本，則斷開(kāi)連接服務(wù)器是不明智的（CGI監(jiān)視器將標(biāo)記為橙色）。您還可以斷開(kāi)（更改）單個(gè)硬盤驅(qū)動(dòng)器。此操作的方案將是：

標(biāo)記要?jiǎng)h除的磁盤（請(qǐng)參閱如何標(biāo)記磁盤以進(jìn)行刪除？）

重新加載chunkserver進(jìn)程

等待復(fù)制（在CGI監(jiān)視器中應(yīng)該沒(méi)有標(biāo)記為×××，橙色或紅色的“經(jīng)驗(yàn)”或“缺少”塊）

停止chunkserver進(jìn)程

刪除mfshdd.cfg中斷開(kāi)的磁盤的條目

停止chunkserver機(jī)器

刪除硬盤驅(qū)動(dòng)器

啟動(dòng)機(jī)器

啟動(dòng)chunkserver進(jìn)程

如果你有hotswap磁盤，你應(yīng)該遵循這些：

標(biāo)記要?jiǎng)h除的磁盤（請(qǐng)參閱如何標(biāo)記磁盤以進(jìn)行刪除？）

重新加載chunkserver進(jìn)程

等待復(fù)制（在CGI監(jiān)視器中應(yīng)該沒(méi)有標(biāo)記為×××，橙色或紅色的“經(jīng)驗(yàn)”或“缺少”塊）

刪除mfshdd.cfg中斷開(kāi)的磁盤的條目

重新加載chunkserver進(jìn)程

卸載磁盤

刪除硬盤驅(qū)動(dòng)器

如果按照上述步驟，客戶端計(jì)算機(jī)的工作不會(huì)中斷，MooseFS用戶將不會(huì)注意到整個(gè)操作。

6.如何標(biāo)記磁盤以進(jìn)行刪除？

當(dāng)您要標(biāo)記要從chunkserver中刪除的磁盤時(shí)，您需要編輯chunkserver的mfshdd.cfg配置文件，并在要?jiǎng)h除的磁盤的行的開(kāi)始處添加一個(gè)星號(hào)“ * ”。例如，在這個(gè)mfshdd.cfg中，我們標(biāo)記了“ / mnt / hdd ”進(jìn)行刪除：

/ mnt / hda 

/ mnt / hdb 

/ mnt / hdc 

* / mnt / hdd 

/ mnt / hde

更改mfshdd.cfg后，您需要重新加載chunkserver（在Linux Debian / Ubuntu上：service moosefs-pro-chunkserver reload）。

一旦將磁盤標(biāo)記為要?jiǎng)h除并且重新啟動(dòng)了chunkserver進(jìn)程，系統(tǒng)將會(huì)將存儲(chǔ)在此磁盤上的塊的相應(yīng)份數(shù)拷貝，以維持所需的“目標(biāo)”份數(shù)。

最后，在斷開(kāi)磁盤之前，您需要確認(rèn)其他磁盤上沒(méi)有“傳統(tǒng)”塊。這可以使用CGI監(jiān)視器完成。在“信息”選項(xiàng)卡中選擇“常規(guī)塊狀態(tài)矩陣”模式。

7.我對(duì)集群文件系統(tǒng)的經(jīng)驗(yàn)是元數(shù)據(jù)操作相當(dāng)慢。你是如何解決這個(gè)問(wèn)題的？

在研究和開(kāi)發(fā)過(guò)程中，我們還觀察到元數(shù)據(jù)操作緩慢的問(wèn)題。我們決定通過(guò)將文件系統(tǒng)結(jié)構(gòu)保留在元數(shù)據(jù)服務(wù)器上的RAM中來(lái)緩解一些速度問(wèn)題。這就是為什么元數(shù)據(jù)服務(wù)器增加了內(nèi)存需求。元數(shù)據(jù)經(jīng)常被刷新到主服務(wù)器上的文件。

另外，在CE版本中，元數(shù)據(jù)記錄器服務(wù)器也經(jīng)常接收到元數(shù)據(jù)結(jié)構(gòu)的更新，并將它們寫入其文件系統(tǒng)。

在Pro版本中，金屬加工者是可選的，因?yàn)橹饕冯S者與領(lǐng)導(dǎo)者主人保持同步。他們還將元數(shù)據(jù)保存到硬盤。

8.目錄大小的值對(duì)MooseFS有什么意義？它與標(biāo)準(zhǔn)Linux ls -l輸出不同。為什么？

文件夾大小在任何文件系統(tǒng)中都沒(méi)有特別的意義，所以我們的開(kāi)發(fā)團(tuán)隊(duì)決定給予額外的信息。該數(shù)字表示以指數(shù)表示法顯示的所有文件的總長(zhǎng)度（如mfsdirinfo -h -l）。

您可以通過(guò)以下方式“翻譯”目錄大?。?/p>

有7位數(shù)：xAAAABB。要將此符號(hào)轉(zhuǎn)換為字節(jié)數(shù)，請(qǐng)使用以下表達(dá)式：

AAAA.BB xBytes

其中x：

0 =

1 =基比

2 = Mebi

3 =吉比

4 = Tebi

示例：

翻譯以下條目：

drwxr-xr-x 164根根2010616 5月24日11:47測(cè)試

                         xAAAABB

文件夾大小2010616應(yīng)該讀為106.16 MiB。

當(dāng)x = 0時(shí)，數(shù)字可能會(huì)更?。?/p>

示例：

文件夾大小10200表示102字節(jié)。

9.當(dāng)我在文件系統(tǒng)上執(zhí)行df -h時(shí)，結(jié)果與預(yù)期的相符，考慮到書面文件的實(shí)際大小。

每個(gè)chunkserver為每個(gè)使用的分區(qū)/ hdd發(fā)送自己的磁盤使用量增加256MB，并且主機(jī)將這些值的總和發(fā)送到客戶端作為總磁盤使用量。如果您有3個(gè)chunkservers，每個(gè)7 hdd，您的磁盤使用量將增加3 * 7 * 256MB（約5GB）。

另一個(gè)區(qū)別的原因是，當(dāng)您在chunkserver上使用專用于MooseFS的磁盤時(shí)，df將顯示正確的磁盤使用情況，但如果您的MooseFS磁盤上有其他數(shù)據(jù)，df也會(huì)對(duì)您自己的文件進(jìn)行計(jì)數(shù)。

如果要查看MooseFS文件的實(shí)際空間使用情況，請(qǐng)使用mfsdirinfo命令。

10.我可以在MooseFS上保留源代碼嗎？為什么小文件占用的空間比預(yù)期的多？

該系統(tǒng)最初設(shè)計(jì)用于保存大量（如幾千個(gè)）非常大的文件（幾十GB），并具有64MiB的硬編碼塊大小和64KiB的塊大小。使用一致的塊大小有助于提高網(wǎng)絡(luò)性能和效率，因?yàn)橄到y(tǒng)中的所有節(jié)點(diǎn)都能夠使用單個(gè)“桶”大小。這就是為什么即使一個(gè)小文件將占用64KiB加上另外4Ki的校驗(yàn)和和1KiB的標(biāo)題。

關(guān)于存儲(chǔ)在MooseFS塊內(nèi)的小文件的占用空間的問(wèn)題真的更重要，但在我們看來(lái)，它仍然是微不足道的。讓我們將2500萬(wàn)個(gè)文件的目標(biāo)設(shè)置為2.計(jì)算存儲(chǔ)開(kāi)銷，這可能會(huì)創(chuàng)建大約5000萬(wàn)69 KB的塊，由于內(nèi)部碎片（文件大小小于塊大?。赡軣o(wú)法完全利用這些塊。因此，5000萬(wàn)塊的整體浪費(fèi)空間約為3.2TiB。按照現(xiàn)代標(biāo)準(zhǔn)，這不應(yīng)該是一個(gè)重大關(guān)切。由于使用的文件系統(tǒng)的塊大小，更典型的中，大型項(xiàng)目，具有100,000個(gè)小文件將占用最多13GiB的額外空間。

所以在MooseFS系統(tǒng)上存儲(chǔ)源代碼文件是非常合理的，無(wú)論是在開(kāi)發(fā)期間還是長(zhǎng)期可靠的存儲(chǔ)或存檔目的下使用。

考慮到網(wǎng)絡(luò)文件系統(tǒng)的性能，可能要考慮的較大因素是開(kāi)發(fā)代碼的舒適度。在主動(dòng)開(kāi)發(fā)項(xiàng)目下使用MooseFS（或任何其他基于網(wǎng)絡(luò)的文件系統(tǒng)（如NFS，CIFS））時(shí)，網(wǎng)絡(luò)文件系統(tǒng)可能無(wú)法以與直接連接的常規(guī)硬盤驅(qū)動(dòng)器相同的速度執(zhí)行文件IO操作。

一些現(xiàn)代集成開(kāi)發(fā)環(huán)境（IDE）（如Eclipse）會(huì)在幾個(gè)小型工作空間元數(shù)據(jù)文件上進(jìn)行頻繁的IO請(qǐng)求。使用MooseFS文件系統(tǒng)上的工作空間文件夾（以及任何其他聯(lián)網(wǎng)文件系統(tǒng)）運(yùn)行Eclipse將會(huì)比使用本地硬盤驅(qū)動(dòng)器上的工作空間運(yùn)行Eclipse時(shí)產(chǎn)生稍慢的用戶界面性能。

如果您在IDE中使用MooseFS作為活動(dòng)開(kāi)發(fā)工作副本，則可能需要自己評(píng)估。

在另一個(gè)示例中，使用典型的文本編輯器進(jìn)行源代碼編輯和版本控制系統(tǒng)（如Subversion）將項(xiàng)目文件檢入MooseFS文件系統(tǒng)，通常不會(huì)導(dǎo)致任何性能下降。MooseFS的網(wǎng)絡(luò)文件系統(tǒng)性質(zhì)的IO開(kāi)銷被與遠(yuǎn)程Subversion存儲(chǔ)庫(kù)交互的較大IO延遲所抵消。當(dāng)使用簡(jiǎn)單的文本編輯器（復(fù)雜的IDE產(chǎn)品之外）時(shí)，單個(gè)文件操作（打開(kāi)，保存）沒(méi)有任何可觀察到的延遲。

更有可能的情況是將Subversion存儲(chǔ)庫(kù)文件托管在MooseFS文件系統(tǒng)中，其中svnserver或Apache + mod_svn將向Subversion存儲(chǔ)庫(kù)提供請(qǐng)求，用戶將檢查工作沙箱到本地硬盤驅(qū)動(dòng)器。

11. Chunkserver和Metadata Server是否會(huì)自己進(jìn)行校驗(yàn)和？

塊服務(wù)器做自己的校驗(yàn)和。每個(gè)64KiB塊的開(kāi)銷約為4B，每個(gè)64MiB塊為4KiB。

元數(shù)據(jù)服務(wù)器沒(méi)有。我們以為這將占用CPU。我們建議使用ECC RAM模塊。

12.主服務(wù)器需要哪些資源？

最重要的因素是MooseFS Master機(jī)器的RAM，因?yàn)橥暾奈募到y(tǒng)結(jié)構(gòu)緩存在RAM中以提高速度。除了RAM之外，MooseFS Master機(jī)器需要HDD上的一些空間用于主元數(shù)據(jù)文件以及增量日志。

元數(shù)據(jù)文件的大小取決于文件數(shù)量（不是大小）。增量日志的大小取決于每小時(shí)的操作次數(shù)，但是此增量日志的長(zhǎng)度（以小時(shí)計(jì)）可配置。

13.刪除文件或目錄時(shí)，MooseFS的大小不會(huì)改變。為什么？

MooseFS不會(huì)在刪除時(shí)立即清除文件，以允許您還原刪除操作。已刪除的文件將保留在垃圾桶中，以便在刪除之前配置的時(shí)間量。

您可以配置文件保存在垃圾箱的時(shí)間長(zhǎng)度，并手動(dòng)清空垃圾箱（以釋放空間）?！皡⒖贾改稀敝杏嘘P(guān)詳細(xì)信息，請(qǐng)參見(jiàn)“針對(duì)MooseFS的操作”一節(jié)。

簡(jiǎn)而言之，存儲(chǔ)已刪除文件的時(shí)間可以通過(guò)mfsgettrashtime命令進(jìn)行驗(yàn)證，并使用mfssettrashtime進(jìn)行更改。

14.當(dāng)我添加第三臺(tái)服務(wù)器作為額外的chunkserver時(shí)，即使文件目標(biāo)仍設(shè)置為2，它看起來(lái)像是開(kāi)始將數(shù)據(jù)復(fù)制到第三臺(tái)服務(wù)器。

是。磁盤使用平衡器獨(dú)立使用塊，所以一個(gè)文件可以重新分配給所有的chunkserver。

15.MooseFS 64位兼容嗎？

是!

16.我可以修改塊大小嗎？

否。文件數(shù)據(jù)分為最大64MiB的片段（塊）。64 MiB的值被硬編碼到系統(tǒng)中，因此您無(wú)法修改其大小。我們基于現(xiàn)實(shí)世界數(shù)據(jù)中的塊大小，并確定它是塊數(shù)之間和重新平衡/更新文件系統(tǒng)的速度之間的一個(gè)非常好的妥協(xié)。當(dāng)然，如果文件小于64 MiB，它占用的空間就會(huì)更小。

在我們處理的系統(tǒng)中，幾個(gè)文件大小顯著超過(guò)100GB，沒(méi)有明顯的塊大小的懲罰。

17.如何知道文件是否已成功寫入MooseFS

我們簡(jiǎn)單討論一下寫入文件系統(tǒng)的過(guò)程以及這個(gè)程序的后果。

在所有當(dāng)代文件系統(tǒng)中，文件通過(guò)緩沖區(qū)（寫緩存）寫入。因此，寫入命令本身的執(zhí)行只將數(shù)據(jù)傳送到緩沖區(qū)（cache），而不會(huì)發(fā)生實(shí)際寫入。因此，確認(rèn)的寫入命令的執(zhí)行并不意味著數(shù)據(jù)已被正確寫入盤。只有調(diào)用和完成fsync（或close）命令才能使保存在緩沖區(qū)（cache）內(nèi)的所有數(shù)據(jù)都被物理地寫出來(lái)。如果在寫入這種緩沖區(qū)保存數(shù)據(jù)時(shí)發(fā)生錯(cuò)誤，則可能導(dǎo)致fsync（或close）命令返回錯(cuò)誤響應(yīng)。

問(wèn)題在于，絕大多數(shù)程序員不會(huì)測(cè)試關(guān)閉命令狀態(tài)（這通常是一個(gè)非常常見(jiàn)的錯(cuò)誤）。因此，向磁盤寫入數(shù)據(jù)的程序可以“假設(shè)”數(shù)據(jù)已經(jīng)從寫入命令的成功響應(yīng)中正確地寫入，而實(shí)際上它可能在隨后的關(guān)閉命令期間失敗。

在網(wǎng)絡(luò)文件系統(tǒng)（如MooseFS）中，由于其性質(zhì)，緩沖區(qū)（緩存）中的“剩余”數(shù)據(jù)的平均數(shù)量將會(huì)高于常規(guī)文件系統(tǒng)。因此，在執(zhí)行close或fsync命令期間處理的數(shù)據(jù)量通常很重要，并且如果在[從close或fsync命令]中寫入數(shù)據(jù)時(shí)發(fā)生錯(cuò)誤，則在執(zhí)行此命令期間將返回為錯(cuò)誤。因此，在執(zhí)行關(guān)閉之前，建議（特別是在使用MooseFS時(shí)）在寫入文件之后執(zhí)行fsync操作，然后檢查fsync操作結(jié)果的狀態(tài)。那么，為了很好的衡量，還要檢查關(guān)閉的返回狀態(tài)。

注意！當(dāng)使用stdio時(shí)，fflush功能只執(zhí)行“write”命令，所以正確執(zhí)行fflush不足以確保所有數(shù)據(jù)都已經(jīng)寫好 - 您還應(yīng)該檢查fclose的狀態(tài)。

將程序的標(biāo)準(zhǔn)輸出重定向到shell中的文件時(shí)，可能會(huì)出現(xiàn)上述問(wèn)題。Bash（和許多其他程序）不檢查關(guān)閉執(zhí)行的狀態(tài)。因此，“ application> outcome.txt ”類型的語(yǔ)法可能會(huì)在shell中成功結(jié)束，而實(shí)際上寫出“ outcome.txt ”文件時(shí)出現(xiàn)錯(cuò)誤。強(qiáng)烈建議您在寫入MooseFS掛載點(diǎn)時(shí)避免使用上述shell輸出重定向語(yǔ)法。如果需要，您可以創(chuàng)建一個(gè)簡(jiǎn)單的程序，讀取標(biāo)準(zhǔn)輸入并將所有內(nèi)容寫入所選文件，這個(gè)簡(jiǎn)單的程序?qū)⒄_地使用fsync命令對(duì)結(jié)果狀態(tài)的適當(dāng)檢查。例如，“ application | mysaver outcome.txt ”，

請(qǐng)注意，上述問(wèn)題絕非例外，并不直接源于MooseFS本身的特征。它可能會(huì)影響任何文件系統(tǒng) - 網(wǎng)絡(luò)類型系統(tǒng)更容易出現(xiàn)這種困難。從技術(shù)上講，上述建議應(yīng)始終遵循（也適用于使用傳統(tǒng)文件系統(tǒng)的情況）。

18. MooseFS有什么限制（例如文件大小限制，文件系統(tǒng)大小限制，最大文件數(shù)，可以存儲(chǔ)在文件系統(tǒng)上）？

MooseFS中的最大文件大小限制為2 57字節(jié)= 128 PiB。

最大文件系統(tǒng)大小限制為2 64字節(jié)= 16 EiB = 16 384 PiB

可以存儲(chǔ)在一個(gè)MooseFS實(shí)例上的最大文件數(shù)為2 31 - 超過(guò)2.1 bln。

19.我可以為mfscgiserv設(shè)置HTTP基本身份驗(yàn)證嗎？

mfscgiserv是一個(gè)非常簡(jiǎn)單的HTTP服務(wù)器，僅用于運(yùn)行MooseFS CGI腳本。它不支持任何其他功能，如HTTP身份驗(yàn)證。但是，MooseFS CGI腳本可以從具有CGI支持的另一個(gè)全功能HTTP服務(wù)器（如lighttpd或Apache）提供。當(dāng)使用全功能的HTTP服務(wù)器（如Apache）時(shí)，您還可以利用其他模塊提供的功能，例如HTTPS傳輸。只需將CGI及其數(shù)據(jù)文件（index.html，mfs.cgi，chart.cgi，mfs.css，acidtab.js，logomini.png，err.gif）放置在所選的DocumentRoot下。如果您在給定的主機(jī)上已經(jīng)有一個(gè)HTTP服務(wù)器實(shí)例，

20.我可以在MooseFS上運(yùn)行郵件服務(wù)器應(yīng)用程序嗎？郵件服務(wù)器是一個(gè)非常繁忙的應(yīng)用程序與大量的小文件 - 我不會(huì)丟失任何文件？

您可以在MooseFS上運(yùn)行郵件服務(wù)器。您不會(huì)在大系統(tǒng)負(fù)載下丟失任何文件。當(dāng)文件系統(tǒng)忙時(shí)，它將阻塞，直到其操作完成，這將導(dǎo)致郵件服務(wù)器放慢速度。

21.有沒(méi)有建議網(wǎng)絡(luò)，MTU或帶寬？

我們建議使用巨型幀（MTU = 9000）。使用更大量的塊服務(wù)器，交換機(jī)應(yīng)通過(guò)光纖連接或使用聚合鏈路。

22.MooseFS是否支持補(bǔ)充組織？

是。

23.MooseFS是否支持文件鎖定？

是的，因?yàn)镸ooseFS 3.0。

24.可以通過(guò)DHCP將IP地址分配給塊服務(wù)器嗎？

是的，但我們強(qiáng)烈建議您根據(jù)MAC地址設(shè)置“DHCP預(yù)留”。

25.我的一些小塊服務(wù)器占用了90％的空間，而其他的只有10％。為什么重新平衡過(guò)程需要這么長(zhǎng)時(shí)間？

我們?cè)谏a(chǎn)環(huán)境中工作的經(jīng)驗(yàn)表明，積極的復(fù)制是不可取的，因?yàn)樗梢源蟠鬁p緩整個(gè)系統(tǒng)。系統(tǒng)的整體性能比硬盤驅(qū)動(dòng)器在所有組塊服務(wù)器上的平等使用更為重要。默認(rèn)情況下，復(fù)制被配置為非侵略性操作。在我們的環(huán)境下，新的chunkserver通常需要大約1個(gè)星期才能達(dá)到標(biāo)準(zhǔn)的hdd利用率。積極的復(fù)制將使整個(gè)系統(tǒng)在幾天內(nèi)相當(dāng)緩慢。

可以通過(guò)設(shè)置以下兩個(gè)選項(xiàng)在主服務(wù)器啟動(dòng)時(shí)調(diào)整復(fù)制速度：

CHUNKS_WRITE_REP_LIMIT

要復(fù)制到一個(gè)chunkserver的塊的最大數(shù)量（默認(rèn)值為2,1,1,4）。

一個(gè)數(shù)字等于以冒號(hào)分隔的四個(gè)相同的數(shù)字。

第一個(gè)限制是瀕危塊（只有一個(gè)副本的塊）

第二個(gè)限制是對(duì)于傳統(tǒng)的塊（數(shù)量低于指定目標(biāo)的塊數(shù)）

第三個(gè)限制是針對(duì)具有算術(shù)平均值的空間使用的服務(wù)器之間的重新平衡

第四個(gè)限制是在其他服務(wù)器之間重新平衡（非常低或非常高的空間使用）

通常第一個(gè)數(shù)字應(yīng)該大于或等于第二，第二大于或等于第三，第四大于或等于第三（1st> = 2nd> = 3rd <= 4th）。

CHUNKS_READ_REP_LIMIT

從一個(gè)chunkserver復(fù)制的塊的最大數(shù)量（默認(rèn)為10,5,2,5）。

一個(gè)數(shù)字等于以冒號(hào)分隔的四個(gè)相同的數(shù)字。限制組與寫入限制相同，數(shù)字之間的關(guān)系應(yīng)與寫入限制相同（1st> = 2nd> = 3rd <= 4th）。

在您的環(huán)境中調(diào)整這些將需要一些實(shí)驗(yàn)。

26.我有一個(gè)Metalogger運(yùn)行 - 我應(yīng)該在主服務(wù)器上進(jìn)一步備份元數(shù)據(jù)文件？

是的，強(qiáng)烈建議進(jìn)一步備份元數(shù)據(jù)文件。如果由于某些原因，金屬加工器數(shù)據(jù)不可用于恢復(fù)主服務(wù)器（例如，金屬加工器服務(wù)器也被銷毀），則這將提供最壞情況恢復(fù)選項(xiàng)。

主服務(wù)器將保存在RAM中的元數(shù)據(jù)每小時(shí)（xx：00）刷新到metadata.mfs.back二進(jìn)制文件。因此，復(fù)制元數(shù)據(jù)文件的好時(shí)機(jī)是半小時(shí)（轉(zhuǎn)儲(chǔ)后30分鐘）的每個(gè)小時(shí)。這會(huì)將數(shù)據(jù)丟失量限制在大約1.5h的數(shù)據(jù)?？梢允褂萌魏纬Ｒ?guī)的復(fù)制元數(shù)據(jù)文件（cp，scp，rsync等）的方法來(lái)備份文件。

在基于此備份的元數(shù)據(jù)文件恢復(fù)系統(tǒng)后，最近創(chuàng)建的文件將丟失。此外，附加到的文件將具有它們之前的大小，它們?cè)谠獢?shù)據(jù)備份時(shí)具有。被刪除的文件將再次存在。而重命名或移動(dòng)的文件將返回到之前的名稱（和位置）。但是，在崩潰發(fā)生之前，仍然會(huì)有X在過(guò)去幾年中創(chuàng)建的文件的所有數(shù)據(jù)。

在MooseFS Pro版本中，主要追隨者從RAM一次一小時(shí)刷入元數(shù)據(jù)到硬盤。領(lǐng)導(dǎo)主人每天從追蹤者中下載保存的元數(shù)據(jù)。

27.我認(rèn)為我的一個(gè)磁盤較慢/損壞。我該怎么找到？

在CGI監(jiān)視器中，進(jìn)入“磁盤”選項(xiàng)卡，在“I / O統(tǒng)計(jì)”列中選擇“切換到小時(shí)”，并在“最大時(shí)間”列中通過(guò)“寫入”對(duì)結(jié)果進(jìn)行排序?，F(xiàn)在尋找一個(gè)顯著更大的寫入時(shí)間的磁盤。您還可以通過(guò)“fsync”列排序并查看結(jié)果。找到運(yùn)行較慢的單個(gè)磁盤是個(gè)好主意，因?yàn)樗鼈兛赡苁窍到y(tǒng)的瓶頸。

創(chuàng)建一個(gè)測(cè)試操作可能是有幫助的，它連續(xù)復(fù)制一些數(shù)據(jù)，以便在系統(tǒng)上創(chuàng)建足夠的負(fù)載，以便在CGI監(jiān)視器中進(jìn)行可觀察的統(tǒng)計(jì)。在“磁盤”選項(xiàng)卡上，為“I / O統(tǒng)計(jì)”列指定單位“分鐘”，而不是小時(shí)。

一旦找到了一個(gè)“壞”磁盤來(lái)替換它，就會(huì)遵循標(biāo)記磁盤去除的常規(guī)操作，并等待顏色更改，以指示存儲(chǔ)在此磁盤上的所有塊都已被復(fù)制以實(shí)現(xiàn)足夠的目標(biāo)設(shè)置。

28.如何找到主服務(wù)器PID？

發(fā)出以下命令：

＃mfsmaster test

29.Web界面顯示有一些目標(biāo)為0的塊的副本。這是什么意思？

這是一種標(biāo)記屬于不存在（即刪除）文件的塊的方法。在MooseFS中，異步刪除文件。首先，文件從元數(shù)據(jù)中刪除，其塊被標(biāo)記為不必要（目標(biāo)= 0）。之后，在“閑置”時(shí)間內(nèi)，這些塊被刪除。這比刪除文件的確切時(shí)刻擦除所有內(nèi)容要高得多。

如果主服務(wù)器在故障恢復(fù)之前創(chuàng)建，并且在還原的元數(shù)據(jù)文件中不可用，則也可能會(huì)在恢復(fù)主服務(wù)器之后出現(xiàn)不必要的塊。

30. mfsmount報(bào)告的每個(gè)錯(cuò)誤信息都是嚴(yán)重問(wèn)題嗎？

不，mfsmount將與chunkservers通信中遇到的每個(gè)故障寫入syslog。網(wǎng)絡(luò)中的瞬態(tài)通信問(wèn)題可能會(huì)導(dǎo)致IO錯(cuò)誤顯示，但這并不意味著數(shù)據(jù)丟失，或者mfsmount將向應(yīng)用程序返回錯(cuò)誤代碼。每個(gè)操作由客戶機(jī)（mfsmount）重試幾次，只有在故障次數(shù)（報(bào)告為嘗試計(jì)數(shù)器）達(dá)到某個(gè)限制（通常為30）之后，該錯(cuò)誤才會(huì)返回給應(yīng)用程序，該數(shù)據(jù)未被讀取/保存。

當(dāng)然，監(jiān)控這些消息很重要。當(dāng)消息從一個(gè)chunkserver比其他消息更頻繁地出現(xiàn)時(shí)，這可能意味著這個(gè)chunkserver有問(wèn)題 - 也許硬盤壞了，也許網(wǎng)卡有一些問(wèn)題 - 檢查CGI中的圖表，硬盤操作時(shí)間等監(jiān)控。

注意：XXXXXXXX在下面的例子中是指chunkserver的IP地址。在mfsmount版本<2.0.42中chunkserver IP以十六進(jìn)制格式寫入。在mfsmount版本> = 2.0.42 IP是“人類可讀”。

What does

file: NNN, index: NNN, chunk: NNN, version: NNN - writeworker: connection with (XXXXXXXX:PPPP) was timed out (unfinished writes: Y; try counter: Z)

message mean?

This means that Zth try to write the chunk was not successful and writing of Y blocks, sent to the chunkserver, was not confirmed. After reconnecting these blocks would be sent again for saving. The limit of trials is set by default to 30.

This message is for informational purposes and doesn't mean data loss.

What does

file: NNN, index: NNN, chunk: NNN, version: NNN, cs: XXXXXXXX:PPPP - readblock error (try counter: Z)

message mean?

This means that Zth try to read the chunk was not successful and system will try to read the block again. If value of Z equals 1 it is a transitory problem and you should not worry about it. The limit of trials is set by default to 30.

file: NNN, index: NNN, chunk: NNN, version: NNN - writeworker: connection with (XXXXXXXX:PPPP) was timed out (unfinished writes: Y; try counter: Z)

message mean?

This means that Zth try to write the chunk was not successful and writing of Y blocks, sent to the chunkserver, was not confirmed. After reconnecting these blocks would be sent again for saving. The limit of trials is set by default to 30.

This message is for informational purposes and doesn't mean data loss.

What does

file: NNN, index: NNN, chunk: NNN, version: NNN, cs: XXXXXXXX:PPPP - readblock error (try counter: Z)

message mean?

This means that Zth try to read the chunk was not successful and system will try to read the block again. If value of Z equals 1 it is a transitory problem and you should not worry about it. The limit of trials is set by default to 30. 

31.如何驗(yàn)證MooseFS群集是否在線？當(dāng)主服務(wù)器關(guān)閉時(shí)，mfsmount會(huì)發(fā)生什么？

當(dāng)主服務(wù)器在mfsmount已經(jīng)運(yùn)行時(shí)，mfsmount不會(huì)斷開(kāi)掛載的資源，并且等待保存的文件在嘗試重新連接到主服務(wù)器時(shí)將保持很長(zhǎng)時(shí)間。經(jīng)過(guò)指定次數(shù)的嘗試后，他們最終會(huì)返回EIO - “輸入/輸出錯(cuò)誤”。另一方面，當(dāng)主服務(wù)器脫機(jī)時(shí)，無(wú)法啟動(dòng)mfsmount。

有幾種方法可以確保主服務(wù)器處于在線狀態(tài)，下面列出其中的幾個(gè)。

檢查是否可以連接到主服務(wù)器的TCP端口（例如套接字連接測(cè)試）。

為了確保安裝MooseFS資源，它足以檢查inode編號(hào) - MooseFS root將始終具有inode等于1.例如，如果我們?cè)? mnt / mfs中安裝了MooseFS，那么stat / mnt / mfs命令（in Linux）將顯示：

$ stat / mnt / mfs 

文件：`/ mnt / mfs' 

大?。簒xxxxx塊：xxx IO塊：4096目錄

設(shè)備：13h / 19d Inode：1鏈接：xx 

（...）

Additionaly mfsmount在根安裝的文件夾中創(chuàng)建一個(gè)虛擬隱藏文件.stats。例如，獲得的統(tǒng)計(jì)mfsmount時(shí)MooseFS安裝我們的貓這個(gè).stats文件，例如：

$ cat /mnt/mfs/.stats 

fuse_ops.statfs：241 

fuse_ops.access：0 

fuse_ops.lookup-cached：707553 

fuse_ops.lookup：603335 

fuse_ops.getattr-cached：24927 

fuse_ops.getattr：687750 

fuse_ops.setattr：24018 

fuse_ops。 mknod：0 

fuse_ops.unlink：23083 

fuse_ops.mkdir：4 

fuse_ops.rmdir：1 

fuse_ops.symlink：3 

fuse_ops.readlink：454 

fuse_ops.rename：269 

（...）

如果要確保主服務(wù)器正確響應(yīng)，則需要嘗試讀取任何對(duì)象的目標(biāo)，例如根文件夾：

$ mfsgetgoal / mnt / mfs 

/ mnt / mfs：2

如果您獲得了根文件夾的正確目標(biāo)，則可以確保主服務(wù)器已啟動(dòng)并正在運(yùn)行。