FastDFS分布式文件系統(tǒng)搭建

內(nèi)容要點(diǎn)

FastDFS簡介

FastDFS搭建

FastDFS常用命令

一、簡介：

1、FastDFS是一個(gè)開源的輕量級(jí)分布式文件系統(tǒng)，它對(duì)文件進(jìn)行管理，功能包括：文件存儲(chǔ)、文件同步、文件訪問（文件上傳、文件下載）等，解決了大容量存儲(chǔ)和負(fù)載均衡的問題。特別適合以文件為載體的在線服務(wù)，如相冊(cè)網(wǎng)站、視頻網(wǎng)站等等。

2、FastDFS為互聯(lián)網(wǎng)量身定制，充分考慮了冗余備份、負(fù)載均衡、線性擴(kuò)容等機(jī)制，并注重高可用、高性能等指標(biāo)，使用FastDFS很容易搭建一套高性能的文件服務(wù)器集群提供文件上傳、下載等服務(wù)。

3、FastDFS服務(wù)端有兩個(gè)角色：

（1）跟蹤器（tracker）：跟蹤器主要做調(diào)度工作；
（2）存儲(chǔ)節(jié)點(diǎn)（storage）：在訪問上起負(fù)載均衡的作用。

存儲(chǔ)節(jié)點(diǎn)存儲(chǔ)文件，完成文件管理的所有功能：就是這樣的存儲(chǔ)、同步和提供存取接口，F(xiàn)astDFS同時(shí)對(duì)文件的metadata進(jìn)行管理。所謂文件的meta data就是文件的相關(guān)屬性，以鍵值對(duì)（key value）方式表示。

4、為了支持大容量，存儲(chǔ)節(jié)點(diǎn)（服務(wù)器）采用了分卷（或分組）的組織方式。存儲(chǔ)系統(tǒng)由一個(gè)或多個(gè)卷組成，卷與卷之間的文件是相互獨(dú)立的，所有卷的文件容量累加就是整個(gè)存儲(chǔ)系統(tǒng)中的文件容量。一個(gè)卷可以由一臺(tái)或多臺(tái)存儲(chǔ)服務(wù)器組成，一個(gè)卷下的存儲(chǔ)服務(wù)器中的文件都是相同的，卷中的多臺(tái)存儲(chǔ)服務(wù)器起到了冗余備份和負(fù)載均衡的作用。

（1）在卷中增加服務(wù)器時(shí)，同步已有的文件由系統(tǒng)自動(dòng)完成，同步完成后，系統(tǒng)自動(dòng)將新增服務(wù)器切換到線上提供服務(wù)；

（2）當(dāng)存儲(chǔ)空間不足或即將耗盡時(shí)，可以動(dòng)態(tài)添加卷。只需要增加一臺(tái)或多臺(tái)服務(wù)器，并將它們配置為一個(gè)新的卷，這樣就擴(kuò)大了存儲(chǔ)系統(tǒng)的容量；

（3）FastDFS中的文件標(biāo)識(shí)分為兩個(gè)部分：卷名和文件名，二者缺一不可。

二、搭建 FastDFS：

第一步：安裝 libfastcommon（所有節(jié)點(diǎn)都需要）

1、安裝環(huán)境包：

yum -y install libevent  libevent-devel perl  make gcc zlib  zlib-devel pcre pcre-devel  gcc-c++  openssl-devel

2、安裝libfastcommon：

wget https://github.com/happyfish200/libfastcommon/archive/V1.0.38.tar.gz

tar zxf V1.0.38.tar.gz -C /opt/
cd /opt/libfastcommon-1.0.38/
./make.sh && ./make.sh install

3、創(chuàng)建軟連接：

ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so
ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so
ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so

第二步：安裝 FastDFS：

wget https://github.com/happyfish200/fastdfs/archive/V5.11.tar.gz

tar zxf V5.11.tar.gz -C /opt/
cd /opt/fastdfs-5.11/
./make.sh && ./make.sh install

[root@localhost fdfs]# ls
client.conf.sample       //客戶端上傳配置文件（模板）
storage.conf.sample      //文件存儲(chǔ)服務(wù)器配置文件（模板）
tracker.conf.sample      //負(fù)責(zé)均衡調(diào)度服務(wù)器配置文件（模板）

復(fù)制配置文件：
cp tracker.conf.sample tracker.conf
cp storage.conf.sample storage.conf
cp client.conf.sample client.conf

第三步：tracker 端修改

1、tracker監(jiān)控端（可以有多個(gè)），建立數(shù)據(jù)、日志存放目錄：

mkdir -m 755 -p /opt/fastdfs

2、修改 tracker配置文件：

vim /etc/fdfs/tracker.conf
增改以下內(nèi)容：
port=22122 
base_path=/opt/fastdfs       //tracker存儲(chǔ)data和log的跟路徑，必須提前創(chuàng)建好
http.server_port=8080        //tracker服務(wù)器上啟動(dòng)http服務(wù)進(jìn)程（沒裝忽略）

3、開啟服務(wù)：

fdfs_trackerd /etc/fdfs/tracker.conf start   //啟動(dòng)服務(wù)
netstat -atnp | grep 22122       //查看端口是否正常開啟
tcp        0      0 0.0.0.0:22122           0.0.0.0:*               LISTEN      43776/fdfs_trackerd

4、設(shè)置開啟自啟動(dòng)：

vim  /etc/rc.local
#末行添加：
fdfs_trackerd   /etc/fdfs/tracker.conf start

第四步：storage 端修改

#storage數(shù)據(jù)存儲(chǔ)端（可以有多個(gè)）
#建立數(shù)據(jù)、日志存放目錄
mkdir -m 777 -p /opt/fastdfs

#修改storage配置文件
vim /etc/fdfs/storage.conf
group_name=group1          #默認(rèn)組名，根據(jù)實(shí)際情況修改
port=23000                 #storge默認(rèn)23000，同一個(gè)組的storage端口號(hào)必須一致
base_path=/opt/fastdfs     #storage日志文件的根路徑
store_path_count=1          #與下面路徑個(gè)數(shù)相同，默認(rèn)為1
store_path0=/opt/fastdfs        #提供的存儲(chǔ)路徑（默認(rèn)與日志文件存放在一起）
tracker_server=192.168.50.140:22122      #自己的tracker服務(wù)器IP（重點(diǎn)?。。。?http.server_port=80（http訪問文件的端口默認(rèn)為8888，nginx中配置的監(jiān)聽端口保持一致）

#開啟服務(wù)
fdfs_storaged  /etc/fdfs/storage.conf start
netstat -atnp | grep 23000
tcp        0      0 0.0.0.0:23000           0.0.0.0:*               LISTEN      40430/fdfs_storaged

#開機(jī)自啟tracker
vim  /etc/rc.local
#末行添加
fdfs_storaged  /etc/fdfs/storage.conf start 

#檢查是否與tracker關(guān)聯(lián)成功
fdfs_monitor /etc/fdfs/storage.conf
Storage 1:
                id = 192.168.50.140
                ip_addr = 192.168.50.140 (storage)  ACTIVE

第五步：storage 端安裝 nginx

#解壓nginx安裝包
tar zxf nginx-1.12.0.tar.gz -C /opt/

#下載fastdfs-nginx-module安裝包
wget https://github.com/happyfish200/fastdfs-nginx-module/archive/V1.20.tar.gz
tar zxf V1.20.tar.gz -C /opt/

#編譯安裝nginx
./configure \
--prefix=/usr/local/nginx \
--add-module=/opt/fastdfs-nginx-module-1.20/src/        #fastdfs-nginx-module模塊

make && make instal

l

第六步：配置 Nginx 和 fastdfs-nginx-module 模塊

cd fastdfs-nginx-module-1.20/src

cp mod_fastdfs.conf /etc/fdfs/

#修改fastdfs-nginx-module模塊配置文件mod-fasts.conf
vim mod_fastdfs.conf
base_path=/opt/fastdfs         #存放數(shù)據(jù)文件、日志的路徑
tracker_server=192.168.50.140:22122    #tracker端的地址（重點(diǎn)?。。。?url_have_group_name = true  #url是否包含group名稱
storage_server_port=23000 #需要和storage配置的相同
store_path_count=1  #存儲(chǔ)路徑個(gè)數(shù)，需要和store_path個(gè)數(shù)匹配
store_path0=/opt/fastdfs #文件存儲(chǔ)的位置

#修改nginx配置文件
vim /usr/local/nginx/conf/nginx.conf
#空行處添加
location ~/M00 {
                root /opt/fastdfs/data;
                ngx_fastdfs_module;
}

#拷貝fastdfs解壓目錄中的http.conf和mime.types
cd /opt/fastdfs-5.11/conf/

cp mime.types http.conf /etc/fdfs/

三、FastDFS 常用命令：

1、上傳文件：

/usr/bin/fdfs_upload_file  <config_file> <local_filename>

2、下載文件：

/usr/bin/fdfs_download_file <config_file> <file_id> [local_filename]

3、刪除文件：

/usr/bin/fdfs_delete_file <config_file> <file_id>