怎么搭建fastDFS分布式系統(tǒng)

FastDFS簡介

存儲節(jié)點存儲文件，完成文件管理的所有功能：就是這樣的存儲、同步和提供存取接口，F(xiàn)astDFS同時對文件的metadata進行管理。所謂文件的meta data就是文件的相關(guān)屬性，以鍵值對（key value）方式表示，如：width=1024，其中的key為width，value為1024。文件metadata是文件屬性列表，可以包含多個鍵值對。

FastDFS架構(gòu)

FastDFS架構(gòu)包括 Tracker server和Storage server?？蛻舳苏埱骉racker server進行文件上傳、下載，通過Trackerserver調(diào)度最終由Storage server完成文件上傳和下載。

FastDFS 系統(tǒng)有三個角色：跟蹤服務(wù)器(Tracker Server)、存儲服務(wù)器(Storage Server)和客戶端(Client)。

Tracker Server：跟蹤服務(wù)器，主要做調(diào)度工作，起到均衡的作用；負(fù)責(zé)管理所有的 storage server和 group，每個 storage 在啟動后會連接 Tracker，告知自己所屬 group 等信息，并保持周期性心跳。通過Trackerserver在文件上傳時可以根據(jù)一些策略找到Storageserver提供文件上傳服務(wù)。

優(yōu)勢

（1）海量的存儲：主從型分布式存儲，存儲空間方便拓展,
（2）fastDFS對文件內(nèi)容做hash處理，避免出現(xiàn)重復(fù)文件
（3）然后fastDFS結(jié)合Nginx集成, 提供網(wǎng)站效率

組成結(jié)構(gòu)

1、跟蹤器（tracker）：跟蹤器主要做調(diào)度工作；
2、存儲節(jié)點（storage）：在訪問上起負(fù)載均衡的作用

實驗環(huán)境

tracker服務(wù)器 192.168.13.128（libfastcommon、fastd、）
storage+Nginx服務(wù)器 192.168.13.129（libfastcommon）

1，在所有節(jié)點服務(wù)器上安裝libfastcommon服務(wù)

[root@tracker ~]# yum -y install libevent  \   ##安裝環(huán)境必要的組件
libevent-devel perl  make gcc zlib  zlib-devel \
pcre pcre-devel  gcc-c++  openssl-devel
[root@tracker ~]# wget https://github.com/happyfish200/libfastcommon/archive/V1.0.38.tar.gz
##從網(wǎng)站中下載libfastcommon壓縮包
[root@tracker ~]# tar zxvf V1.0.38.tar.gz -C /opt/  ##解壓
[root@tracker ~]# cd /opt/libfastcommon-1.0.38/
[root@tracker libfastcommon-1.0.38]# ./make.sh && ./make.sh install  ##編譯安裝
##建立軟連接便于系統(tǒng)識別
[root@tracker libfastcommon-1.0.38]# ln -s /usr/lib64/libfastcommon.so /usr/local/lib/libfastcommon.so
[root@tracker libfastcommon-1.0.38]# ln -s /usr/lib64/libfdfsclient.so /usr/local/lib/libfdfsclient.so
[root@tracker libfastcommon-1.0.38]# ln -s /usr/lib64/libfdfsclient.so /usr/lib/libfdfsclient.so

2，在所有節(jié)點服務(wù)器上安裝fastDFS服務(wù)

[root@storage ~]# wget https://github.com/happyfish200/fastdfs/archive/V5.11.tar.gz
##從網(wǎng)站中下載壓縮包
[root@storage ~]# tar zxf V5.11.tar.gz -C /opt/  ##解壓
[root@storage ~]# cd /opt/fastdfs-5.11/
[root@storage fastdfs-5.11]# ./make.sh && ./make.sh install   ##編譯安裝
[root@storage fastdfs-5.11]# cd /etc/fdfs/              ##復(fù)制配置文件模板
[root@storage fdfs]# cp tracker.conf.sample tracker.conf
[root@storage fdfs]# cp storage.conf.sample storage.conf
[root@storage fdfs]# cp client.conf.sample client.conf

3，配置tracker服務(wù)器

[root@tracker fdfs]# mkdir -m 755 -p /opt/fastdfs  ##創(chuàng)建數(shù)據(jù)文件，日志文件存放目錄
[root@tracker fdfs]# vim /etc/fdfs/tracker.conf   ##修改tracker配置文件
port=22122         //tracker服務(wù)默認(rèn)端口22122即可
base_path=/opt/fastdfs      //tracker存儲data和log的跟路徑，必須提前創(chuàng)建好
http.server_port=8080 //tracker服務(wù)器上啟動http服務(wù)進程，沒裝忽略
[root@tracker fdfs]# fdfs_trackerd /etc/fdfs/tracker.conf start ##開啟服務(wù)
[root@tracker fdfs]# netstat -natp | grep 22122
tcp        0      0 0.0.0.0:22122           0.0.0.0:*               LISTEN      2678/fdfs_trackerd  
[root@tracker fdfs]# vim /etc/rc.local ##設(shè)置開機自啟
##末行添加
fdfs_trackerd   /etc/fdfs/tracker.conf start 
[root@tracker fdfs]# systemctl stop firewalld.service    ##關(guān)閉防火墻
[root@tracker fdfs]# setenforce 0

4，配置storage服務(wù)器

[root@storage fdfs]# mkdir -m 755 -p /opt/fastdfs  ##創(chuàng)建數(shù)據(jù)和日志文件目錄
[root@storage fdfs]# vim /etc/fdfs/storage.conf   ##修改storage配置文件
group_name=group1        //默認(rèn)組名，根據(jù)實際情況修改
port=23000       //storge默認(rèn)23000，同一個組的storage端口號必須一致
base_path=/opt/fastdfs          //storage日志文件的根路徑
store_path_count=1              //與下面路徑個數(shù)相同，默認(rèn)為1
store_path0=/opt/fastdfs       //提供的存儲路徑（默認(rèn)與日志文件存放在一起）
tracker_server=192.168.13.128:22122      //自己的tracker服務(wù)器IP（重點?。。。?
http.server_port=80  //http訪問文件的端口默認(rèn)為8888，nginx中配置的監(jiān)聽端口保持一致
[root@storage fdfs]# fdfs_storaged /etc/fdfs/storage.conf start  ##開啟服務(wù)
[root@storage fdfs]# netstat -ntap | grep 23000
tcp        0      0 0.0.0.0:23000           0.0.0.0:*               LISTEN      2687/fdfs_storaged  
[root@storage fdfs]# echo "fdfs_storaged   /etc/fdfs/storage.conf start" >> /etc/rc.local 
##開機自啟
[root@storage fdfs]# systemctl stop firewalld.service   ##關(guān)閉防火墻
[root@storage fdfs]# setenforce 0
[root@storage fdfs]# fdfs_monitor /etc/fdfs/storage.conf  ##檢查與tracker關(guān)聯(lián)是否成功
Storage 1:
id = 192.168.13.129
ip_addr = 192.168.13.129 (storage)  ACTIVE
...

5，在storage服務(wù)器上安裝Nginx

##這里為了減少虛擬機開啟的數(shù)量，就在storage端進行nginx的安裝
[root@storage fdfs]# wget https://github.com/happyfish200/fastdfs-nginx-module/archive/V1.20.tar.gz
##下載模塊壓縮包
[root@storage fdfs]# tar zxf V1.20.tar.gz -C /opt/   ##解壓
[root@storage fdfs]# mount.cifs //192.168.100.3/LNMP-C7 /mnt/
Password for root@//192.168.100.3/LNMP-C7:  
[root@storage fdfs]# cd /mnt/
[root@storage mnt]# tar zxvf nginx-1.12.2.tar.gz -C /opt/   ##解壓
[root@storage mnt]# cd /opt/nginx-1.12.2
[root@storage nginx-1.12.2]# ./configure \
--prefix=/usr/local/nginx \
--add-module=/opt/fastdfs-nginx-module-1.20/src/          ##fastdfs-nginx-module模塊
[root@storage nginx-1.12.2]# make && make install

##可能的報錯##
/usr/include/fastdfs/fdfs_define.h:15:27: fatal error: common_define.h: No such file or directory
##解決方案##
修改fastdfs-nginx-module-1.20/src/config文件，然后重新配置編譯安裝即可
ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

[root@storage nginx-1.12.2]# cd ../fastdfs-nginx-module-1.20/src/
[root@storage src]# cp mod_fastdfs.conf /etc/fdfs/
[root@storage src]# cd /etc/fdfs/
[root@storage fdfs]# vim mod_fastdfs.conf  ##配置fastdfs-nginx-module模塊
#檢查一下配置
base_path=/opt/fastdfs         //存放數(shù)據(jù)文件、日志的路徑
tracker_server=192.168.13.128:22122    //tracker端的地址（重點?。。。?
url_have_group_name = true  //url是否包含group名稱
storage_server_port=23000           //需要和storage配置的相同
store_path_count=1              //存儲路徑個數(shù)，需要和store_path個數(shù)匹配
store_path0=/opt/fastdfs               //文件存儲的位置
[root@storage fdfs]# vim /usr/local/nginx/conf/nginx.conf  ##配置Nginx配置文件
#空行處添加，不做這步可能會導(dǎo)致報錯
location ~/M00 {
                                root /opt/fastdfs/data;
                                ngx_fastdfs_module;
}
[root@storage fdfs]# cd /opt/fastdfs-5.11/conf/
[root@storage conf]# cp mime.types http.conf /etc/fdfs/ 
##拷貝fastdfs解壓目錄中的http.conf和mime.types

6，修改client客戶端（此處在storage服務(wù)器上使用）

[root@storage ~]# vim /etc/fdfs/client.conf
#檢查以下配置
base_path=/opt/fastdfs     ##tracker服務(wù)器文件路徑
tracker_server=192.168.13.128:22122            ##tracker服務(wù)器IP地址和端口號
http.tracker_server_port=8080 
##tracker服務(wù)器的http端口號，必須和tracker的設(shè)置對應(yīng)起來

7，fastDFS常用命令

上傳文件：

/usr/bin/fdfs_upload_file  <config_file> <local_filename>

下載文件：

/usr/bin/fdfs_download_file <config_file> <file_id> [local_filename]

刪除文件：

/usr/bin/fdfs_delete_file <config_file> <file_id>

謝謝閱讀！