如何搭建fastdfs+nginx集群

今天就跟大家聊聊有關(guān)如何搭建fastdfs+nginx集群，可能很多人都不太了解，為了讓大家更加了解，小編給大家總結(jié)了以下內(nèi)容，希望大家根據(jù)這篇文章可以有所收獲。

1.什么是fastdfs

• fastdfs是一個(gè)輕量級(jí)的開(kāi)源分布式文件系統(tǒng)；
• fastdfs主要解決了大容量的文件存儲(chǔ)和高并發(fā)訪問(wèn)的問(wèn)題，文件存取時(shí)實(shí)現(xiàn)了負(fù)載均衡；
• fastdfs實(shí)現(xiàn)了軟件方式的RAID，可以使用廉價(jià)的IDE硬盤(pán)進(jìn)行存儲(chǔ)支持存儲(chǔ)服務(wù)器在線擴(kuò)容支持相同內(nèi)容的文件只保存一份，節(jié)約磁盤(pán)空間；
• fastdfs只能通過(guò)Client API訪問(wèn)，不支持POSIX訪問(wèn)方式；
• fastdfs特別適合大中型網(wǎng)站使用，用來(lái)存儲(chǔ)資源文件（如：圖片、文檔、音頻、視頻等等）。

2.fastdfs框架圖

作者（YuQing）給出了框架圖如下：

其中：

Tracker Server：跟蹤服務(wù)器，主要做調(diào)度工作，在訪問(wèn)上起負(fù)載均衡的作用。記錄storage server的狀態(tài)，是連接Client和Storage server的樞紐。
Storage Server：存儲(chǔ)服務(wù)器，文件和meta data都保存到存儲(chǔ)服務(wù)器上
group：組，也可稱(chēng)為卷。同組內(nèi)服務(wù)器上的文件是完全相同的文件標(biāo)識(shí)：包括兩部分：組名和文件名（包含路徑）
meta data：文件相關(guān)屬性，鍵值對(duì)（Key Value Pair）方式，如：width=1024,heigth=768

 3.上傳文件流程

 （1）client詢問(wèn)tracker上傳到的storage，不需要附加參數(shù)；
 （2）tracker返回一臺(tái)可用的storage；
 （3）client直接和storage通訊完成文件上傳。 

4.下載文件流程

（1）client詢問(wèn)tracker下載文件的storage，參數(shù)為文件標(biāo)識(shí)（組名和文件名）；
（2）tracker返回一臺(tái)可用的storage；
（3）client直接和storage通訊完成文件下載。

5.同步機(jī)制

（1）同一組內(nèi)的storage server之間是對(duì)等的，文件上傳、刪除等操作可以在任意一臺(tái)storage server上進(jìn)行；
（2）文件同步只在同組內(nèi)的storage server之間進(jìn)行，采用push方式，即源服務(wù)器同步給目標(biāo)服務(wù)器；
（3）源頭數(shù)據(jù)才需要同步，備份數(shù)據(jù)不需要再次同步，否則就構(gòu)成環(huán)路了；
（4）上述第二條規(guī)則有個(gè)例外，就是新增加一臺(tái)storage server時(shí)，由已有的一臺(tái)storage server將已有的所有數(shù)據(jù)（包括源頭數(shù)據(jù)和備份數(shù)據(jù)）同步給該新增服務(wù)器。

6.tracker server目錄結(jié)構(gòu)

（1）data

         storage_groups.dat：存儲(chǔ)分組信息

         storage_servers.dat：存儲(chǔ)服務(wù)器列表  

（2）logs

          trackerd.log：tracker server日志文件

7.storage server目錄結(jié)構(gòu)

1）data

         .data_init_flag：當(dāng)前storage server初始化信息

         storage_stat.dat：當(dāng)前storage server統(tǒng)計(jì)信息

         sync：存放數(shù)據(jù)同步相關(guān)文件

                 binlog.index：當(dāng)前的binlog文件索引號(hào)

                 binlog.###：存放更新操作記錄（日志）

                 ${ip_addr}_${port}.mark：存放同步的完成情況

（2）logs

              storaged.log：storage server日志文件

以上理論參考：

ChinaUnix論壇：http://bbs.chinaunix.net/forum-240-1.html

github下載地址：https://github.com/happyfish200

二、fastdfs安裝和測(cè)試

1.下載

需要下載：libfastcommon     fastdfs（2.0之前的版本需要以來(lái)libevent）

2.安裝

（1）安裝libfastcommon

$ tar xzvf libfastcommon-1.0.38.tar.gz
$ cd libfastcommon-1.0.38
$ ./make.sh
$ sudo ./make.sh install

（2）安裝fastdfs

$ tar xzvf fastdfs-5.11.tar.gz
$ cd fastdfs-5.11
$ ./make.sh
$ sudo ./make.sh install

3.配置

集群搭建拓?fù)鋱D（由于硬盤(pán)不夠了，下面192.168.31.4和192.168.31.14現(xiàn)在還沒(méi)有，擴(kuò)容后加上）

（1）配置tracker（192.168.31.95/192.168.31.99）

$cd /etc/fdfs/

目錄文件如下：

然后，執(zhí)行如下：

$sudo su
#cp tracker.conf.sample tracker.conf

配置tracker.conf文件：

vim tracker.conf

修改：base_path=/home/fastdfs/tracker （注意：在啟動(dòng)前必須存在此目錄，否則會(huì)報(bào)錯(cuò)，找不到路徑，也就是說(shuō)需要手動(dòng)新建tracker目錄）

啟動(dòng)：

/etc/init.d/fdfs_trackerd start

（2）配置storage（192.168.31.2/192.168.31.12）

$ cd /etc/fdfs
$sudo su
#cp storage.conf.sample storage.conf

修改：

group_name=group1（192.168.31.2） 或者group2（192.168.31.12）

base_path=/home/fastdfs/storage

store_path0=/home/fastdfs/storage

修改：tracker服務(wù)ip與port：

tracker_server=192.168.31.95:22122  （注意：這里31.2 tracker_server配置31.95 ，31.12 tracker_server配置31.99）

啟動(dòng)：

/etc/init.d/fdfs_storaged start

查看fastdfs的相應(yīng)配置信息

# fdfs_monitor /etc/fdfs/storage.conf

 有以下信息才算成功：

測(cè)試上傳, 選擇192.168.31.99 tracker機(jī)器當(dāng)做fdfs_client

$ cd /etc/fdfs

$ sudo su

# cp client.conf.sample client.conf

# vim client.conf

修改：

base_path = /home/fastdfs

tracker_server=192.168.31.99:22122

測(cè)試上傳net.png文件：

fdfs_upload_file /etc/fdfs/client.conf net.png

三、nginx配置

需要安裝：

fastdfs-nginx-module-1.20  類(lèi)似插件的東西

nginx-1.14.2.tar.gz

安裝nginx需要先安裝：

openssl       zlib     pcre

把a(bǔ)stdfs-nginx-module插入到nginx（需要對(duì)nginx進(jìn)行configure和make&&make install）

./configure --add-module=../../fastdfs-nginx-module/src/

 會(huì)報(bào)錯(cuò)：需要修改fastdfs-nginx-module-1.20/src/config文件

ngx_addon_name=ngx_http_fastdfs_module

if test -n "${ngx_module_link}"; then
  ngx_module_type=HTTP
  ngx_module_name=$ngx_addon_name
  ngx_module_incs="/usr/local/include"
  ngx_module_libs="-lfastcommon -lfdfsclient"
  ngx_module_srcs="$ngx_addon_dir/ngx_http_fastdfs_module.c"
  ngx_module_deps=
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
  . auto/module
else
  HTTP_MODULES="$HTTP_MODULES ngx_http_fastdfs_module"
  NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_fastdfs_module.c"
  CORE_INCS="$CORE_INCS /usr/local/include"
  CORE_LIBS="$CORE_LIBS -lfastcommon -lfdfsclient"
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
fi

修改為：

ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"

ngx_addon_name=ngx_http_fastdfs_module

if test -n "${ngx_module_link}"; then
  ngx_module_type=HTTP
  ngx_module_name=$ngx_addon_name
  ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
  ngx_module_libs="-lfastcommon -lfdfsclient"
  ngx_module_srcs="$ngx_addon_dir/ngx_http_fastdfs_module.c"
  ngx_module_deps=
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
  . auto/module
else
  HTTP_MODULES="$HTTP_MODULES ngx_http_fastdfs_module"
  NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_fastdfs_module.c"
  CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
  CORE_LIBS="$CORE_LIBS -lfastcommon -lfdfsclient"
  CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'"
fi

然后重新configure 和make && make install

接下來(lái)，cp mod_fastdfs.conf /etc/fdfs/ 并修改mod_fastdfs.conf文件

$ cd fastdfs-nginx-module-1.20/src
$ cp mod_fastdfs.conf /etc/fdfs/

修改mod_fastdfs.conf

tracker_server=192.168.31.99:22122
store_path0=/home/fastdfs/storage
group_name=group1

[group1]
group_name=group1
storage_server_port=23000
store_path_count=1
store_path0=/home/fastdfs/storage


[group2]
group_name=group2
storage_server_port=23000
store_path_count=1
store_path0=/home/fastdfs/storage

 將fastdfs-5.11/conf/

$ cp http.conf /etc/fdfs/
$ cp mime.types /etc/fdfs/

修改：http.conf

http.anti_steal.token_check_fail=/home/fastdfs/fastdfs-5.11/conf/

修改nginx.conf 

cd /usr/local/nginx/sbin
vim ../conf/nginx.conf

 8888端口號(hào)與/etc/fdfs/storage.conf中的http.server_port=8888相對(duì)應(yīng)

上傳一張圖片

http://192.168.31.12:8888/group1/M00/00/00/wKgfDFzxVTyAM4suABWWvfB6x_k962.png

看完上述內(nèi)容，你們對(duì)如何搭建fastdfs+nginx集群有進(jìn)一步的了解嗎？如果還想了解更多知識(shí)或者相關(guān)內(nèi)容，請(qǐng)關(guān)注億速云行業(yè)資訊頻道，感謝大家的支持。