CentOS7上的mongodb分片群集

CentOS7的mongodb分片群集

簡介

高數(shù)據(jù)量和吞吐量的數(shù)據(jù)庫應(yīng)用會對單機(jī)的性能造成較大的壓力，大的查詢量會將單機(jī)的CPU耗盡，大的數(shù)據(jù)量對單機(jī)的存儲壓力較大，最終會耗盡系統(tǒng)的內(nèi)存而將壓力轉(zhuǎn)移到磁盤IO上。
mongodb分片是使用多個服務(wù)器存儲數(shù)據(jù)的方法，以支持巨大的數(shù)據(jù)存儲和對數(shù)據(jù)進(jìn)行操作。分片技術(shù)可以滿足Mongodb數(shù)據(jù)量大量增長的需求。，當(dāng)一臺mongodb服務(wù)器不足以存儲海量數(shù)據(jù)或不足以提供可接受的讀寫吞吐量時，就可以通過在多臺服務(wù)器上分割數(shù)據(jù)，使得數(shù)據(jù)庫系統(tǒng)能存儲和處理更多的數(shù)據(jù)。

分片的優(yōu)勢

• 使用分片減少了每個分片需要處理的請求數(shù)，通過水平擴(kuò)展，群集可以提高自己的存儲容量和吞吐量。

• 使用分片減少了每個分片存儲的數(shù)據(jù)

分片群集的組成

1. Shard：分片服務(wù)器，用于存儲實際的數(shù)據(jù)塊
2. configserver：配置服務(wù)器，存儲整個分片群集的配置信息
3. routers：路由服務(wù)器

分片群集管理的實驗

實驗配置圖如上

下面開始實驗，這里我在一臺機(jī)器上開啟多個實例來代替多臺服務(wù)器

安裝mongodb3.2版本（手工編譯安裝）

• 安裝軟件環(huán)境包

yum -y install openssl-devel

• 解壓縮mongodb軟件包

tar zxvf mongodb-linux-x86_64-3.2.1.tgz -C /opt

• 移動軟件包至系統(tǒng)識別的目錄下

mv mongodb-linux-x86_64-3.2.1/ /usr/local/mongodb

• 創(chuàng)建mongodb的數(shù)據(jù)存儲（/data/mongodb1、2、3、4、）和日志存儲目錄（/data/logs）

mkdir -p /data/mongodb/mongodb{1,2,3,4}

mkdir /data/mongodb/logs

touch /data/mongodb/logs/mongodb{1,2,3,4}.log

chmod -R 777 /data/mongodb/logs/*.log

• 設(shè)置ulimit -n和ulimit -u 的值

當(dāng)mongodb處于頻繁訪問的狀態(tài)，如果shell啟動進(jìn)程所占用的資源設(shè)置過低，將會產(chǎn)生錯誤導(dǎo)致無法連接mongodb實例，所以這里需要設(shè)置ulimit -n和ulimit -u 的值大于20000
ulimit -n 25000
ulimit -u 25000

• 創(chuàng)建配置服務(wù)器的配置文件

cd /usr/local/mongodb/bin/
vim mongodb1.conf

port=37017           #端口
dbpath=/data/mongodb/mongodb1    #數(shù)據(jù)存儲位置
logpath=/data/mongodb/logs/mongodb1.log    #日志存儲位置
logappend=true   #錯誤日志采用追加模式，配置這個選項后mongodb的日志會追加到現(xiàn)有的日志文件，而不是從新創(chuàng)建一個新文件     
fork=true      #后臺運行
maxConns=5000    #最大同時連接數(shù)
storageEngine=mmapv1    #指定存儲引擎為內(nèi)存映射文件
configsvr=true    #指定配置服務(wù)器的模式

• 設(shè)置內(nèi)核參數(shù)
  當(dāng)某節(jié)點內(nèi)存不足時，系統(tǒng)會從其他節(jié)點分配內(nèi)存

sysctl -w vm.zone_reclaim_mode=0 #永久設(shè)置
echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

• 創(chuàng)建軟鏈接，方便管理

ln -s /usr/local/mongodb/bin/mongo /usr/bin/mongo
ln -s /usr/local/mongodb/bin/mongod /usr/bin/mongod

• 開啟第一個實例（配置服務(wù)器）

• 配置分片服務(wù)器的實例
  復(fù)制生成配置文件

  cp -p mongodb1.conf mongodb2.conf #復(fù)制配置服務(wù)器的配置文件生成實例2的配置文件
  cp -p mongodb1.conf mongodb3.conf #復(fù)制配置服務(wù)器的配置文件生成實例2的配置文件

• 修改實例2、3的配置文件

vim mongodb2.conf

port=47017               #修改端口號 
dbpath=/data/mongodb/mongodb2       #修改數(shù)據(jù)存放目錄
logpath=/data/mongodb/logs/mongodb2.log      #修改日志存放目錄
logappend=true
  fork=true
maxConns=5000
storageEngine=mmapv1
shardsvr=true          #指定分片服務(wù)器的模式

vim mongodb3.conf

port=47018
dbpath=/data/mongodb/mongodb3
logpath=/data/mongodb/logs/mongodb3.log
logappend=true
fork=true
maxConns=5000
storageEngine=mmapv1
shardsvr=true

• 開啟兩個分片服務(wù)器的實例

mongod -f mongodb2.conf
mongod -f mongodb3.conf

• 啟動路由服務(wù)器

./mongos --port 27017 --fork --logpath=/usr/local/mongodb/bin/route.log --configdb 192.168.234.177:37017 --chunkSize 1

這里關(guān)于mongos命令不知道該怎么使用，可以查看幫助信息

• 啟用分片服務(wù)器

mongo

• 添加分片服務(wù)器

sh.addShard("192.168.234.177:47017")
sh.addShard("192.168.234.177:47018")

添加分片服務(wù)器之后再次查看

• 測試分片功能

  mongos> show dbs
  config 0.031GB
  mongos> use kgc #進(jìn)入并創(chuàng)建一個use的集合
  switched to db kgc
  mongos> db.users.insert({"id":1,"name":"zhangsan"}) #添加一條數(shù)據(jù)
  WriteResult({ "nInserted" : 1 })
  mongos> for(var i=2;i<=20000;i++)db.users.insert({"id":i,"name":"zyc"+i}) #使用for循環(huán)添加20000條數(shù)據(jù)
  WriteResult({ "nInserted" : 1 })
  mongos> show dbs #查看表空間就會有一個kgc
  config 0.031GB
  kgc 0.078GB
  mongos> show tables #查看表信息也可以看到users表
  system.indexes
  users

• 開啟分片功能

sh.enableSharding("kgc")

• 對數(shù)據(jù)庫中的集合開啟分片

db.users.createIndex({"id":1}) #對users表創(chuàng)建索引
sh.shardCollection("kgc.users",{"id":1}) #表分片
sh.status() #此時再次查看，就可以已經(jīng)進(jìn)行分片處理了

到這里mongodb分片群集管理的介紹就全部完成了，如果覺得有幫助記得點贊、打賞下小弟哦?。。?/strong>