如何利用MongoDB存儲(chǔ)Docker日志詳解

前言

日志是系統(tǒng)很重要的一個(gè)組成部分，通過(guò)日志可以及時(shí)發(fā)現(xiàn)系統(tǒng)中存在的問(wèn)題，也可以為修復(fù)問(wèn)題提供線索。Docker提供了多種插件方式管理日志，本文就對(duì)使用MongoDB存儲(chǔ)Docker日志的過(guò)程做個(gè)記錄。

數(shù)據(jù)流

Docker產(chǎn)生的日期 發(fā)送到 FluentD，然后FluentD在轉(zhuǎn)存到MongoDB。

配置Fluentd

前提：操作系統(tǒng)是CentOS7，已安裝MongoDB3.4

1. 安裝Fluentd

CentOS 7的軟件庫(kù)并沒(méi)有包含F(xiàn)luentd的安裝包，所以需要手動(dòng)安裝。在CentOS使用的軟件td-agent。

# curl -L https://toolbelt.treasuredata.com/sh/install-redhat-td-agent3.sh | sh

上面命令會(huì)在/etct/yum.repo.d/目錄中，創(chuàng)建一個(gè)td-agent的安裝庫(kù) td.repo，然后自動(dòng)安裝td-agent。安裝完畢后設(shè)為自動(dòng)啟動(dòng)。

# systemctl start td-agent
# systemctl enable td-agent

如果在啟動(dòng)過(guò)程中出現(xiàn)問(wèn)題，可以查看位于/var/log/td-agent/下日志文件td-agent.log

2. 配置將docker日志轉(zhuǎn)存到MongoDB

轉(zhuǎn)存到MongoDB需要插件支持，但是默認(rèn)情況下td-agent是沒(méi)有安裝該插件的，需要安裝。

# yum -y install td-agent-gemt
# td-agent-gem install fluent-plugin-mongo

編輯/etc/td-agent/td-agent.conf，增加

## match tag=docker.* and dump to mongodb
## 在docker啟動(dòng)容器時(shí)，日志的tag要符合docker.*的形式
<match docker.*>
 @type mongo
 # 數(shù)據(jù)庫(kù)地址
 host 127.0.0.1
 # 數(shù)據(jù)庫(kù)端口
 port 22017
 # 存儲(chǔ)日志的數(shù)據(jù)庫(kù)和數(shù)據(jù)集名稱(chēng)
 database docker
 collection log
</match>

重啟td-agent。

啟動(dòng)容器

啟動(dòng)容器的命令改為：

$ docker run --mount type=bind,source=/home/demo/app,destination=/app --log-driver=fluentd --log-opt tag="docker.log" python3:latest python3 /app/test.py

運(yùn)行完畢后，可以到MongoDB中查看日志。

后續(xù)

但是在實(shí)際的使用過(guò)程中，卻發(fā)現(xiàn)Docker生成的日志并不會(huì)立即寫(xiě)入到MongoDB中，有大概1分鐘左右的延遲。

查閱Fluentd的文檔得知，有一個(gè)flush參數(shù)可以控制日志的寫(xiě)入頻率，默認(rèn)的是60s。更改flush_interval參數(shù)就可以提高寫(xiě)入頻率，具體更改如下：

## match tag=docker.* and dump to console <match docker.*> @type mongo host 127.0.0.1 port 22017 database docker collection log <buffer> flush_mode interval flush_interval 1s </buffer> </match>

剛開(kāi)始對(duì)文檔理解不太透徹，增加了flush_interval參數(shù)后，并沒(méi)有發(fā)揮作用，第一次更改時(shí)，并沒(méi)有將flush_mode和flush_interval放在buffer結(jié)構(gòu)中。也就是：

## match tag=docker.* and dump to console <match docker.*> @type mongo host 127.0.0.1 port 22017 database docker collection log flush_mode interval flush_interval 1s </match>

從日志中也可以看出上面的配置，并沒(méi)有發(fā)揮作用：

2018-01-19 14:33:32 +0800 [warn]: parameter '**flush_mode**' in <match docker.*> @type mongo host "1270.0.0.1" port 22017 database "docker" collection "log" flush_mode interval flush_interval 1s buffer_chunk_limit 8m time_key time <inject> time_key time time_format %Y-%m-%d %H:%M:%S.%L </inject> </match> is not used.

上面說(shuō)flush_mode并沒(méi)有起作用。

總結(jié)

以上就是這篇文章的全部?jī)?nèi)容了，希望本文的內(nèi)容對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值，如果有疑問(wèn)大家可以留言交流，謝謝大家對(duì)億速云的支持。

參考文檔：

• https://docs.treasuredata.com/articles/td-agent
• https://docs.docker.com/engine/admin/logging/fluentd/
• https://docs.fluentd.org/v1.0/articles/out_mongo