溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

云計(jì)算中如何對(duì)容器實(shí)例日志設(shè)置定期清理和回卷

發(fā)布時(shí)間:2021-11-19 09:30:57 來(lái)源:億速云 閱讀:137 作者:小新 欄目:云計(jì)算

小編給大家分享一下云計(jì)算中如何對(duì)容器實(shí)例日志設(shè)置定期清理和回卷,希望大家閱讀完這篇文章之后都有所收獲,下面讓我們一起去探討吧!

引言

Kubernetes對(duì)于容器實(shí)例的日志收集,并沒(méi)有提供原生的解決方案。但提供使用kubectl logs命令查看容器實(shí)例運(yùn)行時(shí)的日志。kubectl logs命令實(shí)現(xiàn)的基本原理為:容器運(yùn)行時(shí)默認(rèn)將標(biāo)準(zhǔn)輸出和標(biāo)準(zhǔn)錯(cuò)誤中的日志輸出到磁盤上保存。保存至主機(jī)目錄:/var/lib/docker/containers/container_id/目錄。用戶調(diào)用kubectl logs命令時(shí),kubelet讀取對(duì)應(yīng)的日志文件中的數(shù)據(jù),將數(shù)據(jù)回傳給master,再由master返回到用戶。從而實(shí)現(xiàn)用戶對(duì)日志的查看。

騰訊云容器服務(wù)利用kubectl logs命令,實(shí)現(xiàn)在控制臺(tái)即可查看對(duì)應(yīng)容器實(shí)例的日志,并且提供查看某個(gè)特定時(shí)間段的日志的功能,這極大的方便了用戶對(duì)容器實(shí)例中的程序進(jìn)行定位和跟蹤。但是,由于在容器實(shí)例日志保存在本地,當(dāng)程序中大量打印日志時(shí),很容易造成主機(jī)上的磁盤空間大量被占用。在日志服務(wù)上線一段時(shí)間后,發(fā)現(xiàn)用戶遇到這種情況時(shí),一般是手動(dòng)去清理日志。我們就考慮是不是有比較簡(jiǎn)單的方式,在集群節(jié)點(diǎn)對(duì)日志進(jìn)行定期清理和回卷。

通過(guò)logrotate服務(wù)實(shí)現(xiàn)日志定期清理和回卷

logrotate是個(gè)十分有用的工具,它可以自動(dòng)對(duì)日志進(jìn)行截?cái)啵ɑ蜉喲?、壓縮以及刪除舊的日志文件。例如,你可以設(shè)置logrotate,讓/var/log/foo日志文件每30天輪循,并刪除超過(guò)6個(gè)月的日志。配置完后,logrotate的運(yùn)作完全自動(dòng)化,不必進(jìn)行任何進(jìn)一步的人為干預(yù)。
但如果按照之前的部署方式,需要手動(dòng)在每個(gè)節(jié)點(diǎn)上都安裝和配置對(duì)應(yīng)logrotate工具。如果通過(guò)Kubernetes容器服務(wù)編排的能力,將logrotate通過(guò)Kubernetes中服務(wù)的方式部署到各個(gè)節(jié)點(diǎn)上,這樣既可以實(shí)現(xiàn)只需要一次部署,部署到所有節(jié)點(diǎn)。并且通過(guò)容器的方式保證了logrotate配置的一致性。

具體的實(shí)施方案如下圖所示:

云計(jì)算中如何對(duì)容器實(shí)例日志設(shè)置定期清理和回卷

方案的具體實(shí)現(xiàn)是在Kubernetes集群中,創(chuàng)建DaemonSet資源實(shí)現(xiàn)。DaemonSet資源會(huì)在每個(gè)Node節(jié)點(diǎn)上都部署一個(gè)logrotate的容器實(shí)例,并且在容器實(shí)例中設(shè)置映射主機(jī)的log日志目錄,從而實(shí)現(xiàn)日志的定時(shí)清理和回卷。

創(chuàng)建DaemonSet的示例如下

apiVersion: extensions/v1beta1
kind: DaemonSet
metadata:
  name: logrotate
spec:
  template:
    metadata:
      labels:
        app: logging
        id: logrotate
      name: logrotate
    spec:
      containers:
      - name: logrotate-es
        image: blacklabelops/logrotate
        securityContext:
          privileged: true
        volumeMounts:
         - name: containers
           mountPath: /var/lib/docker/containers
         - name: varlog
           mountPath: /var/log/docker
         - name: logs
           mountPath: /logs
        env:
        - name: LOGS_DIRECTORIES
          value: "/var/lib/docker/containers /var/log/docker"
        - name: LOGROTATE_INTERVAL
          value: "hourly"
        - name: LOGROTATE_OLDDIR
          value: "/logs"
      volumes:
         - hostPath:
             path: /var/lib/docker/containers
           name: containers
         - hostPath:
             path: /var/log/docker
           name: varlog
         - hostPath:
             path: /var/log/containers/
           name: logs

使用這個(gè)yaml文件,可以直接在Kubernetes中進(jìn)行部署。

# kubectl create -f logrotate_ds.yaml
daemonset "logrotate">

在示例的yaml文件中,logrotate服務(wù)將按照定時(shí)(1小時(shí))的對(duì)日志進(jìn)行回卷,回卷超過(guò)5個(gè)副本后則會(huì)對(duì)日志進(jìn)行清理。如果有需要,可以修改相應(yīng)的參數(shù),設(shè)置不同的回卷規(guī)則和清理規(guī)則。詳細(xì)的參數(shù)說(shuō)明可以參考:https://github.com/blacklabelops/logrotate。

通過(guò)修改dockerd參數(shù)進(jìn)行回卷和清理

由于Kubernetes的日志收集,底層是通過(guò)docker來(lái)實(shí)現(xiàn)。而docker提供了一定的日志回卷和清理功能??梢酝ㄟ^(guò)在dockerd的啟動(dòng)參數(shù)中,增加log-opts()參數(shù)實(shí)現(xiàn)對(duì)日志的回卷和清理,其中max-size參數(shù)設(shè)置日志一個(gè)副本的最大值,max-file設(shè)置日志的最大的副本數(shù)。超過(guò)這個(gè)副本數(shù)則會(huì)對(duì)日志進(jìn)行刪除。

具體的修改過(guò)程包括三個(gè)步驟:
1、創(chuàng)建/etc/dockerd/daemon.json

{
  "log-driver":"json-file",
  "log-opts":{
    "max-size" :"10m","max-file":"3"
    }
}

參數(shù)說(shuō)明: 設(shè)置單個(gè)容器日志超過(guò)10M則進(jìn)行回卷,回卷的副本數(shù)超過(guò)3個(gè)就進(jìn)行清理。

2、修改dockerd 服務(wù)配置文件
在 /etc/systemd/system/multi-user.target.wants/dockerd.serviced文件中
添加dockerd啟動(dòng)參數(shù)--config-file=/etc/docker/daemon.json

3、重新啟動(dòng)dockerd服務(wù)

systemctl daemon-reload
service dockerd restart

看完了這篇文章,相信你對(duì)“云計(jì)算中如何對(duì)容器實(shí)例日志設(shè)置定期清理和回卷”有了一定的了解,如果想了解更多相關(guān)知識(shí),歡迎關(guān)注億速云行業(yè)資訊頻道,感謝各位的閱讀!

向AI問(wèn)一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長(zhǎng)郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI