如何使用Elasticsearch實(shí)時(shí)監(jiān)控VPC flow log

這篇文章給大家介紹如何使用Elasticsearch實(shí)時(shí)監(jiān)控VPC flow log，內(nèi)容非常詳細(xì)，感興趣的小伙伴們可以參考借鑒，希望對大家能有所幫助。

關(guān)鍵詞：ElasticSearch、vpc流日志、CloudWatch日志
適讀水平：有一定AWS基礎(chǔ)
適讀職業(yè)：運(yùn)維、運(yùn)營管理
應(yīng)用場景：ElasticSearch日志分析

流程架構(gòu)圖

步驟1 創(chuàng)建Elasticsearch域

登錄Elasticsearch控制臺

點(diǎn)擊“創(chuàng)建新域”，基本都是默認(rèn)設(shè)置，填寫ES域名稱

其他都可以默認(rèn)設(shè)置，“下一步”，
為了方便設(shè)置訪問權(quán)限“公有訪問權(quán)限”，

訪問策略設(shè)置“允許對域進(jìn)行公開訪問”，

注意：通常情況下應(yīng)該選擇“允許從特定ip訪問域”，但是在測試過程中總是在訪問kinana的時(shí)候報(bào)錯(cuò)"User: anonymous is not authorized to perform: es:ESHttpGet"，報(bào)錯(cuò)的解決方案可以參考官網(wǎng)文檔 https://docs.aws.amazon.com/zh_cn/elasticsearch-service/latest/developerguide/aes-handling-errors.html ，最簡單的解決辦法就是允許公開訪問，故本次操作實(shí)踐配置為允許公開訪問。
繼續(xù)“下一步”，都采用默認(rèn)設(shè)置，點(diǎn)擊“確認(rèn)”，成功創(chuàng)建ES域。

步驟2 創(chuàng)建CloudWatch日志組

切換到CloudWatch控制臺，選擇日志欄

點(diǎn)擊“創(chuàng)建日志組”，填寫日志組名稱，完成日志組創(chuàng)建，如下圖所示：

點(diǎn)擊創(chuàng)建的日志組log-vpcflow進(jìn)去，查看其內(nèi)容

因?yàn)槟壳斑€沒有日志進(jìn)來，所以為空，接下來就是要產(chǎn)生日志。

步驟3 開啟VPC flow log

本節(jié)需要做兩個(gè)工作：1）vpc flow log的產(chǎn)生，我們在vpc里面創(chuàng)建一個(gè)ec2實(shí)例即可；2）將vpc flow log 推送到CloudWatch日志組。
1）新創(chuàng)建一個(gè)ec2實(shí)例，基本操作，省略。

2）開啟vpc flow log并配置
切換到vpc控制臺，選擇“您的VPC”欄

在當(dāng)前區(qū)域，有兩個(gè)vpc，一個(gè)默認(rèn)vpc，一個(gè)是我自己創(chuàng)建的VPC（通常我都使用自己創(chuàng)建的VPC），之前的ec2實(shí)例也是在這個(gè)“vpc-xuyi”中，所以選中該VPC，在廈門可以看到有4個(gè)tab欄目，選擇其中“flow logs”

點(diǎn)擊“create flow log”，開始創(chuàng)建vpc 流日志，

其中，過濾器選擇“all”，目標(biāo)選擇“send to CloudWatch logs”，在目標(biāo)日志組選擇在步驟2中創(chuàng)建的日志組“l(fā)og-vpcflow”，現(xiàn)在還需要配置IAM角色，點(diǎn)擊藍(lán)色字體的“set up permission”

這是使用向?qū)J(rèn)配置的權(quán)限，我們無需進(jìn)行修改，點(diǎn)擊“允許即可”，即創(chuàng)建一個(gè)角色“flowlogsRole”，我們可切換到IAM控制臺查看該角色

Ok，現(xiàn)在我們需要重新回到之前未完成的流程，進(jìn)入VPC控制臺->選擇合適的vpc->創(chuàng)建vpc流日志->配置角色

點(diǎn)擊“create”

Vpc flow log創(chuàng)建完成。
再切換到CloudWatch控制臺，進(jìn)入我們創(chuàng)建的日志組中，可以看到在日志組“l(fā)og-vpcflow”
中有一條流日志

注意：此處流日志出現(xiàn)可能需要等待一段時(shí)間，點(diǎn)擊右邊的刷新圖標(biāo)，多刷幾次吧，時(shí)間不好說，可能有好幾分鐘也可能很快，總之耐心等待吧。
我們可以點(diǎn)擊流日志進(jìn)去查看（其實(shí)也沒什么好看的）

步驟4 配置CloudWatch日志組

現(xiàn)在還需要將CloudWatch日志組的日志傳到ElasticSearch域中，還是在之前創(chuàng)建的日志組界面

選擇“流式傳輸?shù)紼S”

選擇賬號“此賬戶”，ES集群選擇之前創(chuàng)建的ES域“es-vpc-log”，lambda角色選擇“創(chuàng)建IAM角色”

這里也是配置向?qū)Ыo出的默認(rèn)角色，直接允許就行，將會創(chuàng)建一個(gè)相應(yīng)的角色

允許之后，在角色部分已經(jīng)選擇好了剛剛創(chuàng)建的角色，點(diǎn)擊“下一步”

日志格式選擇“vpc流日志”，點(diǎn)擊“下一步”，一路確認(rèn)即可

最后可以看到我們的cloudwatch日志組已經(jīng)被一個(gè)lambda函數(shù)訂閱，該函數(shù)將我們的日志流式傳輸?shù)紼S域。我們也可以進(jìn)入lambda控制臺看看該函數(shù)的架構(gòu)內(nèi)容（不想看就不用進(jìn)去看了，嘿嘿）

那么上圖這個(gè)lambda函數(shù)就是我們通過使用向?qū)?chuàng)建的，這就是向?qū)У暮锰幜耍a我也不懂。

步驟5 監(jiān)控vpc flow log

切換到Elasticsearch控制臺，選中我們創(chuàng)建的域

選擇“索引”

其中的“cwl-2019.11.07”就是收集到的vpc流日志，命名中包含了2019年11月7日。
再選擇“概述”頁

點(diǎn)擊“kibana”后的鏈接，進(jìn)入kibana頁面

頁面刷新時(shí)間較長，等吧，在上圖中選擇左側(cè)的“管理”圖標(biāo)

選擇“index patterns”

這里的索引就是在前面我們看到的那條日志“cwl-2019.11.07”，將該索引填入index pattern字段，點(diǎn)擊“下一步”，就會看到將索引的結(jié)構(gòu)列出來了

再選擇左側(cè)的“發(fā)現(xiàn)”圖標(biāo)

到此為止，我們就已經(jīng)實(shí)現(xiàn)了對vpc flow log的監(jiān)視，并且可以通過Elasticsearch的kibana工具來對日志進(jìn)行可視化的展現(xiàn)。Kibana本身是一個(gè)強(qiáng)大的可視化工具，本人對此也甚了解，所以無法給出更進(jìn)一步的指導(dǎo)。

關(guān)于如何使用Elasticsearch實(shí)時(shí)監(jiān)控VPC flow log就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，可以學(xué)到更多知識。如果覺得文章不錯(cuò)，可以把它分享出去讓更多的人看到。