OpenStack的metadata的獲取機(jī)制是什么

在云計(jì)算中，Metadata 并不是一個(gè)陌生的概念。從字面上看，Metadata 是元數(shù)據(jù)的意思。而在云計(jì)算中，Metadata 服務(wù)能夠向虛機(jī)注入一些額外的信息，這樣虛機(jī)在創(chuàng)建之后可以有一些定制化的配置。在 OpenStack 中，Metadata 服務(wù)能夠向虛機(jī)提供主機(jī)名，ssh 公鑰，用戶傳入的一些定制數(shù)據(jù)等其他信息。這些數(shù)據(jù)被分為兩類：metadata和user data，metadata主要包括虛機(jī)自身的一些數(shù)據(jù)比如hostname、ssh秘鑰、網(wǎng)絡(luò)配置等，而user data主要包括一些定制的腳本、命令等。但是不管是哪一種數(shù)據(jù)，openstack向虛機(jī)提供數(shù)據(jù)的方式是一致的。

Metadata 的獲取機(jī)制

在 OpenStack 中，虛擬機(jī)獲取 Metadata 信息的方式有兩種：Config drive 和 metadata RESTful 服務(wù)。下面我們分別對(duì)這兩種機(jī)制進(jìn)行介紹與分析

Config drive

Config drive 機(jī)制是指 OpenStack 將 metadata 信息寫入虛擬機(jī)的一個(gè)特殊的配置設(shè)備中，然后在虛擬機(jī)啟動(dòng)時(shí)，自動(dòng)掛載并讀取 metadata 信息，從而達(dá)到獲取 metadata 的目的。在客戶端操作系統(tǒng)中，存儲(chǔ) metadata 的設(shè)備需要是 ISO9660 或者 VFAT 文件系統(tǒng)。具體的實(shí)現(xiàn)會(huì)根據(jù) Hypervisor 的不同和配置有所差異，以 libvirt 為例：OpenStack 會(huì)將 metadata 寫入 libvirt 的虛擬磁盤文件中，并指示 libvirt 將其虛擬為 cdrom 設(shè)備，如圖 1 和圖 2 所示。另一方面，虛擬機(jī)在啟動(dòng)時(shí)，客戶操作系統(tǒng)中的 cloud-init 會(huì)去掛載并讀取該設(shè)備，然后根據(jù)所讀取出的內(nèi)容對(duì)虛擬機(jī)進(jìn)行配置。

圖 1.虛擬機(jī)定義的 xml 文件

圖 2.存儲(chǔ) metadata 的虛擬磁盤文件

當(dāng)然，要實(shí)現(xiàn)上述功能，需要宿主機(jī)和虛擬機(jī)鏡像兩者協(xié)同完成，它們需要各自滿足一些條件：

宿主機(jī)（OpenStack 的計(jì)算節(jié)點(diǎn)）

• 支持 config drive 機(jī)制的 Hypervisors 有：libvirt、hyper-v 和 VMware。當(dāng)使用 libvirt 和 VMware 作為 Hypervisor 時(shí)，需要確保宿主機(jī)上安裝有 genisoimage 程序，并且設(shè)置 mkisofs_cmd 標(biāo)志為 genisoimage 的位置。當(dāng)使用 hyper-v 作為 Hypervisor 時(shí)，需要設(shè)置 mkisofs_cmd 標(biāo)志為 mkisofs.exe 的全路徑，此外還需要在 hyper-v 的配置文件中設(shè)置 qume_img_cmd 為 qemu-img 命令的路徑。

虛擬機(jī)鏡像

• 虛擬機(jī)鏡像需要確保安裝了 cloud-init。如果沒有安裝 cloud-init，需要自行編寫腳本，實(shí)現(xiàn)在虛擬機(jī)啟動(dòng)期間掛載配置磁盤、讀取數(shù)據(jù)、解析數(shù)據(jù)并且根據(jù)數(shù)據(jù)內(nèi)容執(zhí)行相應(yīng)動(dòng)作。

OpenStack 提供了命令行參數(shù)–config-drive 用于配置是否在創(chuàng)建虛擬機(jī)時(shí)使用 config drive 機(jī)制。比如：

清單 1

#nova boot --config-drive=true --image image-name --key-name mykey --flavor 1 --user-data./my-user-data.txt myinstance --file /etc/network/interfaces=/home/myuser/instance-interfaces

或者也可以如清單 2 所示，在/etc/nova/nova.conf 中配置，使得 OpenStack 計(jì)算服務(wù)在創(chuàng)建虛擬機(jī)時(shí)默認(rèn)使用 config drive 機(jī)制。

清單 2

force_config_drive=true

用戶可以在虛擬機(jī)中查看寫入的 metadata 信息，如果客戶操作系統(tǒng)支持通過標(biāo)簽訪問磁盤的話，可以使用如下命令查看：

清單 3

#mkdir -p /mnt/config#mount /dev/disk/by-label/config-2 /mnt/config

Metadata RESTful 服務(wù)

OpenStack 提供了 RESTful 接口，虛擬機(jī)可以通過 REST API 來獲取 metadata 信息。提供該服務(wù)的組件為：nova-api-metadata。當(dāng)然，要完成從虛擬機(jī)至網(wǎng)絡(luò)節(jié)點(diǎn)的請(qǐng)求發(fā)送和相應(yīng)，只有 nova-api-metadata 服務(wù)是不夠的，此外共同完成這項(xiàng)任務(wù)的服務(wù)還有：Neutron-metadata-agent 和 Neutron-ns-metadata-proxy。下面我們將剖析它們是如何協(xié)同工作為虛擬機(jī)提供 metadata 服務(wù)的。

Nova-api-metadata

nova-api-metadata 啟動(dòng)了 RESTful 服務(wù)，負(fù)責(zé)處理虛擬機(jī)發(fā)送來的 REST API 請(qǐng)求。從請(qǐng)求的 HTTP 頭部中取出相應(yīng)的信息，獲得虛擬機(jī)的 ID，繼而從數(shù)據(jù)庫中讀取虛擬機(jī)的 metadata 信息，最后將結(jié)果返回。

Neutron-metadata-agent

Neutron-metadata-agent 運(yùn)行在網(wǎng)絡(luò)節(jié)點(diǎn)，負(fù)責(zé)將接收到的獲取 metadata 的請(qǐng)求轉(zhuǎn)發(fā)給 nova-api-metadata。Neutron-metadata-agent 會(huì)獲取虛擬機(jī)和租戶的 ID，添加到請(qǐng)求的 HTTP 頭部中。nova-api-metadata 會(huì)根據(jù)這些信息獲取 metadata。

Neutron-ns-metadata-proxy

Neutron-ns-metadata-proxy 也運(yùn)行在網(wǎng)絡(luò)節(jié)點(diǎn)。為了解決網(wǎng)絡(luò)節(jié)點(diǎn)的網(wǎng)段和租戶的虛擬網(wǎng)段重復(fù)的問題，OpenStack 引入了網(wǎng)絡(luò)命名空間。Neutron 中的路由和 DHCP 服務(wù)器都在各自獨(dú)立的命名空間中。由于虛擬機(jī)獲取 metadata 的請(qǐng)求都是以路由和 DHCP 服務(wù)器作為網(wǎng)絡(luò)出口，所以需要通過 neutron-ns-metadata-proxy 聯(lián)通不同的網(wǎng)絡(luò)命名空間，將請(qǐng)求在網(wǎng)絡(luò)命名空間之間轉(zhuǎn)發(fā)。Neutron-ns-metadata-proxy 利用在 unix domain socket 之上的 HTTP 技術(shù)，實(shí)現(xiàn)了不同網(wǎng)絡(luò)命名空間之間的 HTTP 請(qǐng)求轉(zhuǎn)發(fā)。并在請(qǐng)求頭中添加’X-Neutron-Router-ID’和’X-Neutron-Network-ID’信息，以便 Neutron-metadata-agent 來辨別發(fā)送請(qǐng)求的虛擬機(jī)，獲取虛擬機(jī)的 ID。

圖 3.Metadata 請(qǐng)求發(fā)送流程

如圖 3 所示，虛擬機(jī)獲取 metadata 的大致流程為：首先請(qǐng)求被發(fā)送至 neutron-ns-metadata-proxy，此時(shí)會(huì)在請(qǐng)求中添加 router-id 和 network-id，然后請(qǐng)求通過 unix domian socket 被轉(zhuǎn)發(fā)給 neutron-metadata-agent，根據(jù)請(qǐng)求中的 router-id、network-id 和 IP，獲取 port 信息，從而拿到 instance-id 和 tenant-id 加入請(qǐng)求中，最后請(qǐng)求被轉(zhuǎn)發(fā)給 nova-api-metadata，其利用 instance-id 和 tenant-id 獲取虛擬機(jī)的 metadata，返回相應(yīng)。

上面我們分析了各個(gè)服務(wù)之間轉(zhuǎn)發(fā)請(qǐng)求的流程，那么現(xiàn)在只存在一個(gè)問題，整個(gè)獲取 metadata 的路線就通暢了：虛擬機(jī)如何將請(qǐng)求發(fā)送至 neutron-ns-metadata-proxy？

我們首先來分析虛擬機(jī)發(fā)送的請(qǐng)求。由于 metadata 最早是由亞馬遜提出的，當(dāng)時(shí)規(guī)定 metadata 服務(wù)的地址為 169.254.169.254:80，OpenStack 沿用了這一規(guī)定。所以虛擬機(jī)會(huì)向 169.254.169.254:80 發(fā)送 medtadata 請(qǐng)求。那么這一請(qǐng)求是如何從虛擬機(jī)中發(fā)送出來的呢？目前 Neutron 有兩種方式來解決這個(gè)問題：通過 router 發(fā)送請(qǐng)求和通過 DHCP 發(fā)送請(qǐng)求。 通過 router 發(fā)送請(qǐng)求 如果虛擬機(jī)所在 subnet 連接在了 router 上，那么發(fā)向 169.254.169.254 的報(bào)文會(huì)被發(fā)至 router。

如圖 4 所示，Neutron 通過在 router 所在網(wǎng)絡(luò)命名空間添加 iptables 規(guī)則，將該報(bào)文轉(zhuǎn)發(fā)至 9697 端口，而 neutron-ns-metadata-proxy 監(jiān)聽著該端口，所以報(bào)文被 neutron-ns-metadata-proxy 獲取，進(jìn)入上述后續(xù)處理和轉(zhuǎn)發(fā)流程。

圖 4.router 所在網(wǎng)絡(luò)命名空間的 iptables 規(guī)則

圖 5.監(jiān)聽在 9697 端口上的 Neutron-ns-metadata-proxy 服務(wù)

通過 DHCP 發(fā)送請(qǐng)求

如果虛擬機(jī)所在 subnet 沒有連接在任何 router 上，那么請(qǐng)求則無法通過 router 轉(zhuǎn)發(fā)。此時(shí) Neutron 通過 DHCP 服務(wù)器來轉(zhuǎn)發(fā) metadata 請(qǐng)求。DHCP 服務(wù)通過 DHCP 協(xié)議的選項(xiàng) 121 來為虛擬機(jī)設(shè)置靜態(tài)路由。如圖 6 所示，圖中 10.0.0.3 為 DHCP 服務(wù)器的 IP 地址。通過查看虛擬機(jī)的靜態(tài)路由表，我們可以發(fā)現(xiàn)發(fā)送至 169.254.169.254 的報(bào)文被發(fā)送到了 10.0.0.3，即 DHCP 服務(wù)器。

圖 6.虛擬機(jī)中的靜態(tài)路由表

另外再查看 DHCP 服務(wù)器的 IP 配置信息，發(fā)現(xiàn) DHCP 服務(wù)器配置了兩個(gè) IP，其中一個(gè)就是 169.254.169.254。與 router 類似的，Neutron 在 DHCP 網(wǎng)絡(luò)命名空間中啟動(dòng)了監(jiān)聽 80 端口的 neutron-ns-metadata-proxy 服務(wù)，從而進(jìn)入處理和轉(zhuǎn)發(fā)請(qǐng)求的流程。

圖 7.DHCP 服務(wù)器的 IP 配置