一份微服務(wù)架構(gòu)手稿圖，徹底搞定微服務(wù)核心原理

微服務(wù)的概念最早在 2012 年提出，在 Martin Fowler 的大力推廣下，微服務(wù)在 2014 年后得到了大力發(fā)展。今天我們通過一組手繪圖來梳理下微服務(wù)的核心架構(gòu)。

什么是微服務(wù)？

微服務(wù) Microservices 之父，馬丁.福勒，對微服務(wù)大概的概述如下：

就目前而言，對于微服務(wù)業(yè)界并沒有一個統(tǒng)一的、標準的定義（While there is no precise definition of this architectural style ) 。

但通常在其而言，微服務(wù)架構(gòu)是一種架構(gòu)模式或者說是一種架構(gòu)風(fēng)格，它提倡將單一應(yīng)用程序劃分成一組小的服務(wù)，每個服務(wù)運行獨立的自己的進程中，服務(wù)之間互相協(xié)調(diào)、互相配合，為用戶提供最終價值。

服務(wù)之間采用輕量級的通信機制互相溝通（通常是基于 HTTP 的 RESTful API ) 。每個服務(wù)都圍繞著具體業(yè)務(wù)進行構(gòu)建，并且能夠被獨立地部署到生產(chǎn)環(huán)境、類生產(chǎn)環(huán)境等。

另外，應(yīng)盡量避免統(tǒng)一的、集中式的服務(wù)管理機制，對具體的一個服務(wù)而言，應(yīng)根據(jù)業(yè)務(wù)上下文，選擇合適的語言、工具對其進行構(gòu)建，可以有一個非常輕量級的集中式管理來協(xié)調(diào)這些服務(wù)?？梢允褂貌煌恼Z言來編寫服務(wù)，也可以使用不同的數(shù)據(jù)存儲。

根據(jù)馬丁.福勒的描述，我總結(jié)了以下幾點：

①小服務(wù)

小服務(wù)，沒有特定的標準或者規(guī)范，但他在總體規(guī)范上一定是小的。

②進程獨立

每一組服務(wù)都是獨立運行的，可能我這個服務(wù)運行在 Tomcat 容器，而另一個服務(wù)運行在 Jetty 上?？梢酝ㄟ^進程方式，不斷的橫向擴展整個服務(wù)。

③通信

過去的協(xié)議都是很重的，就像 ESB，就像 SOAP，輕通信，這意味著相比過去更智能更輕量的服務(wù)相互調(diào)用，就所謂 smart endpoints and dumb pipes。

這些 Endpoint 都是解耦的，完成一個業(yè)務(wù)通信調(diào)用串起這些 Micro Service 就像是 Linux 系統(tǒng)中通過管道串起一系列命令業(yè)務(wù)。

過去的業(yè)務(wù)，我們通常會考慮各種各樣的依賴關(guān)系，考慮系統(tǒng)耦合帶來的問題。微服務(wù)，可以讓開發(fā)者更專注于業(yè)務(wù)的邏輯開發(fā)。

④部署

不止業(yè)務(wù)要獨立，部署也要獨立。不過這也意味著，傳統(tǒng)的開發(fā)流程會出現(xiàn)一定程度的改變，開發(fā)的適合也要有一定的運維職責(zé)。

⑤管理

傳統(tǒng)的企業(yè)級 SOA 服務(wù)往往很大，不易于管理，耦合性高，團隊開發(fā)成本比較大。

微服務(wù)，可以讓團隊各思其政的選擇技術(shù)實現(xiàn)，不同的 Service 可以根據(jù)各自的需要選擇不同的技術(shù)棧來實現(xiàn)其業(yè)務(wù)邏輯。

微服務(wù)的利與弊

為什么用微服務(wù)呢？因為好玩？不是的。下面是我從網(wǎng)絡(luò)上找到說的比較全的優(yōu)點：

• 優(yōu)點是每個服務(wù)足夠內(nèi)聚，足夠小，代碼容易理解這樣能聚焦一個指定的業(yè)務(wù)功能或業(yè)務(wù)需求。

• 開發(fā)簡單、開發(fā)效率提高，一個服務(wù)可能就是專一的只干一件事。

• 微服務(wù)能夠被小團隊單獨開發(fā)，這個小團隊是 2 到 5 人的開發(fā)人員組成。

• 微服務(wù)是松耦合的，是有功能意義的服務(wù)，無論是在開發(fā)階段或部署階段都是獨立的。

• 微服務(wù)能使用不同的語言開發(fā)。

• 易于和第三方集成，微服務(wù)允許容易且靈活的方式集成自動部署，通過持續(xù)集成工具，如 Jenkins，Hudson，bamboo。

• 微服務(wù)易于被一個開發(fā)人員理解，修改和維護，這樣小團隊能夠更關(guān)注自己的工作成果。無需通過合作才能體現(xiàn)價值。微服務(wù)允許你利用融合最新技術(shù)。

• 微服務(wù)只是業(yè)務(wù)邏輯的代碼，不會和 HTML，CSS 或其他界面組件混合。

• 每個微服務(wù)都有自己的存儲能力，可以有自己的數(shù)據(jù)庫，也可以有統(tǒng)一數(shù)據(jù)庫。

總的來說，微服務(wù)的優(yōu)勢，就是在于，面對大的系統(tǒng)，可以有效的減少復(fù)雜程度，使服務(wù)架構(gòu)的邏輯更清晰明了。

但是這樣也會帶來很多問題，就譬如分布式環(huán)境下的數(shù)據(jù)一致性，測試的復(fù)雜性，運維的復(fù)雜性。

什么組織適合使用微服務(wù)？

微服務(wù)帶了種種優(yōu)點，種種弊端，那么什么組織適合使用微服務(wù)？

①墨菲定律（設(shè)計系統(tǒng)）和康威定律（系統(tǒng)劃分）
康威定律，是一個五十多年前就被提出來的微服務(wù)概念。在康威的這篇文章中，最有名的一句話就是：

Organizations which design systems are constrained to produce designs which are copies of the communication structures of these organizations.

-Melvin Conway(1967)

中文直譯大概的意思就是：設(shè)計系統(tǒng)的組織，其產(chǎn)生的設(shè)計等同于組織之內(nèi)、組織之間的溝通結(jié)構(gòu)。

看看下面的圖片，再想想 Apple 的產(chǎn)品、微軟的產(chǎn)品設(shè)計，就能形象生動的理解這句話。

感興趣的各位可以研究一下！

②架構(gòu)演化

架構(gòu)是不斷演化出來的，微服務(wù)也是這樣，當(dāng)從各大科技公司，規(guī)模大到一定程度，完全需要演化成更進一步管理的技術(shù)架構(gòu)體系。

傳統(tǒng)的團隊，都是面向過程化的，產(chǎn)品想完了去找策劃，策劃完了找開發(fā)，接著順著一步一步找。

我們做技術(shù)都是為了產(chǎn)品的，一旦過程出來了什么問題，回溯尋找問題會非常耗時。

使用了微服務(wù)架構(gòu)體系，團隊組織方式需要轉(zhuǎn)變成跨職能團隊，即每個團隊都有產(chǎn)品專家，策劃專家，開發(fā)專家，運維專家，他們使用 API 方式發(fā)布他們的功能，而平臺使用他們的功能發(fā)布產(chǎn)品。

微服務(wù)技術(shù)架構(gòu)體系

下面我分享一下大部分公司都使用的微服務(wù)技術(shù)架構(gòu)體系：

服務(wù)發(fā)現(xiàn)

主流的服務(wù)發(fā)現(xiàn)，分為三種：

第一種，開發(fā)人員開發(fā)了程序以后，會找運維配一個域名，服務(wù)的話通過 DNS 就能找到我們對應(yīng)的服務(wù)。

缺點是，由于服務(wù)沒有負載均衡功能，對負載均衡服務(wù)，可能會有相當(dāng)大的性能問題。

第二種，是目前普遍的做法?？梢詤⒖?Zuul 網(wǎng)關(guān)，每一個服務(wù)都通過服務(wù)端內(nèi)置的功能注冊到注冊中心，服務(wù)消費者不斷輪詢注冊中心發(fā)現(xiàn)對應(yīng)的服務(wù)，使用內(nèi)置負載均衡調(diào)用服務(wù)。

缺點是，對多語言環(huán)境不是很好，你需要單獨給消費者的客戶端開發(fā)服務(wù)發(fā)現(xiàn)和負載均衡功能。當(dāng)然了，這個方法通常都是用在 Spring Cloud 上的。

第三種，是將客戶端和負載均衡放在同一個主機，而不是同一個進程內(nèi)。

這種方法相對第一種第二種方法來說，改善了他們的缺點，但是會極大增加運維成本。

網(wǎng)關(guān)

微服務(wù)的網(wǎng)關(guān)是什么？我們可以聯(lián)系生活實際想一下。每一個大的公司，都會有一偏屬于自己的建筑區(qū)，而這建筑區(qū)內(nèi)，都有不少的門衛(wèi)。如果有外來人員進入公司，會先和門衛(wèi)打好招呼，才能進去。

將生活實際聯(lián)系到微服務(wù)上，就不難理解網(wǎng)關(guān)的意思了：

網(wǎng)關(guān)的作用如下：

• 反向路由：很多時候，公司不想讓外部人員看到我們公司的內(nèi)部，就需要網(wǎng)關(guān)來進行反向路由。即將外部請求轉(zhuǎn)換成內(nèi)部具體服務(wù)調(diào)用。

• 安全認證：網(wǎng)絡(luò)中會有很多惡意訪問，譬如爬蟲，譬如******，網(wǎng)關(guān)維護安全功能。

• 限流熔斷：當(dāng)請求很多服務(wù)不堪重負，會讓我們的服務(wù)自動關(guān)閉，導(dǎo)致不能用服務(wù)。限流熔斷可以有效的避免這類問題。

• 日志監(jiān)控：所有的外面的請求都會經(jīng)過網(wǎng)關(guān)，這樣我們就可以使用網(wǎng)關(guān)來記錄日志信息。

• 灰度發(fā)布，藍綠部署。是指能夠平滑過渡的一種發(fā)布方式。在其上可以進行 A/B testing。即讓一部分用戶繼續(xù)用產(chǎn)品特性 A，一部分用戶開始用產(chǎn)品特性 B，如果用戶對 B 沒有什么反對意見，那么逐步擴大范圍，把所有用戶都遷移到 B 上面來。

開源網(wǎng)關(guān) Zuul 架構(gòu)：

Zuul 網(wǎng)關(guān)核心其實是一個 Servlet，所有請求都會經(jīng)過 Zuul Servlet 傳到 ZuulFilter Runner，然后分發(fā)到三種過濾器。

先說說架構(gòu)圖左半部分，分別是使用 Groovy 實現(xiàn)的前置路由過濾器，路由過濾器，后置路由過濾器。

一般請求都會先經(jīng)過前置路由過濾器處理，一般的自定義 Java 封裝邏輯也會在這里實現(xiàn)。

路由過濾器，實現(xiàn)的是找到對應(yīng)的微服務(wù)進行調(diào)用。調(diào)用完了，響應(yīng)回來，會經(jīng)過后置路由過濾器，通過后置路由過濾器我們可以封裝日志審計的處理。

可以說 Zuul 網(wǎng)關(guān)最大的特色就是它的三層過濾器。架構(gòu)圖右半部分，是 Zuul 網(wǎng)關(guān)設(shè)計的自定義過濾器加載機制。

網(wǎng)關(guān)內(nèi)部會有生產(chǎn)者消費者模型，自動的將過濾器腳本發(fā)布到 Zuul 網(wǎng)關(guān)讀取加載運行。

配置中心

以前，開發(fā)人員把配置文件放在開發(fā)文件里面，這樣會有很多隱患。譬如，配置規(guī)范不同，無法追溯配置人員。微服務(wù)配置中心全面對比，哪個更牛逼？這篇推薦大家看下。

一旦需要大規(guī)模改動配置，改動時間會很長，無法追溯配置人員，從而影響整個產(chǎn)品，后果是我們承擔(dān)不起的。

因此就有配置中心這個嘍！現(xiàn)在的開源中心有百度配置中心 Disconf，Spring Cloud Config，Apollo。

今天重點說說現(xiàn)在應(yīng)用質(zhì)量不錯的配置中心，攜程開源的阿波羅（Apollo）：

Apollo 的配置中心規(guī)模比較大，本地應(yīng)用會有響應(yīng)的配置中心客戶端，可以定時同步配置中心里的配置。如果配置中心怠機，會使用緩存來進行配置。

通訊方式

關(guān)于通訊方式，一般市面也就是兩種遠程調(diào)用方式，我整理了一個表格：

監(jiān)控預(yù)警

監(jiān)控預(yù)警對于微服務(wù)很重要，一個可靠的監(jiān)控預(yù)警體系對微服務(wù)運行至關(guān)重要。

一般監(jiān)控分為如下層次：

從基礎(chǔ)設(shè)施到用戶端，層層有監(jiān)控，全方位，多角度，每一個層面都很重要。

總體來說，微服務(wù)可分為 5 個監(jiān)控點：

• 日志監(jiān)控

• Metrics 監(jiān)控

• 健康檢查

• 調(diào)用鏈檢查

• 告警系統(tǒng)

①監(jiān)控架構(gòu)

下面的圖是大部分公司的一種監(jiān)控架構(gòu)圖。每一個服務(wù)都有一個 Agent，Agent 收集到關(guān)鍵信息，會傳到一些 MQ 中，為了解耦。

同時將日志傳入 ELK，將 Metrics 傳入 InfluxDB 時間序列庫。而像 Nagios，可以定期向 Agent 發(fā)起信息檢查微服務(wù)。

②調(diào)用鏈監(jiān)控 APM

很多公司都有調(diào)用鏈監(jiān)控，就譬如阿里有鷹眼監(jiān)控，點評的 Cat，大部分調(diào)用鏈監(jiān)控（沒錯，我指的 Zipkin）架構(gòu)是這樣的：

當(dāng)請求進入 Web 容器的時候，會經(jīng)過創(chuàng)建 Tracer，連接 Spans（模擬潛在的分布式工作的延遲，該模塊還包含在系統(tǒng)網(wǎng)絡(luò)間傳遞跟蹤上下文信息的工具包，如通過 HTTP Headers）。

Spans 有一個上下文，其中包含 Tracer 標識符，將其放在表示分布式操作的樹的正確位置。

當(dāng)我們把圖中的各種 Span 放到后端的時候，我們的服務(wù)調(diào)用鏈會動態(tài)的生成調(diào)用鏈。

下面是一些市場上用的比較多的調(diào)用鏈監(jiān)控對比：

熔斷、隔離、限流、降級

面對巨大的突發(fā)流量下，大型公司一般會采用一系列的熔斷（系統(tǒng)自動將服務(wù)關(guān)閉防止讓出現(xiàn)的問題最大化）、隔離（將服務(wù)和服務(wù)隔離，防止一個服務(wù)掛了其他服務(wù)不能訪問）、限流（單位時間內(nèi)之允許一定數(shù)量用戶訪問）、降級（當(dāng)整個微服務(wù)架構(gòu)整體的負載超出了預(yù)設(shè)的上限閾值或即將到來的流量預(yù)計將會超過預(yù)設(shè)的閾值時，為了保證重要或基本的服務(wù)能正常運行，我們可以將一些不重要或不緊急的服務(wù)或任務(wù)進行服務(wù)的延遲使用或暫停使用）措施。

下面介紹一下 Hystrix 的運行流程：

Hystrix 停止開發(fā)，Spring Cloud 何去何從？

每一個微服務(wù)調(diào)用時，都會使用 Hystrix 的 Command 方式（上圖的左上角那個），然后使用 Command 同步的，或者是響應(yīng)式的，或者是異步的，判斷電路是否熔斷（順著圖從左往右看），如果斷路則走降級 Fallback。

如果這個線閉合著，但是線程資源沒了，隊列滿了，則走限流措施（看圖的第 5 步）。

如果走完了，執(zhí)行成功了，則走 run() 方法，獲取 Response，但是這個過程如果出錯了，則繼續(xù)走降級 Fallback。

同時，看圖最上面有一個后綴是 Health 的，這是一個計算整個鏈路是否健康的組件，每一步操作都被它記錄著。

容器與服務(wù)編排引擎

從物理機到虛擬機，從虛擬機到容器；從物理集群到 OpenStack，OpenStack 到 Kubernetes；科技不斷的變化，我們的認知也沒刷新。

我們從容器開始說起，它首先是一個相對獨立的運行環(huán)境，在這一點有點類似于虛擬機，但是不像虛擬機那樣徹底。

虛擬機會將虛擬硬件、內(nèi)核（即操作系統(tǒng)）以及用戶空間打包在新虛擬機當(dāng)中，虛擬機能夠利用“虛擬機管理程序”運行在物理設(shè)備之上。

虛擬機依賴于 Hypervisor，其通常被安裝在“裸金屬”系統(tǒng)硬件之上，這導(dǎo)致 Hypervisor 在某些方面被認為是一種操作系統(tǒng)。

一旦 Hypervisor 安裝完成， 就可以從系統(tǒng)可用計算資源當(dāng)中分配虛擬機實例了，每臺虛擬機都能夠獲得唯一的操作系統(tǒng)和負載（應(yīng)用程序）。

簡言之，虛擬機先需要虛擬一個物理環(huán)境，然后構(gòu)建一個完整的操作系統(tǒng)，再搭建一層 Runtime，然后供應(yīng)用程序運行。

對于容器環(huán)境來說，不需要安裝主機操作系統(tǒng)，直接將容器層（比如 LXC 或 Libcontainer）安裝在主機操作系統(tǒng)（通常是 Linux 變種）之上。

在安裝完容器層之后，就可以從系統(tǒng)可用計算資源當(dāng)中分配容器實例了，并且企業(yè)應(yīng)用可以被部署在容器當(dāng)中。

但是，每個容器化應(yīng)用都會共享相同的操作系統(tǒng)(單個主機操作系統(tǒng))。容器可以看成一個裝好了一組特定應(yīng)用的虛擬機，它直接利用了宿主機的內(nèi)核，抽象層比虛擬機更少，更加輕量化，啟動速度極快。

相比于虛擬機，容器擁有更高的資源使用效率，因為它并不需要為每個應(yīng)用分配單獨的操作系統(tǒng)——實例規(guī)模更小、創(chuàng)建和遷移速度也更快。這意味著相比于虛擬機，單個操作系統(tǒng)能夠承載更多的容器。

云提供商十分熱衷于容器技術(shù)，因為在相同的硬件設(shè)備當(dāng)中，可以部署數(shù)量更多的容器實例。

此外，容器易于遷移，但是只能被遷移到具有兼容操作系統(tǒng)內(nèi)核的其他服務(wù)器當(dāng)中，這樣就會給遷移選擇帶來限制。

因為容器不像虛擬機那樣同樣對內(nèi)核或者虛擬硬件進行打包，所以每套容器都擁有自己的隔離化用戶空間，從而使得多套容器能夠運行在同一主機系統(tǒng)之上。

我們可以看到全部操作系統(tǒng)層級的架構(gòu)都可實現(xiàn)跨容器共享，惟一需要獨立構(gòu)建的就是二進制文件與庫。

正因為如此，容器才擁有極為出色的輕量化特性。我們最常用的容器是 Docker。

①容器編排

過去虛擬機可以通過云平臺 OpenStack 管理虛擬化，容器時代如何管理容器呢？這就要看看容器編排引擎了。

Apache Mesos：Mesos 是基于 Master，Slave 架構(gòu)，框架決定如何利用資源，Master 負責(zé)管理機器，Slave 會定期的將機器情況報告給 Master，Master 再將信息給框架。Master 是高可用的，因為 ZK，也有 Leader 的存在。

下面是架構(gòu)圖：

Kubernetes：Kubernetes 是最近十分火熱的開源容器編排引擎。

Kubernetes 設(shè)計理念和功能其實就是一個類似 Linux 的分層架構(gòu)，先說說每一個 Kubernetes 節(jié)點內(nèi)部，kubelet 管理全局全局 pod，而每一個 pod 承載著一個或多個容器，kube-proxy 負責(zé)網(wǎng)絡(luò)代理和負載均衡。

Kubernetes 節(jié)點外部，則是對應(yīng)的控制管理服務(wù)器，負責(zé)統(tǒng)一管理各個節(jié)點調(diào)度分配與運行。

②服務(wù)網(wǎng)格化

關(guān)于服務(wù)網(wǎng)絡(luò)化，后面會更加深入的為大家進行講解。