從架構(gòu)演進(jìn)的角度聊聊Spring Cloud都做了些什么？

Spring Cloud作為一套微服務(wù)治理的框架，幾乎考慮到了微服務(wù)治理的方方面面，之前也寫過一些關(guān)于Spring Cloud文章，主要偏重各組件的使用，本次分享主要解答這兩個(gè)問題：Spring Cloud在微服務(wù)的架構(gòu)中都做了哪些事情？Spring Cloud提供的這些功能對(duì)微服務(wù)的架構(gòu)提供了怎樣的便利？

這也是我寫Spring Cloud三部曲的最后一篇文章，前兩面篇內(nèi)容如下：

• 中小型互聯(lián)網(wǎng)公司微服務(wù)實(shí)踐-經(jīng)驗(yàn)和教訓(xùn)

• Spring Cloud在國內(nèi)中小型公司能用起來嗎？

我們先來簡(jiǎn)單回顧一下，我們以往互聯(lián)網(wǎng)架構(gòu)的發(fā)展情況：

傳統(tǒng)架構(gòu)發(fā)展史

單體架構(gòu)

單體架構(gòu)在小微企業(yè)比較常見，典型代表就是一個(gè)應(yīng)用、一個(gè)數(shù)據(jù)庫、一個(gè)web容器就可以跑起來，比如我們開發(fā)的開源軟件云收藏，就是標(biāo)準(zhǔn)的單體架構(gòu)。

在兩種情況下可能會(huì)選擇單體架構(gòu)：一是在企業(yè)發(fā)展的初期，為了保證快速上線，采用此種方案較為簡(jiǎn)單靈活；二是傳統(tǒng)企業(yè)中垂直度較高，訪問壓力較小的業(yè)務(wù)。在這種模式下對(duì)技術(shù)要求較低，方便各層次開發(fā)人員接手，也能滿足客戶需求。

下面是單體架構(gòu)的架構(gòu)圖：

在單體架構(gòu)中，技術(shù)選型非常靈活，優(yōu)先滿足快速上線的要求，也便于快速跟進(jìn)市場(chǎng)。

垂直架構(gòu)

在單體架構(gòu)發(fā)展一段時(shí)間后，公司的業(yè)務(wù)模式得到了認(rèn)可，交易量也慢慢的大起來，這時(shí)候有些企業(yè)為了應(yīng)對(duì)更大的流量，就會(huì)對(duì)原有的業(yè)務(wù)進(jìn)行拆分，比如說：后臺(tái)系統(tǒng)、前端系統(tǒng)、交易系統(tǒng)等。

在這一階段往往會(huì)將系統(tǒng)分為不同的層級(jí)，每個(gè)層級(jí)有對(duì)應(yīng)的職責(zé)，UI層負(fù)責(zé)和用戶進(jìn)行交互、業(yè)務(wù)邏輯層負(fù)責(zé)具體的業(yè)務(wù)功能、數(shù)據(jù)庫層負(fù)責(zé)和上層進(jìn)行數(shù)據(jù)交換和存儲(chǔ)。

下面是垂直架構(gòu)的架構(gòu)圖：

在這個(gè)階段SSH（struts+spring+hibernate）是項(xiàng)目的關(guān)鍵技術(shù)，Struts負(fù)責(zé)web層邏輯控制、Spring負(fù)責(zé)業(yè)務(wù)層管理Bean、Hibernate負(fù)責(zé)數(shù)據(jù)庫操作進(jìn)行封裝，持久化數(shù)據(jù)。

服務(wù)化架構(gòu)

如果公司進(jìn)一步的做大，垂直子系統(tǒng)會(huì)變的越來越多，系統(tǒng)和系統(tǒng)之間的調(diào)用關(guān)系呈指數(shù)上升的趨勢(shì)。在這樣的背景下，很多公司都會(huì)考慮服務(wù)的SOA化。SOA代表面向服務(wù)的架構(gòu)，將應(yīng)用程序根據(jù)不同的職責(zé)劃分為不同的模塊，不同的模塊直接通過特定的協(xié)議和接口進(jìn)行交互。這樣使整個(gè)系統(tǒng)切分成很多單個(gè)組件服務(wù)來完成請(qǐng)求，當(dāng)流量過大時(shí)通過水平擴(kuò)展相應(yīng)的組件來支撐，所有的組件通過交互來滿足整體的業(yè)務(wù)需求。

SOA服務(wù)化的優(yōu)點(diǎn)是，它可以根據(jù)需求通過網(wǎng)絡(luò)對(duì)松散耦合的粗粒度應(yīng)用組件進(jìn)行分布式部署、組合和使用。服務(wù)層是SOA的基礎(chǔ)，可以直接被應(yīng)用調(diào)用，從而有效控制系統(tǒng)中與軟件代理交互的人為依賴性。

服務(wù)化架構(gòu)是一套松耦合的架構(gòu)，服務(wù)的拆分原則是服務(wù)內(nèi)部高內(nèi)聚，服務(wù)之間低耦合。

下面是服務(wù)化架構(gòu)圖：

在這個(gè)階段可以使用WebService或者dubbo來服務(wù)治理。

我們發(fā)現(xiàn)從單體架構(gòu)到服務(wù)化架構(gòu)，應(yīng)用數(shù)量都在不斷的增加，慢慢的下沉的就成了基礎(chǔ)組建，上浮的就成為業(yè)務(wù)系統(tǒng)。從上述也可以看出架構(gòu)的本質(zhì)就是不斷的拆分重構(gòu)：分的過程是把系統(tǒng)拆分為各個(gè)子系統(tǒng)/模塊/組件，拆的時(shí)候，首先要解決每個(gè)組件的定位問題，然后才能劃分彼此的邊界，實(shí)現(xiàn)合理的拆分。合就是根據(jù)最終要求，把各個(gè)分離的組件有機(jī)整合在一起。拆分的結(jié)果使開發(fā)人員能夠做到業(yè)務(wù)聚焦、技能聚焦，實(shí)現(xiàn)開發(fā)敏捷，合的結(jié)果是系統(tǒng)變得柔性，可以因需而變，實(shí)現(xiàn)業(yè)務(wù)敏捷。

SOA和微服務(wù)架構(gòu)

SOA和微服務(wù)的區(qū)別

其實(shí)服務(wù)化架構(gòu)已經(jīng)可以解決大部分企業(yè)的需求了，那么我們?yōu)槭裁匆芯课⒎?wù)呢？先說說它們的區(qū)別；

• 微服務(wù)架構(gòu)強(qiáng)調(diào)業(yè)務(wù)系統(tǒng)需要徹底的組件化和服務(wù)化，一個(gè)組件就是一個(gè)產(chǎn)品，可以獨(dú)立對(duì)外提供服務(wù)

• 微服務(wù)不再強(qiáng)調(diào)傳統(tǒng)SOA架構(gòu)里面比較重的ESB企業(yè)服務(wù)總線

• 微服務(wù)強(qiáng)調(diào)每個(gè)微服務(wù)都有自己獨(dú)立的運(yùn)行空間，包括數(shù)據(jù)庫資源。

• 微服務(wù)架構(gòu)本身來源于互聯(lián)網(wǎng)的思路，因此組件對(duì)外發(fā)布的服務(wù)強(qiáng)調(diào)了采用HTTP Rest API的方式來進(jìn)行

• 微服務(wù)的切分粒度會(huì)更小

總結(jié):微服務(wù)架構(gòu)是 SOA 架構(gòu)思想的一種擴(kuò)展，更加強(qiáng)調(diào)服務(wù)個(gè)體的獨(dú)立性、拆分粒度更小。

為什么考慮Spring Cloud

• Spring Cloud來源于Spring，質(zhì)量、穩(wěn)定性、持續(xù)性都可以得到保證

• Spirng Cloud天然支持Spring Boot，更加便于業(yè)務(wù)落地。

• Spring Cloud發(fā)展非常的快，從16年開始接觸的時(shí)候相關(guān)組件版本為1.x，到現(xiàn)在將要發(fā)布2.x系列

• Spring Cloud是Java領(lǐng)域最適合做微服務(wù)的框架。

• 相比于其它框架,Spring Cloud對(duì)微服務(wù)周邊環(huán)境的支持力度最大。

• 對(duì)于中小企業(yè)來講，使用門檻較低。

Spring Cloud　是微服務(wù)架構(gòu)的最佳落地方案

它的特性

以下為Spring Cloud的核心特性：

• 分布式/版本化配置

• 服務(wù)注冊(cè)和發(fā)現(xiàn)

• 路由

• 服務(wù)和服務(wù)之間的調(diào)用

• 負(fù)載均衡

• 斷路器

• 分布式消息傳遞

這些特性都是由不同的組件來完成，在架構(gòu)的演進(jìn)過程中扮演著重要的角色，接下來我們一起看看。

微服務(wù)架構(gòu)

Spring Cloud解決的第一個(gè)問題就是：服務(wù)與服務(wù)之間的解耦。很多公司在業(yè)務(wù)高速發(fā)展的時(shí)候，服務(wù)組件也會(huì)相應(yīng)的不斷增加。服務(wù)和服務(wù)之間有著復(fù)雜的相互調(diào)用關(guān)系，經(jīng)常有服務(wù)A調(diào)用服務(wù)B，服務(wù)B調(diào)用服務(wù)C和服務(wù)D …，隨著服務(wù)化組件的不斷增多，服務(wù)之間的調(diào)用關(guān)系成指數(shù)級(jí)別的增長(zhǎng)，極端情況下就如下圖所示：

這樣最容易導(dǎo)致的情況就是牽一發(fā)而動(dòng)全身。經(jīng)常出現(xiàn)由于某個(gè)服務(wù)更新而沒有通知到其它服務(wù)，導(dǎo)致上線后慘案頻發(fā)。這時(shí)候就應(yīng)該進(jìn)行服務(wù)治理，將服務(wù)之間的直接依賴轉(zhuǎn)化為服務(wù)對(duì)服務(wù)中心的依賴。Spring Cloud 核心組件Eureka就是解決這類問題。

Eureka

Eureka是Netflix開源的一款提供服務(wù)注冊(cè)和發(fā)現(xiàn)的產(chǎn)品，它提供了完整的Service Registry和Service Discovery實(shí)現(xiàn)。也是Spring Cloud體系中最重要最核心的組件之一。

用大白話講，Eureka就是一個(gè)服務(wù)中心，將所有的可以提供的服務(wù)都注冊(cè)到它這里來管理，其它各調(diào)用者需要的時(shí)候去注冊(cè)中心獲取，然后再進(jìn)行調(diào)用，避免了服務(wù)之間的直接調(diào)用，方便后續(xù)的水平擴(kuò)展、故障轉(zhuǎn)移等。如下圖：

當(dāng)然服務(wù)中心這么重要的組件一但掛掉將會(huì)影響全部服務(wù)，因此需要搭建Eureka集群來保持高可用性，生產(chǎn)中建議最少兩臺(tái)。隨著系統(tǒng)的流量不斷增加，需要根據(jù)情況來擴(kuò)展某個(gè)服務(wù)，Eureka內(nèi)部已經(jīng)提供均衡負(fù)載的功能，只需要增加相應(yīng)的服務(wù)端實(shí)例既可。那么在系統(tǒng)的運(yùn)行期間某個(gè)實(shí)例掛了怎么辦？Eureka內(nèi)容有一個(gè)心跳檢測(cè)機(jī)制，如果某個(gè)實(shí)例在規(guī)定的時(shí)間內(nèi)沒有進(jìn)行通訊則會(huì)自動(dòng)被剔除掉，避免了某個(gè)實(shí)例掛掉而影響服務(wù)。

因此使用了Eureka就自動(dòng)具有了注冊(cè)中心、負(fù)載均衡、故障轉(zhuǎn)移的功能。如果想對(duì)Eureka進(jìn)一步了解可以參考這篇文章：注冊(cè)中心Eureka

Hystrix

在微服務(wù)架構(gòu)中通常會(huì)有多個(gè)服務(wù)層調(diào)用，基礎(chǔ)服務(wù)的故障可能會(huì)導(dǎo)致級(jí)聯(lián)故障，進(jìn)而造成整個(gè)系統(tǒng)不可用的情況，這種現(xiàn)象被稱為服務(wù)雪崩效應(yīng)。服務(wù)雪崩效應(yīng)是一種因“服務(wù)提供者”的不可用導(dǎo)致“服務(wù)消費(fèi)者”的不可用,并將不可用逐漸放大的過程。

如下圖所示：A作為服務(wù)提供者，B為A的服務(wù)消費(fèi)者，C和D是B的服務(wù)消費(fèi)者。A不可用引起了B的不可用，并將不可用像滾雪球一樣放大到C和D時(shí)，雪崩效應(yīng)就形成了。

在這種情況下就需要整個(gè)服務(wù)機(jī)構(gòu)具有故障隔離的功能，避免某一個(gè)服務(wù)掛掉影響全局。在Spring Cloud 中Hystrix組件就扮演這個(gè)角色。

Hystrix會(huì)在某個(gè)服務(wù)連續(xù)調(diào)用N次不響應(yīng)的情況下，立即通知調(diào)用端調(diào)用失敗，避免調(diào)用端持續(xù)等待而影響了整體服務(wù)。Hystrix間隔時(shí)間會(huì)再次檢查此服務(wù)，如果服務(wù)恢復(fù)將繼續(xù)提供服務(wù)。

繼續(xù)了解Hystrix可以參考：熔斷器Hystrix

Hystrix Dashboard和Turbine

當(dāng)熔斷發(fā)生的時(shí)候需要迅速的響應(yīng)來解決問題，避免故障進(jìn)一步擴(kuò)散，那么對(duì)熔斷的監(jiān)控就變得非常重要。熔斷的監(jiān)控現(xiàn)在有兩款工具：Hystrix-dashboard和Turbine

Hystrix-dashboard是一款針對(duì)Hystrix進(jìn)行實(shí)時(shí)監(jiān)控的工具，通過Hystrix Dashboard我們可以直觀地看到各Hystrix Command的請(qǐng)求響應(yīng)時(shí)間, 請(qǐng)求成功率等數(shù)據(jù)。但是只使用Hystrix Dashboard的話, 你只能看到單個(gè)應(yīng)用內(nèi)的服務(wù)信息, 這明顯不夠. 我們需要一個(gè)工具能讓我們匯總系統(tǒng)內(nèi)多個(gè)服務(wù)的數(shù)據(jù)并顯示到Hystrix Dashboard上, 這個(gè)工具就是Turbine. 監(jiān)控的效果圖如下：

想了解具體都監(jiān)控了哪些指標(biāo)，以及如何監(jiān)控可以參考這篇文章：熔斷監(jiān)控Hystrix Dashboard和Turbine

配置中心

隨著微服務(wù)不斷的增多，每個(gè)微服務(wù)都有自己對(duì)應(yīng)的配置文件。在研發(fā)過程中有測(cè)試環(huán)境、UAT環(huán)境、生產(chǎn)環(huán)境，因此每個(gè)微服務(wù)又對(duì)應(yīng)至少三個(gè)不同環(huán)境的配置文件。這么多的配置文件，如果需要修改某個(gè)公共服務(wù)的配置信息，如：緩存、數(shù)據(jù)庫等，難免會(huì)產(chǎn)生混亂，這個(gè)時(shí)候就需要引入Spring Cloud另外一個(gè)組件：Spring Cloud Config。

Spring Cloud Config

Spring Cloud Config是一個(gè)解決分布式系統(tǒng)的配置管理方案。它包含了Client和Server兩個(gè)部分，Server提供配置文件的存儲(chǔ)、以接口的形式將配置文件的內(nèi)容提供出去，Client通過接口獲取數(shù)據(jù)、并依據(jù)此數(shù)據(jù)初始化自己的應(yīng)用。

其實(shí)就是Server端將所有的配置文件服務(wù)化，需要配置文件的服務(wù)實(shí)例去Config Server獲取對(duì)應(yīng)的數(shù)據(jù)。將所有的配置文件統(tǒng)一整理，避免了配置文件碎片化。配置中心git實(shí)例參考：配置中心git示例；

如果服務(wù)運(yùn)行期間改變配置文件，服務(wù)是不會(huì)得到最新的配置信息，需要解決這個(gè)問題就需要引入Refresh。可以在服務(wù)的運(yùn)行期間重新加載配置文件，具體可以參考這篇文章：配置中心svn示例和refresh

當(dāng)所有的配置文件都存儲(chǔ)在配置中心的時(shí)候，配置中心就成為了一個(gè)非常重要的組件。如果配置中心出現(xiàn)問題將會(huì)導(dǎo)致災(zāi)難性的后果，因此在生產(chǎn)中建議對(duì)配置中心做集群，來支持配置中心高可用性。具體參考：配置中心服務(wù)化和高可用

Spring Cloud Bus

上面的Refresh方案雖然可以解決單個(gè)微服務(wù)運(yùn)行期間重載配置信息的問題，但是在真正的實(shí)踐生產(chǎn)中，可能會(huì)有N多的服務(wù)需要更新配置，如果每次依靠手動(dòng)Refresh將是一個(gè)巨大的工作量，這時(shí)候Spring Cloud提出了另外一個(gè)解決方案：Spring Cloud Bus

Spring Cloud Bus通過輕量消息代理連接各個(gè)分布的節(jié)點(diǎn)。這會(huì)用在廣播狀態(tài)的變化（例如配置變化）或者其它的消息指令中。Spring Cloud Bus的一個(gè)核心思想是通過分布式的啟動(dòng)器對(duì)Spring Boot應(yīng)用進(jìn)行擴(kuò)展，也可以用來建立一個(gè)或多個(gè)應(yīng)用之間的通信頻道。目前唯一實(shí)現(xiàn)的方式是用AMQP消息代理作為通道。

Spring Cloud Bus是輕量級(jí)的通訊組件，也可以用在其它類似的場(chǎng)景中。有了Spring Cloud Bus之后，當(dāng)我們改變配置文件提交到版本庫中時(shí)，會(huì)自動(dòng)的觸發(fā)對(duì)應(yīng)實(shí)例的Refresh，具體的工作流程如下：

也可以參考這篇文章來了解：配置中心和消息總線

服務(wù)網(wǎng)關(guān)

在微服務(wù)架構(gòu)模式下，后端服務(wù)的實(shí)例數(shù)一般是動(dòng)態(tài)的，對(duì)于客戶端而言很難發(fā)現(xiàn)動(dòng)態(tài)改變的服務(wù)實(shí)例的訪問地址信息。因此在基于微服務(wù)的項(xiàng)目中為了簡(jiǎn)化前端的調(diào)用邏輯，通常會(huì)引入API Gateway作為輕量級(jí)網(wǎng)關(guān)，同時(shí)API Gateway中也會(huì)實(shí)現(xiàn)相關(guān)的認(rèn)證邏輯從而簡(jiǎn)化內(nèi)部服務(wù)之間相互調(diào)用的復(fù)雜度。

Spring Cloud體系中支持API Gateway落地的技術(shù)就是Zuul。Spring Cloud Zuul路由是微服務(wù)架構(gòu)中不可或缺的一部分，提供動(dòng)態(tài)路由，監(jiān)控，彈性，安全等的邊緣服務(wù)。Zuul是Netflix出品的一個(gè)基于JVM路由和服務(wù)端的負(fù)載均衡器。

它的具體作用就是服務(wù)轉(zhuǎn)發(fā)，接收并轉(zhuǎn)發(fā)所有內(nèi)外部的客戶端調(diào)用。使用Zuul可以作為資源的統(tǒng)一訪問入口，同時(shí)也可以在網(wǎng)關(guān)做一些權(quán)限校驗(yàn)等類似的功能。

具體使用參考這篇文章：服務(wù)網(wǎng)關(guān)zuul

鏈路跟蹤

隨著服務(wù)的越來越多，對(duì)調(diào)用鏈的分析會(huì)越來越復(fù)雜，如服務(wù)之間的調(diào)用關(guān)系、某個(gè)請(qǐng)求對(duì)應(yīng)的調(diào)用鏈、調(diào)用之間消費(fèi)的時(shí)間等，對(duì)這些信息進(jìn)行監(jiān)控就成為一個(gè)問題。在實(shí)際的使用中我們需要監(jiān)控服務(wù)和服務(wù)之間通訊的各項(xiàng)指標(biāo)，這些數(shù)據(jù)將是我們改進(jìn)系統(tǒng)架構(gòu)的主要依據(jù)。因此分布式的鏈路跟蹤就變的非常重要，Spring Cloud也給出了具體的解決方案：Spring Cloud Sleuth和Zipkin

Spring Cloud Sleuth為服務(wù)之間調(diào)用提供鏈路追蹤。通過Sleuth可以很清楚的了解到一個(gè)服務(wù)請(qǐng)求經(jīng)過了哪些服務(wù)，每個(gè)服務(wù)處理花費(fèi)了多長(zhǎng)時(shí)間。從而讓我們可以很方便的理清各微服務(wù)間的調(diào)用關(guān)系。

Zipkin是Twitter的一個(gè)開源項(xiàng)目，允許開發(fā)者收集 Twitter 各個(gè)服務(wù)上的監(jiān)控?cái)?shù)據(jù)，并提供查詢接口

分布式鏈路跟蹤需要Sleuth+Zipkin結(jié)合來實(shí)現(xiàn)，具體操作參考這篇文章：分布式鏈路跟蹤(Sleuth)

總結(jié)

我們從整體上來看一下Spring Cloud各個(gè)組件如何來配套使用：

從上圖可以看出Spring Cloud各個(gè)組件相互配合，合作支持了一套完整的微服務(wù)架構(gòu)。

• 其中Eureka負(fù)責(zé)服務(wù)的注冊(cè)與發(fā)現(xiàn)，很好將各服務(wù)連接起來

• Hystrix 負(fù)責(zé)監(jiān)控服務(wù)之間的調(diào)用情況，連續(xù)多次失敗進(jìn)行熔斷保護(hù)。

• Hystrix dashboard,Turbine 負(fù)責(zé)監(jiān)控 Hystrix的熔斷情況，并給予圖形化的展示

• Spring Cloud Config 提供了統(tǒng)一的配置中心服務(wù)

• 當(dāng)配置文件發(fā)生變化的時(shí)候，Spring Cloud Bus 負(fù)責(zé)通知各服務(wù)去獲取最新的配置信息

• 所有對(duì)外的請(qǐng)求和服務(wù)，我們都通過Zuul來進(jìn)行轉(zhuǎn)發(fā)，起到API網(wǎng)關(guān)的作用

• 最后我們使用Sleuth+Zipkin將所有的請(qǐng)求數(shù)據(jù)記錄下來，方便我們進(jìn)行后續(xù)分析

Spring Cloud從設(shè)計(jì)之初就考慮了絕大多數(shù)互聯(lián)網(wǎng)公司架構(gòu)演化所需的功能，如服務(wù)發(fā)現(xiàn)注冊(cè)、配置中心、消息總線、負(fù)載均衡、斷路器、數(shù)據(jù)監(jiān)控等。這些功能都是以插拔的形式提供出來，方便我們系統(tǒng)架構(gòu)演進(jìn)的過程中，可以合理的選擇需要的組件進(jìn)行集成，從而在架構(gòu)演進(jìn)的過程中會(huì)更加平滑、順利。

微服務(wù)架構(gòu)是一種趨勢(shì)，Spring Cloud提供了標(biāo)準(zhǔn)化的、全站式的技術(shù)方案，意義可能會(huì)堪比當(dāng)前Servlet規(guī)范的誕生，有效推進(jìn)服務(wù)端軟件系統(tǒng)技術(shù)水平的進(jìn)步。

原文出處：從架構(gòu)演進(jìn)的角度聊聊Spring Cloud都做了些什么？