從 Spring Cloud 看一個(gè)微服務(wù)框架的「五臟六腑」

Spring Cloud 是一個(gè)基于 Spring Boot 實(shí)現(xiàn)的微服務(wù)框架，它包含了實(shí)現(xiàn)微服務(wù)架構(gòu)所需的各種組件。
注：Spring Boot 簡(jiǎn)單理解就是簡(jiǎn)化 Spring 項(xiàng)目的搭建、配置、組合的框架。因?yàn)榕c構(gòu)建微服務(wù)本身沒(méi)有直接關(guān)系，所以本文不對(duì) Spring Boot 進(jìn)行展開(kāi)。另外本文有一些例子涉及到 Spring 和 Spring Boot，建議先了解一下 Spring 和 Spring Boot 再閱讀本文。
本文的閱讀對(duì)象主要是沒(méi)有接觸過(guò)服務(wù)架構(gòu)，想對(duì)其有一個(gè)宏觀的了解的同學(xué)。
本文將從 Spring Cloud 出發(fā)，分兩小節(jié)講述微服務(wù)框架的「五臟六腑」：
第一小節(jié)「服務(wù)架構(gòu)」旨在說(shuō)明的包括兩點(diǎn)，一服務(wù)架構(gòu)是什么及其必要性；二是服務(wù)架構(gòu)的基本組成。為什么第一節(jié)寫(xiě)服務(wù)架構(gòu)而不是微服務(wù)架構(gòu)呢？原因主要是微服務(wù)架構(gòu)本身與服務(wù)架構(gòu)有著千絲萬(wàn)縷的關(guān)系，服務(wù)架構(gòu)是微服務(wù)架構(gòu)的根基。
第二小節(jié)「五臟六腑」則將結(jié)合 Spring Cloud 這個(gè)特例來(lái)介紹一個(gè)完整的微服務(wù)框架的組成。
「服務(wù)架構(gòu)」
為了方便理解，我先講一個(gè)小故事：（改編自一知乎答主）
Martin（微服務(wù)提出者也叫 Martin）剛來(lái)到公司時(shí)是一個(gè)基層員工，它上面有經(jīng)理、老板，那個(gè)時(shí)候所有人都聽(tīng)老板的指揮。
但是過(guò)了兩年，公司的人越來(lái)越多，原來(lái)的模式下整個(gè)公司的運(yùn)作效率太低，管理也很混亂。
于是已經(jīng)踏上中層崗位的 Martin 建議老板進(jìn)行部門劃分（服務(wù)化），專門的部門只做專門的事情（單一職責(zé)）。例如研發(fā)部門只做研發(fā)，人事部門只做招聘。
老板聽(tīng)取了 Martin 的意見(jiàn)，對(duì)公司的組織架構(gòu)進(jìn)行了調(diào)整。
有一天，Martin 發(fā)現(xiàn)公司的部門越來(lái)越多，各個(gè)部門并不能完全知道對(duì)方所做的事情，這對(duì)跨部門協(xié)作（服務(wù)調(diào)用）帶來(lái)了困難。
行政部門會(huì)（注冊(cè)中心）來(lái)記錄所有的部門，每當(dāng)有新的部門行政都會(huì)記錄下來(lái)（服務(wù)注冊(cè)），然后公布出來(lái)讓所有部門知道（服務(wù)發(fā)現(xiàn)）。
在新的組織架構(gòu)下，公司的效率逐步提高。老板也給 Martin 發(fā)了大量獎(jiǎng)金作為獎(jiǎng)勵(lì)，Martin 從此贏取白富美走向了人生巔峰。
這是一個(gè)公司組織架構(gòu)演變的故事，主要講的是隨著公司規(guī)模的擴(kuò)大，組織從集中化管理到分布化管理的過(guò)程。
映射到我們的信息系統(tǒng)里來(lái)也是一樣的，隨著我們的系統(tǒng)越來(lái)越復(fù)雜，變得難以管理，也有人想到去拆分然后治理。在解決復(fù)雜問(wèn)題上，分治可以說(shuō)是一個(gè)屢試不爽的辦法。
服務(wù)化即是拆解的一種手段。而上面圓括號(hào)里面的內(nèi)容其實(shí)就對(duì)應(yīng)了一個(gè)服務(wù)化架構(gòu)的最小組成元素，分別是服務(wù)、服務(wù)調(diào)用、注冊(cè)中心、服務(wù)注冊(cè)、服務(wù)發(fā)現(xiàn)。有了這些基本的組成要素，就可以實(shí)現(xiàn)一個(gè)最簡(jiǎn)單的服務(wù)架構(gòu)。
面向服務(wù)的架構(gòu)和微服務(wù)架構(gòu)
面向服務(wù)的架構(gòu)（SOA）和微服務(wù)架構(gòu)是目前兩種主流的服務(wù)化架構(gòu)，都符合上面的例子，也有上面提到的所有組件。這兩種服務(wù)架構(gòu)有很多可以講的，但是與本文的相關(guān)性不大，本文不做會(huì)過(guò)多展開(kāi)，只簡(jiǎn)單介紹一下兩者的區(qū)別。
準(zhǔn)確地說(shuō)微服務(wù)是去 ESB（企業(yè)服務(wù)總線）的 SOA。ESB 借鑒了計(jì)算機(jī)組成原理中的通信模型 —— 總線，所有需要和外部系統(tǒng)通信的系統(tǒng)，通過(guò) ESB 進(jìn)行標(biāo)準(zhǔn)化地轉(zhuǎn)換從而消除協(xié)議、異構(gòu)系統(tǒng)之間的差異，這樣就可以利用現(xiàn)有的系統(tǒng)構(gòu)建一個(gè)全新的松耦合的異構(gòu)的分布式系統(tǒng)。微服務(wù)架構(gòu)去掉 ESB，本質(zhì)上是一種去中心化的思想。
「五臟六腑」
「心臟」
順著上一節(jié)的思路，從最簡(jiǎn)單、最核心的問(wèn)題出發(fā)，假設(shè)服務(wù) A 要調(diào)用服務(wù) B，會(huì)有什么問(wèn)題？
服務(wù)在哪？（服務(wù)治理問(wèn)題）
怎么調(diào)用？（服務(wù)調(diào)用問(wèn)題）
這兩個(gè)是最核心的問(wèn)題，也是任何微服務(wù)框架首要解決的兩個(gè)問(wèn)題。
為了解決第一個(gè)問(wèn)題 Spring Cloud 提供了 Eureka、Zookeeper、Cloud Foundry、Consul 等服務(wù)治理框架的集成。它們的工作模式是將所有的微服務(wù)注冊(cè)到一個(gè) Server 上，然后通過(guò)心跳進(jìn)行服務(wù)健康監(jiān)測(cè)。這樣服務(wù) A 調(diào)用 B 時(shí)可以從注冊(cè)中心拿到可用的服務(wù) B 的地址、端口進(jìn)行調(diào)用。
第二個(gè)服務(wù)調(diào)用有人可能認(rèn)為就是一個(gè)簡(jiǎn)單的 HTTP 或者 RPC 調(diào)用，不是什么問(wèn)題。但是在分布式的場(chǎng)景下，服務(wù)調(diào)用需要考慮的因素會(huì)更多。比如一個(gè)服務(wù)有多個(gè)實(shí)例，此時(shí)請(qǐng)求進(jìn)來(lái)了交給誰(shuí)處理，請(qǐng)求的負(fù)載怎么平衡到各個(gè)實(shí)例，都是比較棘手的問(wèn)題。Spring Cloud 提供了兩種服務(wù)調(diào)用的方式：一種是 Ribbon + restTemplate，另一種是 Feign。
其中 Ribbon 是基于 HTTP 和 TCP 客戶端的負(fù)載均衡器，restTemplate 是 Spring 提供的 Restful 遠(yuǎn)程調(diào)用的模板，兩者結(jié)合就可以達(dá)到遠(yuǎn)程調(diào)用的負(fù)載均衡。
而 Feign 是一個(gè)更加聲明式的 HTTP 客戶端，開(kāi)發(fā)者可以像調(diào)用本地方法一樣調(diào)用它，完全感覺(jué)不到是遠(yuǎn)程調(diào)用，結(jié)合 Ribbon 也可以做負(fù)載均衡。
既然兩個(gè)問(wèn)題都得到了解決，我們就用一個(gè)例子來(lái)進(jìn)一步說(shuō)明一下，例子包含了微服務(wù)中最基本的三個(gè)角色（注冊(cè)中心、服務(wù)提供者、服務(wù)消費(fèi)者)：
注冊(cè)中心
注解 @EnableEurekaServer 表示該 Spring Boot 應(yīng)用是一個(gè)注冊(cè)中心。1
2
3
4
5
6
7@EnableEurekaServer
br/>1
2
3
4
5
6
7@EnableEurekaServer
public class EurekaserverApplication {
public static void main(String[] args) {
SpringApplication.run(EurekaserverApplication.class, args);
}
}
eureka.client.registerWithEureka: false 和fetchRegistry: false 來(lái)表明自己是一個(gè) eureka server。
1
2
3
4
5
6
7
8
9
10
11server:
port: 8080

eureka:
instance:
hostname: localhost
client:
registerWithEureka: false
fetchRegistry: false
serviceUrl:
defaultZone: http://${eureka.instance.hostname}:${server.port}/eureka/
service-hello 服務(wù)
注解 @EnableEurekaClient 表示他是一個(gè) Eureka 客戶端，它會(huì)在注冊(cè)中心注冊(cè)自己。
注解 @RestController 表示這是一個(gè)控制器，@RequestMapping("/hello") 表示匹配到請(qǐng)求 '/hello' 時(shí)會(huì)調(diào)用該方法進(jìn)行響應(yīng)。1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17@SpringBootApplication
br/>1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17@SpringBootApplication
br/>@RestController

public static void main(String[] args) {
SpringApplication.run(ServiceHelloApplication.class, args);
}

@Value("${server.port}")
String port;@RequestMapping("/hello")
br/>@RequestMapping("/hello")
return "hello "+name+",i am from port:" +port;
}

}
注冊(cè)中心的地址為 http://localhost:8080/eureka/，也就是上面我們定義的。服務(wù)名為 service-hello，將會(huì)被調(diào)用者使用。
1
2
3
4
5
6
7
8
9eureka:
client:
serviceUrl:
defaultZone: http://localhost:8080/eureka/
server:
port: 8081
spring:
application:
name: service-hello
服務(wù)消費(fèi)者 service-ribbon
假設(shè) service-ribbon 端口為 8082，當(dāng)我們?cè)L問(wèn) http://localhost:8080/hello 時(shí)，HelloControler 接收到請(qǐng)求，并調(diào)用 HelloService 中的 helloService 方法，HelloService 中通過(guò)定義的 restTemplate 去調(diào)用 http://service-hello/hello。此處要注意的是 @LoadBalanced 注解，它表示啟用負(fù)載均衡。1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40@SpringBootApplication
br/>1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40@SpringBootApplication
public class ServiceRibbonApplication {

public static void main(String[] args) {
SpringApplication.run(ServiceRibbonApplication.class, args);
}

@Bean@LoadBalanced
br/>@LoadBalanced
return new RestTemplate();
}

}

@Service
public class HelloService {

@Autowired
RestTemplate restTemplate;

public String helloService(String name) {
return restTemplate.getForObject("http://service-hello/hello?name="+name,String.class);
}

}

@RestController
public class HelloControler {

@Autowired
HelloService helloService;

@RequestMapping(value = "/hello")
public String hello(@RequestParam String name){
return helloService.helloService(name);
}

}
至此其實(shí)一個(gè)微服務(wù)應(yīng)用的雛形已經(jīng)搭建出來(lái)了，服務(wù)治理、服務(wù)調(diào)用可以說(shuō)是「五臟六腑」中的「心臟」。
「心臟」的依托
接下來(lái)我們要進(jìn)一步思考的是「五臟六腑」中其余的部分，因?yàn)樯倭怂鼈內(nèi)艘彩腔畈痪玫?。下面通過(guò)一個(gè)問(wèn)題或需求對(duì)應(yīng)一個(gè)組件的方式進(jìn)行介紹。
服務(wù)“雪崩”與斷路器
由于網(wǎng)絡(luò)等原因，服務(wù)并不能保證 100% 可用，如果單個(gè)服務(wù)出現(xiàn)問(wèn)題，調(diào)用這個(gè)服務(wù)就會(huì)出現(xiàn)線程阻塞，此時(shí)若有大量的請(qǐng)求涌入，Servlet 容器的線程資源會(huì)被消耗殆盡，導(dǎo)致服務(wù)癱瘓。
由于服務(wù)與服務(wù)之間存在依賴，故障會(huì)在調(diào)用鏈路上傳播，導(dǎo)致整個(gè)微服務(wù)系統(tǒng)崩潰，這就是服務(wù)故障的“雪崩”效應(yīng)。
為了解決這個(gè)問(wèn)題，Spring Cloud 提供了對(duì) Hystrix 斷路器的集成，當(dāng)服務(wù)調(diào)用失敗的頻次達(dá)到一定閾值，斷路器將被開(kāi)啟，降級(jí)的策略可以開(kāi)發(fā)者制定，一般是返回一個(gè)固定值。這樣就能夠避免連鎖故障。
此外 Spring Cloud 還提供 Hystrix Dashboard 和 Hystrix Turbine，幫助我們進(jìn)行監(jiān)控和聚合監(jiān)控。
服務(wù)暴露與路由網(wǎng)關(guān)
微服務(wù)中的服務(wù)很多，直接暴露給用戶一是不安全，二是對(duì)用戶不友好。因此在微服務(wù)和面向服務(wù)的架構(gòu)中，通常會(huì)有一個(gè)路由網(wǎng)關(guān)的角色，來(lái)負(fù)責(zé)路由轉(zhuǎn)發(fā)和過(guò)濾。對(duì)應(yīng)到 Spring Cloud 中有 Zuul 和 Gateway 兩個(gè)組件可用。
路由網(wǎng)關(guān)接收了所有的用戶請(qǐng)求，有著很高的負(fù)載，因此它通常是一個(gè)集群。用戶的請(qǐng)求會(huì)先經(jīng)過(guò)一層負(fù)載均衡被發(fā)到路由網(wǎng)關(guān)。
服務(wù)配置與配置中心
在微服務(wù)應(yīng)用中，服務(wù)數(shù)量巨多，而每個(gè)服務(wù)不同環(huán)境都有著不同的配置，為了方便服務(wù)配置文件統(tǒng)一管理，實(shí)時(shí)更新，所以需要分布式配置中心組件。需要注意的是此處的配置與注冊(cè)中心注冊(cè)的配置信息是兩個(gè)概念，此處的配置是服務(wù)本身的一些配置信息，如下圖：

Spring Cloud 提供了 Spring Cloud Config 組件，它支持配置服務(wù)放在配置服務(wù)的內(nèi)存中（即本地），也支持放在遠(yuǎn)程 Git 倉(cāng)庫(kù)中，幫助我們管理服務(wù)的配置信息。
信息同步與消息總線
前一個(gè)問(wèn)題講到了每個(gè)服務(wù)都有一些配置信息，那么配置信息更新了我們?cè)撛趺崔k，手動(dòng)一個(gè)個(gè)去更新？當(dāng)然不是，Spring Cloud 提供了 Spring Cloud Bus 組件，它通過(guò)輕量消息代理連接各個(gè)分布的節(jié)點(diǎn)。當(dāng)配置信息更新的時(shí)候，我們只要更新一個(gè)節(jié)點(diǎn)的配置，這個(gè)更新就會(huì)被廣播到這個(gè)分布式系統(tǒng)中。
問(wèn)題定位與鏈路追蹤
在微服務(wù)系統(tǒng)中，服務(wù)之間可以相互調(diào)用，因此我們一個(gè)請(qǐng)求可能會(huì)一條調(diào)用鏈，而整個(gè)系統(tǒng)會(huì)存在一張調(diào)用網(wǎng)，其中任意一個(gè)服務(wù)調(diào)用失敗或網(wǎng)絡(luò)超時(shí)都可能導(dǎo)致整個(gè)請(qǐng)求失敗。因?yàn)檎{(diào)用關(guān)系的復(fù)雜，這給問(wèn)題的定位造成了極大的困難，這也是必須提供服務(wù)鏈路追蹤的原因。
Spring Cloud 為我們提供了 Spring Cloud Sleuth 組件，它能夠跟進(jìn)一個(gè)請(qǐng)求到底有哪些服務(wù)參與，參與的順序是怎樣的，從而達(dá)到每個(gè)請(qǐng)求的步驟清晰可見(jiàn)。借助服務(wù)鏈路追蹤，我們可以快速定位問(wèn)題。
至此，Spring Cloud 的所有基礎(chǔ)組件都介紹完了。但是目前所有的組件介紹都是分散的，它們組合起來(lái)，完整的樣子是什么樣的？如下圖：

偷懶偷了張圖，圖中漏掉了 Config Server 和鏈路追蹤組件。但是結(jié)合上文的介紹，我們大致可以腦補(bǔ)出這兩個(gè)東西在圖中的位置。Config Server 是一個(gè)與所有服務(wù)相連的服務(wù)集群，鏈路追蹤組件則集成在每個(gè)服務(wù)中。
小結(jié)
服務(wù)治理為心臟，路由網(wǎng)關(guān)、消息中心、斷路器、鏈路追蹤、配置中心等為依托，構(gòu)造了整個(gè)微服務(wù)框架的「五臟六腑」。當(dāng)然，一個(gè)微服務(wù)系統(tǒng)遠(yuǎn)比本文所寫(xiě)的復(fù)雜得多，尤其是在不同的業(yè)務(wù)場(chǎng)景之下，因此想要更深入地了解它就需要我們不斷地去實(shí)踐。而作為前端，我了解這些內(nèi)容一是為了更好地了解整個(gè)請(qǐng)求的流程，二是為了后續(xù)在 SOA 中接入 Node 子服務(wù)積累相關(guān)知識(shí)。
最后分享一句有趣的調(diào)侃 Spring 的話：在 Spring 中沒(méi)有什么是一個(gè)注解解決不了的，如果有，那么就用兩個(gè)注解
歡迎學(xué)Java和大數(shù)據(jù)的朋友們加入java架構(gòu)交流： 855835163
加群鏈接：https://jq.qq.com/?_wv=1027&k=5dPqXGI
群內(nèi)提供免費(fèi)的架構(gòu)資料還有：Java工程化、高性能及分布式、高性能、深入淺出。高架構(gòu)。性能調(diào)優(yōu)、Spring，MyBatis，Netty源碼分析和大數(shù)據(jù)等多個(gè)知識(shí)點(diǎn)高級(jí)進(jìn)階干貨的免費(fèi)直播講解 可以進(jìn)來(lái)一起學(xué)習(xí)交流哦