溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

發(fā)布時間:2020-07-13 17:44:09 來源:網(wǎng)絡 閱讀:323 作者:架構師追風 欄目:編程語言

作者:古霜卡比

前言

本文將介紹微服務架構和相關的組件,介紹他們是什么以及為什么要使用微服務架構和這些組件。本文側重于簡明地表達微服務架構的全局圖景,因此不會涉及具體如何使用組件等細節(jié)。

要理解微服務,首先要先理解不是微服務的那些。通常跟微服務相對的是單體應用,即將所有功能都打包成在一個獨立單元的應用程序。從單體應用到微服務并不是一蹴而就的,這是一個逐漸演變的過程。本文將以一個網(wǎng)上超市應用為例來說明這一過程。

最初的需求

幾年前,小白和小皮一起創(chuàng)業(yè)做網(wǎng)上超市。小白負責程序開發(fā),小皮負責其他事宜。當時互聯(lián)網(wǎng)還不發(fā)達,網(wǎng)上超市還是藍海。只要功能實現(xiàn)了就能隨便賺錢。所以他們的需求很簡單,只需要一個網(wǎng)站掛在公網(wǎng),用戶能夠在這個網(wǎng)站上瀏覽商品、購買商品;另外還需一個管理后臺,可以管理商品、用戶、以及訂單數(shù)據(jù)。

功能清單:

網(wǎng)站

  1. 用戶注冊、登錄功能

  2. 商品展示

  3. 下單

管理后臺

  1. 用戶管理

  2. 商品管理

  3. 訂單管理

由于需求簡單,小白左手右手一個慢動作,網(wǎng)站就做好了。管理后臺出于安全考慮,不和網(wǎng)站做在一起,小白右手左手慢動作重播,管理網(wǎng)站也做好了??傮w架構圖如下:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

小白揮一揮手,找了家云服務部署上去,網(wǎng)站就上線了。上線后好評如潮,深受各類肥宅喜愛。小白小皮美滋滋地開始躺著收錢。

隨著業(yè)務發(fā)展……

好景不長,沒過幾天,各類網(wǎng)上超市緊跟著拔地而起,對小白小皮造成了強烈的沖擊。

在競爭的壓力下,小白小皮決定開展一些營銷手段:

  1. 開展促銷活動。比如元旦全場打折,春節(jié)買二送一,情人節(jié)狗糧優(yōu)惠券等等。

  2. 拓展渠道,新增移動端營銷。除了網(wǎng)站外,還需要開發(fā)移動端APP,微信小程序等。

  3. 精準營銷。利用歷史數(shù)據(jù)對用戶進行分析,提供個性化服務。

  4. ……

這些活動都需要程序開發(fā)的支持。小白拉了同學小紅加入團隊。小紅負責數(shù)據(jù)分析以及移動端相關開發(fā)。小白負責促銷活動相關功能的開發(fā)。

因為開發(fā)任務比較緊迫,小白小紅沒有好好規(guī)劃整個系統(tǒng)的架構,隨便拍了拍腦袋,決定把促銷管理和數(shù)據(jù)分析放在管理后臺里,微信和移動端APP另外搭建。通宵了幾天后,新功能和新應用基本完工。這時架構圖如下:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

這一階段存在很多不合理的地方:

  1. 網(wǎng)站和移動端應用有很多相同業(yè)務邏輯的重復代碼。

  2. 數(shù)據(jù)有時候通過數(shù)據(jù)庫共享,有時候通過接口調(diào)用傳輸。接口調(diào)用關系雜亂。

  3. 單個應用為了給其他應用提供接口,漸漸地越改越大,包含了很多本來就不屬于它的邏輯。應用邊界模糊,功能歸屬混亂。

  4. 管理后臺在一開始的設計中保障級別較低。加入數(shù)據(jù)分析和促銷管理相關功能后出現(xiàn)性能瓶頸,影響了其他應用。

  5. 數(shù)據(jù)庫表結構被多個應用依賴,無法重構和優(yōu)化。

  6. 所有應用都在一個數(shù)據(jù)庫上操作,數(shù)據(jù)庫出現(xiàn)性能瓶頸。特別是數(shù)據(jù)分析跑起來的時候,數(shù)據(jù)庫性能急劇下降。

  7. 開發(fā)、測試、部署、維護愈發(fā)困難。即使只改動一個小功能,也需要整個應用一起發(fā)布。有時候發(fā)布會不小心帶上了一些未經(jīng)測試的代碼,或者修改了一個功能后,另一個意想不到的地方出錯了。為了減輕發(fā)布可能產(chǎn)生的問題的影響和線上業(yè)務停頓的影響,所有應用都要在凌晨三四點執(zhí)行發(fā)布。發(fā)布后為了驗證應用正常運行,還得盯到第二天白天的用戶高峰期……

  8. 團隊出現(xiàn)推諉扯皮現(xiàn)象。關于一些公用的功能應該建設在哪個應用上的問題常常要爭論很久,最后要么干脆各做各的,或者隨便放個地方但是都不維護。

盡管有著諸多問題,但也不能否認這一階段的成果:快速地根據(jù)業(yè)務變化建設了系統(tǒng)。不過緊迫且繁重的任務容易使人陷入局部、短淺的思維方式,從而做出妥協(xié)式的決策。在這種架構中,每個人都只關注在自己的一畝三分地,缺乏全局的、長遠的設計。長此以往,系統(tǒng)建設將會越來越困難,甚至陷入不斷推翻、重建的循環(huán)。

是時候做出改變了

幸好小白和小紅是有追求有理想的好青年。意識到問題后,小白和小紅從瑣碎的業(yè)務需求中騰出了一部分精力,開始梳理整體架構,針對問題準備著手改造。

要做改造,首先你需要有足夠的精力和資源。如果你的需求方(業(yè)務人員、項目經(jīng)理、上司等)很強勢地一心追求需求進度,以致于你無法挪出額外的精力和資源的話,那么你可能無法做任何事……

在編程的世界中,最重要的便是抽象能力。微服務改造的過程實際上也是個抽象的過程。小白和小紅整理了網(wǎng)上超市的業(yè)務邏輯,抽象出公用的業(yè)務能力,做成幾個公共服務:

  1. 用戶服務

  2. 商品服務

  3. 促銷服務

  4. 訂單服務

  5. 數(shù)據(jù)分析服務

各個應用后臺只需從這些服務獲取所需的數(shù)據(jù),從而刪去了大量冗余的代碼,就剩個輕薄的控制層和前端。這一階段的架構如下:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

這個階段只是將服務分開了,數(shù)據(jù)庫依然是共用的,所以一些煙囪式系統(tǒng)的缺點仍然存在:

  1. 數(shù)據(jù)庫成為性能瓶頸,并且有單點故障的風險。

  2. 數(shù)據(jù)管理趨向混亂。即使一開始有良好的模塊化設計,隨著時間推移,總會有一個服務直接從數(shù)據(jù)庫取另一個服務的數(shù)據(jù)的現(xiàn)象。

  3. 數(shù)據(jù)庫表結構可能被多個服務依賴,牽一發(fā)而動全身,很難調(diào)整。

如果一直保持共用數(shù)據(jù)庫的模式,則整個架構會越來越僵化,失去了微服務架構的意義。因此小白和小紅一鼓作氣,把數(shù)據(jù)庫也拆分了。所有持久化層相互隔離,由各個服務自己負責。另外,為了提高系統(tǒng)的實時性,加入了消息隊列機制。架構如下:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

完全拆分后各個服務可以采用異構的技術。比如數(shù)據(jù)分析服務可以使用數(shù)據(jù)倉庫作為持久化層,以便于高效地做一些統(tǒng)計計算;商品服務和促銷服務訪問頻率比較大,因此加入了緩存機制等。

還有一種抽象出公共邏輯的方法是把這些公共邏輯做成公共的框架庫。這種方法可以減少服務調(diào)用的性能損耗。但是這種方法的管理成本非常高昂,很難保證所有應用版本的一致性。

數(shù)據(jù)庫拆分也有一些問題和挑戰(zhàn):比如說跨庫級聯(lián)的需求,通過服務查詢數(shù)據(jù)顆粒度的粗細問題等。但是這些問題可以通過合理的設計來解決。總體來說,數(shù)據(jù)庫拆分是一個利大于弊的。

微服務架構還有一個技術外的好處,它使整個系統(tǒng)的分工更加明確,責任更加清晰,每個人專心負責為其他人提供更好的服務。在單體應用的時代,公共的業(yè)務功能經(jīng)常沒有明確的歸屬。最后要么各做各的,每個人都重新實現(xiàn)了一遍;要么是隨機一個人(一般是能力比較強或者比較熱心的人)做到他負責的應用里面。在后者的情況下,這個人在負責自己應用之外,還要額外負責給別人提供這些公共的功能——而這個功能本來是無人負責的,僅僅因為他能力較強/比較熱心,就莫名地背鍋(這種情況還被美其名曰能者多勞)。結果最后大家都不愿意提供公共的功能。長此以往,團隊里的人漸漸變得各自為政,不再關心全局的架構設計。

從這個角度上看,使用微服務架構同時也需要組織結構做相應的調(diào)整。所以說做微服務改造需要管理者的支持。

改造完成后,小白和小紅分清楚各自的鍋。兩人十分滿意,一切就像是麥克斯韋方程組一樣漂亮完美。

然而……

沒有銀彈

春天來了,萬物復蘇,又到了一年一度的購物狂歡節(jié)。眼看著日訂單數(shù)量蹭蹭地上漲,小皮小白小紅喜笑顏開??上Ш镁安婚L,樂極生悲,突然嘣的一下,系統(tǒng)掛了。

以往單體應用,排查問題通常是看一下日志,研究錯誤信息和調(diào)用堆棧。而微服務架構整個應用分散成多個服務,定位故障點非常困難。小白一個臺機器一臺機器地查看日志,一個服務一個服務地手工調(diào)用。經(jīng)過十幾分鐘的查找,小白終于定位到故障點:促銷服務由于接收的請求量太大而停止響應了。其他服務都直接或間接地會調(diào)用促銷服務,于是也跟著宕機了。

在微服務架構中,一個服務故障可能會產(chǎn)生雪崩效用,導致整個系統(tǒng)故障。其實在節(jié)前,小白和小紅是有做過請求量評估的。按照預計,服務器資源是足以支持節(jié)日的請求量的,所以肯定是哪里出了問題。不過形勢緊急,隨著每一分每一秒流逝的都是白花花的銀子,因此小白也沒時間排查問題,當機立斷在云上新建了幾臺虛擬機,然后一臺一臺地部署新的促銷服務節(jié)點。幾分鐘的操作后,系統(tǒng)總算是勉強恢復正常了。整個故障時間內(nèi)估計損失了幾十萬的銷售額,三人的心在滴血……

事后,小白簡單寫了個日志分析工具(量太大了,文本編輯器幾乎打不開,打開了肉眼也看不過來),統(tǒng)計了促銷服務的訪問日志,發(fā)現(xiàn)在故障期間,商品服務由于代碼問題,在某些場景下會對促銷服務發(fā)起大量請求。這個問題并不復雜,小白手指抖一抖,修復了這個價值幾十萬的Bug。

問題是解決了,但誰也無法保證不會再發(fā)生類似的其他問題。微服務架構雖然邏輯設計上看是完美的,但就像積木搭建的華麗宮殿一樣,經(jīng)不起風吹草動。微服務架構雖然解決了舊問題,也引入了新的問題:

  1. 微服務架構整個應用分散成多個服務,定位故障點非常困難。

  2. 穩(wěn)定性下降。服務數(shù)量變多導致其中一個服務出現(xiàn)故障的概率增大,并且一個服務故障可能導致整個系統(tǒng)掛掉。事實上,在大訪問量的生產(chǎn)場景下,故障總是會出現(xiàn)的。

  3. 服務數(shù)量非常多,部署、管理的工作量很大。

  4. 開發(fā)方面:如何保證各個服務在持續(xù)開發(fā)的情況下仍然保持協(xié)同合作。

  5. 測試方面:服務拆分后,幾乎所有功能都會涉及多個服務。原本單個程序的測試變?yōu)榉臻g調(diào)用的測試。測試變得更加復雜。

小白小紅痛定思痛,決心好好解決這些問題。對故障的處理一般從兩方面入手,一方面盡量減少故障發(fā)生的概率,另一方面降低故障造成的影響。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

監(jiān)控 - 發(fā)現(xiàn)故障的征兆

在高并發(fā)分布式的場景下,故障經(jīng)常是突然間就雪崩式爆發(fā)。所以必須建立完善的監(jiān)控體系,盡可能發(fā)現(xiàn)故障的征兆。

微服務架構中組件繁多,各個組件所需要監(jiān)控的指標不同。比如Redis緩存一般監(jiān)控占用內(nèi)存值、網(wǎng)絡流量,數(shù)據(jù)庫監(jiān)控連接數(shù)、磁盤空間,業(yè)務服務監(jiān)控并發(fā)數(shù)、響應延遲、錯誤率等。因此如果做一個大而全的監(jiān)控系統(tǒng)來監(jiān)控各個組件是不大現(xiàn)實的,而且擴展性會很差。一般的做法是讓各個組件提供報告自己當前狀態(tài)的接口(metrics接口),這個接口輸出的數(shù)據(jù)格式應該是一致的。然后部署一個指標采集器組件,定時從這些接口獲取并保持組件狀態(tài),同時提供查詢服務。最后還需要一個UI,從指標采集器查詢各項指標,繪制監(jiān)控界面或者根據(jù)閾值發(fā)出告警。

大部分組件都不需要自己動手開發(fā),網(wǎng)絡上有開源組件。小白下載了RedisExporter和MySQLExporter,這兩個組件分別提供了Redis緩存和MySQL數(shù)據(jù)庫的指標接口。微服務則根據(jù)各個服務的業(yè)務邏輯實現(xiàn)自定義的指標接口。然后小白采用Prometheus作為指標采集器,Grafana配置監(jiān)控界面和郵件告警。這樣一套微服務監(jiān)控系統(tǒng)就搭建起來了:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

定位問題 - 鏈路跟蹤

在微服務架構下,一個用戶的請求往往涉及多個內(nèi)部服務調(diào)用。為了方便定位問題,需要能夠記錄每個用戶請求時,微服務內(nèi)部產(chǎn)生了多少服務調(diào)用,及其調(diào)用關系。這個叫做鏈路跟蹤。

我們用一個Istio文檔里的鏈路跟蹤例子來看看效果:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!


從圖中可以看到,這是一個用戶訪問productpage頁面的請求。在請求過程中,productpage服務順序調(diào)用了details和reviews服務的接口。而reviews服務在響應過程中又調(diào)用了ratings的接口。整個鏈路跟蹤的記錄是一棵樹:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!


要實現(xiàn)鏈路跟蹤,每次服務調(diào)用會在HTTP的HEADERS中記錄至少記錄四項數(shù)據(jù):

  1. traceId:traceId標識一個用戶請求的調(diào)用鏈路。具有相同traceId的調(diào)用屬于同一條鏈路。

  2. spanId:標識一次服務調(diào)用的ID,即鏈路跟蹤的節(jié)點ID。

  3. parentId:父節(jié)點的spanId。

  4. requestTime & responseTime:請求時間和響應時間。

另外,還需要調(diào)用日志收集與存儲的組件,以及展示鏈路調(diào)用的UI組件。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!


以上只是一個極簡的說明,關于鏈路跟蹤的理論依據(jù)可詳見Google的Dapper

了解了理論基礎后,小白選用了Dapper的一個開源實現(xiàn)Zipkin。然后手指一抖,寫了個HTTP請求的攔截器,在每次HTTP請求時生成這些數(shù)據(jù)注入到HEADERS,同時異步發(fā)送調(diào)用日志到Zipkin的日志收集器中。這里額外提一下,HTTP請求的攔截器,可以在微服務的代碼中實現(xiàn),也可以使用一個網(wǎng)絡代理組件來實現(xiàn)(不過這樣子每個微服務都需要加一層代理)。

鏈路跟蹤只能定位到哪個服務出現(xiàn)問題,不能提供具體的錯誤信息。查找具體的錯誤信息的能力則需要由日志分析組件來提供。

分析問題 - 日志分析

日志分析組件應該在微服務興起之前就被廣泛使用了。即使單體應用架構,當訪問數(shù)變大、或服務器規(guī)模增多時,日志文件的大小會膨脹到難以用文本編輯器進行訪問,更糟的是它們分散在多臺服務器上面。排查一個問題,需要登錄到各臺服務器去獲取日志文件,一個一個地查找(而且打開、查找都很慢)想要的日志信息。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

因此,在應用規(guī)模變大時,我們需要一個日志的“搜索引擎”。以便于能準確的找到想要的日志。另外,數(shù)據(jù)源一側還需要收集日志的組件和展示結果的UI組件:

小白調(diào)查了一下,使用了大名鼎鼎地ELK日志分析組件。ELK是Elasticsearch、Logstash和Kibana三個組件的縮寫。

  1. Elasticsearch:搜索引擎,同時也是日志的存儲。

  2. Logstash:日志采集器,它接收日志輸入,對日志進行一些預處理,然后輸出到Elasticsearch。

  3. Kibana:UI組件,通過Elasticsearch的API查找數(shù)據(jù)并展示給用戶。

最后還有一個小問題是如何將日志發(fā)送到Logstash。一種方案是在日志輸出的時候直接調(diào)用Logstash接口將日志發(fā)送過去。這樣一來又(咦,為啥要用“又”)要修改代碼……于是小白選用了另一種方案:日志仍然輸出到文件,每個服務里再部署個Agent掃描日志文件然后輸出給Logstash。

網(wǎng)關 - 權限控制,服務治理

拆分成微服務后,出現(xiàn)大量的服務,大量的接口,使得整個調(diào)用關系亂糟糟的。經(jīng)常在開發(fā)過程中,寫著寫著,忽然想不起某個數(shù)據(jù)應該調(diào)用哪個服務?;蛘邔懲崃?,調(diào)用了不該調(diào)用的服務,本來一個只讀的功能結果修改了數(shù)據(jù)……

為了應對這些情況,微服務的調(diào)用需要一個把關的東西,也就是網(wǎng)關。在調(diào)用者和被調(diào)用者中間加一層網(wǎng)關,每次調(diào)用時進行權限校驗。另外,網(wǎng)關也可以作為一個提供服務接口文檔的平臺。

使用網(wǎng)關有一個問題就是要決定在多大粒度上使用:最粗粒度的方案是整個微服務一個網(wǎng)關,微服務外部通過網(wǎng)關訪問微服務,微服務內(nèi)部則直接調(diào)用;最細粒度則是所有調(diào)用,不管是微服務內(nèi)部調(diào)用或者來自外部的調(diào)用,都必須通過網(wǎng)關。折中的方案是按照業(yè)務領域將微服務分成幾個區(qū),區(qū)內(nèi)直接調(diào)用,區(qū)間通過網(wǎng)關調(diào)用。

由于整個網(wǎng)上超市的服務數(shù)量還不算特別多,小白采用的最粗粒度的方案:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

服務注冊于發(fā)現(xiàn) - 動態(tài)擴容

前面的組件,都是旨在降低故障發(fā)生的可能性。然而故障總是會發(fā)生的,所以另一個需要研究的是如何降低故障產(chǎn)生的影響。

最粗暴的(也是最常用的)故障處理策略就是冗余。一般來說,一個服務都會部署多個實例,這樣一來能夠分擔壓力提高性能,二來即使一個實例掛了其他實例還能響應。

冗余的一個問題是使用幾個冗余?這個問題在時間軸上并沒有一個切確的答案。根據(jù)服務功能、時間段的不同,需要不同數(shù)量的實例。比如在平日里,可能4個實例已經(jīng)夠用;而在促銷活動時,流量大增,可能需要40個實例。因此冗余數(shù)量并不是一個固定的值,而是根據(jù)需要實時調(diào)整的。

一般來說新增實例的操作為:

  1. 部署新實例

  2. 將新實例注冊到負載均衡DNS

操作只有兩步,但如果注冊到負載均衡或DNS的操作為人工操作的話,那事情就不簡單了。想想新增40個實例后,要手工輸入40個IP的感覺……

解決這個問題的方案是服務自動注冊與發(fā)現(xiàn)。首先,需要部署一個服務發(fā)現(xiàn)服務,它提供所有已注冊服務的地址信息的服務。DNS也算是一種服務發(fā)現(xiàn)服務。然后各個應用服務在啟動時自動將自己注冊到服務發(fā)現(xiàn)服務上。

并且應用服務啟動后會實時(定期)從服務發(fā)現(xiàn)服務同步各個應用服務的地址列表到本地。服務發(fā)現(xiàn)服務也會定期檢查應用服務的健康狀態(tài),去掉不健康的實例地址。這樣新增實例時只需要部署新實例,實例下線時直接關停服務即可,服務發(fā)現(xiàn)會自動檢查服務實例的增減。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

服務發(fā)現(xiàn)還會跟客戶端負載均衡配合使用。由于應用服務已經(jīng)同步服務地址列表在本地了,所以訪問微服務時,可以自己決定負載策略。甚至可以在服務注冊時加入一些元數(shù)據(jù)(服務版本等信息),客戶端負載則根據(jù)這些元數(shù)據(jù)進行流量控制,實現(xiàn)A/B測試、藍綠發(fā)布等功能。

服務發(fā)現(xiàn)有很多組件可以選擇,比如說Zookeeper 、Eureka、Consul、Etcd等。不過小白覺得自己水平不錯,想炫技,于是基于Redis自己寫了一個……

熔斷、服務降級、限流

熔斷

當一個服務因為各種原因停止響應時,調(diào)用方通常會等待一段時間,然后超時或者收到錯誤返回。如果調(diào)用鏈路比較長,可能會導致請求堆積,整條鏈路占用大量資源一直在等待下游響應。所以當多次訪問一個服務失敗時,應熔斷,標記該服務已停止工作,直接返回錯誤。直至該服務恢復正常后再重新建立連接。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

服務降級

當下游服務停止工作后,如果該服務并非核心業(yè)務,則上游服務應該降級,以保證核心業(yè)務不中斷。比如網(wǎng)上超市下單界面有一個推薦商品湊單的功能,當推薦模塊掛了后,下單功能不能一起掛掉,只需要暫時關閉推薦功能即可。

限流

一個服務掛掉后,上游服務或者用戶一般會習慣性地重試訪問。這導致一旦服務恢復正常,很可能因為瞬間網(wǎng)絡流量過大又立刻掛掉,在棺材里重復著仰臥起坐。因此服務需要能夠自我保護——限流。限流策略有很多,最簡單的比如當單位時間內(nèi)請求數(shù)過多時,丟棄多余的請求。另外,也可以考慮分區(qū)限流。僅拒絕來自產(chǎn)生大量請求的服務的請求。例如商品服務和訂單服務都需要訪問促銷服務,商品服務由于代碼問題發(fā)起了大量請求,促銷服務則只限制來自商品服務的請求,來自訂單服務的請求則正常響應。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!


測試

微服務架構下,測試分為三個層次:

  1. 端到端測試:覆蓋整個系統(tǒng),一般在用戶界面機型測試。

  2. 服務測試:針對服務接口進行測試。

  3. 單元測試:針對代碼單元進行測試。

三種測試從上到下實施的容易程度遞增,但是測試效果遞減。端到端測試最費時費力,但是通過測試后我們對系統(tǒng)最有信心。單元測試最容易實施,效率也最高,但是測試后不能保證整個系統(tǒng)沒有問題。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!


由于端到端測試實施難度較大,一般只對核心功能做端到端測試。一旦端到端測試失敗,則需要將其分解到單元測試:則分析失敗原因,然后編寫單元測試來重現(xiàn)這個問題,這樣未來我們便可以更快地捕獲同樣的錯誤。

服務測試的難度在于服務會經(jīng)常依賴一些其他服務。這個問題可以通過Mock Server解決:

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

單元測試大家都很熟悉了。我們一般會編寫大量的單元測試(包括回歸測試)盡量覆蓋所有代碼。

微服務框架

指標接口、鏈路跟蹤注入、日志引流、服務注冊發(fā)現(xiàn)、路由規(guī)則等組件以及熔斷、限流等功能都需要在應用服務上添加一些對接代碼。如果讓每個應用服務自己實現(xiàn)是非常耗時耗力的?;贒RY的原則,小白開發(fā)了一套微服務框架,將與各個組件對接的代碼和另外一些公共代碼抽離到框架中,所有的應用服務都統(tǒng)一使用這套框架進行開發(fā)。

使用微服務框架可以實現(xiàn)很多自定義的功能。甚至可以將程序調(diào)用堆棧信息注入到鏈路跟蹤,實現(xiàn)代碼級別的鏈路跟蹤。或者輸出線程池、連接池的狀態(tài)信息,實時監(jiān)控服務底層狀態(tài)。

使用統(tǒng)一的微服務框架有一個比較嚴重的問題:框架更新成本很高。每次框架升級,都需要所有應用服務配合升級。當然,一般會使用兼容方案,留出一段并行時間等待所有應用服務升級。但是如果應用服務非常多時,升級時間可能會非常漫長。并且有一些很穩(wěn)定幾乎不更新的應用服務,其負責人可能會拒絕升級……因此,使用統(tǒng)一微服務框架需要完善的版本管理方法和開發(fā)管理規(guī)范。

另一條路 - Service Mesh

另一種抽象公共代碼的方法是直接將這些代碼抽象到一個反向代理組件。每個服務都額外部署這個代理組件,所有出站入站的流量都通過該組件進行處理和轉發(fā)。這個組件被稱為Sidecar。

Sidecar不會產(chǎn)生額外網(wǎng)絡成本。Sidecar會和微服務節(jié)點部署在同一臺主機上并且共用相同的虛擬網(wǎng)卡。所以sidecar和微服務節(jié)點的通信實際上都只是通過內(nèi)存拷貝實現(xiàn)的。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

Sidecar只負責網(wǎng)絡通信。還需要有個組件來統(tǒng)一管理所有sidecar的配置。在Service Mesh中,負責網(wǎng)絡通信的部分叫數(shù)據(jù)平面(data plane),負責配置管理的部分叫控制平面(control plane)。數(shù)據(jù)平面和控制平面構成了Service Mesh的基本架構。

還不知道如何實踐微服務的Java程序員,這遍文章千萬不要錯過!

Sevice Mesh相比于微服務框架的優(yōu)點在于它不侵入代碼,升級和維護更方便。它經(jīng)常被詬病的則是性能問題。即使回環(huán)網(wǎng)絡不會產(chǎn)生實際的網(wǎng)絡請求,但仍然有內(nèi)存拷貝的額外成本。另外有一些集中式的流量處理也會影響性能。

結束、也是開始

微服務不是架構演變的終點。往細走還有Serverless、FaaS等方向。另一方面也有人在唱合久必分分久必合,重新發(fā)現(xiàn)單體架構……


最后
歡迎大家一起交流,喜歡文章記得點個贊喲,感謝支持!


向AI問一下細節(jié)

免責聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權內(nèi)容。

AI