大型網(wǎng)站的可伸縮性架構(gòu)如何設(shè)計(jì)？

1. 網(wǎng)站架構(gòu)的伸縮性設(shè)計(jì)

1.1. 不同功能進(jìn)行物理分離實(shí)現(xiàn)伸縮

縱向分離（分層后分離）：將業(yè)務(wù)處理流程上的不同部分分離部署，實(shí)現(xiàn)系統(tǒng)伸縮性。

橫向分離（業(yè)務(wù)分割后分離）：將不同的業(yè)務(wù)模塊分離部署，實(shí)現(xiàn)系統(tǒng)伸縮性。

1.2. 單一功能通過集群規(guī)模實(shí)現(xiàn)伸縮

將不同功能分離部署可以實(shí)現(xiàn)一定程度的伸縮性，但是隨著網(wǎng)站的訪問量逐步增加，即使分離到最小粒度的獨(dú)立部署，單一的服務(wù)器也不能滿足業(yè)務(wù)規(guī)模的要求。因此必須使用服務(wù)器集群，即將相同服務(wù)部署在多態(tài)服務(wù)器上構(gòu)成一個(gè)集群整體對(duì)外提供服務(wù)。

2. 應(yīng)用服務(wù)器集群的伸縮性設(shè)計(jì)

2.1. HTTP 重定向負(fù)載均衡

利用 HTTP 重定向協(xié)議實(shí)現(xiàn)負(fù)載均衡。

這種負(fù)載均衡方案的優(yōu)點(diǎn)是比較簡(jiǎn)單。缺點(diǎn)是瀏覽器需要兩次請(qǐng)求服務(wù)器才能完成一次訪問，性能較差：重定向服務(wù)器自身的處理能力有可能成為瓶頸，整個(gè)集群的伸縮性規(guī)模有限；使用 HTTP 302 響應(yīng)碼重定向，可能使搜索引擎判斷為 SEO 作弊，降低搜索排名。

2.2. DNS 域名解析負(fù)載均衡

利用 DNS 處理域名解析請(qǐng)求的同時(shí)進(jìn)行負(fù)載均衡處理的一種方案。

在 DNS 服務(wù)器中配置多個(gè) A 記錄，如：

114.100.40.1 www.mysite.com114.100.40.2 www.mysite.com114.100.40.3 www.mysite.com

每次域名解析請(qǐng)求都會(huì)根據(jù)負(fù)載均衡算法計(jì)算一個(gè)不同的 IP 地址返回，這樣 A 記錄中配置的多個(gè)服務(wù)器就構(gòu)成一個(gè)集群，并可以實(shí)現(xiàn)負(fù)載均衡。

DNS 域名解析負(fù)載均衡的優(yōu)點(diǎn)：

• 將負(fù)載均衡的工作轉(zhuǎn)交給了 DNS，省掉了網(wǎng)站管理維護(hù)的麻煩。
• 同時(shí)，許多 DNS 服務(wù)器還支持基于地理位置的域名解析，即將域名解析成距離用戶地理最近的一個(gè)服務(wù)器地址，這樣可以加快用戶訪問速度，改善性能。

DNS 域名解析負(fù)載均衡的缺點(diǎn)：

• DNS 是多級(jí)解析，每一級(jí) DNS 都可能緩存 A 記錄，當(dāng)某臺(tái)服務(wù)器下線后，即使修改了 DNS 的 A 記錄，要使其生效也需要較長(zhǎng)時(shí)間。這段時(shí)間，依然會(huì)域名解析到已經(jīng)下線的服務(wù)器，導(dǎo)致用戶訪問失敗。
• DNS 的負(fù)載均衡的控制權(quán)在域名服務(wù)商那里，網(wǎng)站無(wú)法對(duì)其做更多改善和更強(qiáng)大的管理。

2.3. 反向代理負(fù)載均衡

大多數(shù)反向代理服務(wù)器同時(shí)提供反向代理和負(fù)載均衡的功能。

反向代理服務(wù)器的優(yōu)點(diǎn)是部署簡(jiǎn)單。缺點(diǎn)是反向代理服務(wù)器時(shí)所有請(qǐng)求和響應(yīng)的中轉(zhuǎn)站，其性能可能會(huì)成為瓶頸。

2.4. IP 負(fù)載均衡

在網(wǎng)絡(luò)層通過修改請(qǐng)求目標(biāo)地址進(jìn)行負(fù)載均衡。負(fù)載均衡服務(wù)器（網(wǎng)關(guān)服務(wù)器）在操作系統(tǒng)內(nèi)核獲取網(wǎng)絡(luò)數(shù)據(jù)包，根據(jù)負(fù)載均衡算法計(jì)算得到一臺(tái)真實(shí) Web 服務(wù)器 10.0.0.1，然后將目的 IP 地址修改為 10.0.0.1，不需要通過用戶進(jìn)程。真實(shí) Web 服務(wù)器處理完成后，響應(yīng)數(shù)據(jù)包回到負(fù)載均衡服務(wù)器，負(fù)載均衡服務(wù)器再將數(shù)據(jù)包原地址修改為自身的 IP 地址（114.100.80.10）發(fā)送給瀏覽器。

IP 負(fù)載均衡在內(nèi)核完成數(shù)據(jù)分發(fā)，所以處理性能優(yōu)于反向代理負(fù)載均衡。但是因?yàn)樗姓?qǐng)求響應(yīng)都要經(jīng)過負(fù)載均衡服務(wù)器，集群的最大響應(yīng)數(shù)據(jù)吞吐量受制于負(fù)載均衡服務(wù)器網(wǎng)卡帶寬。

2.5. 數(shù)據(jù)鏈路層負(fù)載均衡

數(shù)據(jù)鏈路層負(fù)載均衡是指在通信協(xié)議的數(shù)據(jù)鏈路層修改 mac 地址進(jìn)行負(fù)載均衡。

這種方式又稱作三角傳輸方式，負(fù)載均衡數(shù)據(jù)分發(fā)過程中不修改 IP 地址，只修改目的 mac 地址，通過配置真實(shí)物理服務(wù)器集群所有機(jī)器虛擬 IP 和負(fù)載均衡服務(wù)器 IP 地址一致，從而達(dá)到不修改數(shù)據(jù)包的源地址和目的地址就可以進(jìn)行數(shù)據(jù)分發(fā)的目的，由于實(shí)際處理請(qǐng)求的真實(shí)物理服務(wù)器 IP 和數(shù)據(jù)請(qǐng)求目的 IP 一致，不需要通過負(fù)載均衡服務(wù)器進(jìn)行地址轉(zhuǎn)換，可將響應(yīng)數(shù)據(jù)包直接返回給用戶瀏覽器，避免負(fù)載均衡服務(wù)器網(wǎng)卡帶寬成為瓶頸。這種負(fù)載方式又稱作直接路由方式。

在 Linux 平臺(tái)上最好的鏈路層負(fù)載均衡開源產(chǎn)品是 LVS(Linux Virtual Server)。

2.6. 負(fù)載均衡算法

負(fù)載均衡服務(wù)器的實(shí)現(xiàn)可以分為兩個(gè)部分：

1. 根據(jù)負(fù)載均衡算法和 Web 服務(wù)器列表計(jì)算得到集群中一臺(tái) Web 服務(wù)器的地址。
2. 將請(qǐng)求數(shù)據(jù)發(fā)送到該地址對(duì)應(yīng)的 Web 服務(wù)器上。

負(fù)載均衡算法通常有以下幾種：

• 輪詢（Round Robin）  - 所有請(qǐng)求被依次分發(fā)到每臺(tái)應(yīng)用服務(wù)器上，即每臺(tái)服務(wù)器需要處理的請(qǐng)求數(shù)據(jù)都相同，適合于所有服務(wù)器硬件都相同的場(chǎng)景。
• 加權(quán)輪詢（Weighted Round Robin）  - 根據(jù)服務(wù)器硬件性能情況，在輪詢的基礎(chǔ)上，按照配置權(quán)重將請(qǐng)求分發(fā)到每個(gè)服務(wù)器，高性能服務(wù)器能分配更多請(qǐng)求。
• 隨機(jī)（Random）  - 請(qǐng)求被隨機(jī)分配到各個(gè)應(yīng)用服務(wù)器，在許多場(chǎng)合下，這種方案都很簡(jiǎn)單實(shí)用，因?yàn)楹玫碾S機(jī)數(shù)本身就很平均，即使應(yīng)用服務(wù)器硬件配置不同，也可以使用加權(quán)隨機(jī)算法。
• 最少連接（Least Connection）  - 記錄每個(gè)應(yīng)用服務(wù)器正在處理的連接數(shù)，將新到的請(qǐng)求分發(fā)到最少連接的服務(wù)器上，應(yīng)該說(shuō)，這是最符合負(fù)載均衡定義的算法。
• 源地址 Hash（Source Hash）  - 根據(jù)請(qǐng)求來(lái)源的 IP 地址進(jìn)行 Hash 計(jì)算，得到應(yīng)用服務(wù)器，這樣來(lái)自同一個(gè) IP 地址的請(qǐng)求總在同一個(gè)服務(wù)器上處理，該請(qǐng)求的上下文信息可以存儲(chǔ)在這臺(tái)服務(wù)器上，在一個(gè)會(huì)話周期內(nèi)重復(fù)使用，從而實(shí)現(xiàn)會(huì)話粘滯。

3. 分布式緩存集群的伸縮性設(shè)計(jì)

一致性 HASH 算法

4. 數(shù)據(jù)存儲(chǔ)服務(wù)器集群的伸縮性設(shè)計(jì)

4.1. 關(guān)系型數(shù)據(jù)庫(kù)的伸縮性設(shè)計(jì)

• 主從復(fù)制  - 主流關(guān)系型數(shù)據(jù)庫(kù)一般都支持主從復(fù)制。
• 分庫(kù)  - 根據(jù)業(yè)務(wù)對(duì)數(shù)據(jù)庫(kù)進(jìn)行分割。制約條件是跨庫(kù)的表不能進(jìn)行 Join 操作。
• 分表  - 使用數(shù)據(jù)庫(kù)分片中間件，如 Cobar 等。

4.2. NoSql 數(shù)據(jù)庫(kù)的伸縮性設(shè)計(jì)

一般而言，Nosql 不支持 SQL 和 ACID，但是強(qiáng)化了對(duì)于高可用和伸縮性的支持。