怎么用DPDK GRO和GSO來提高網(wǎng)絡(luò)應(yīng)用性能

怎么用DPDK GRO和GSO來提高網(wǎng)絡(luò)應(yīng)用性能，相信很多沒有經(jīng)驗的人對此束手無策，為此本文總結(jié)了問題出現(xiàn)的原因和解決方法，通過這篇文章希望你能解決這個問題。

　　目前，有大量的網(wǎng)絡(luò)應(yīng)用在處理數(shù)據(jù)包的時候只需要處理數(shù)據(jù)包頭，而不會操作數(shù)據(jù)負(fù)載部分，例如防火墻、TCP/IP協(xié)議棧和軟件交換機(jī)。對這類網(wǎng)絡(luò)應(yīng)用而言， 包頭處理產(chǎn)生的開銷(稱為“per-packet overhead”)占了整體開銷的大部分。因此，如何減少包頭處理開銷是優(yōu)化這類應(yīng)用性能的關(guān)鍵。

　　減少包頭處理開銷最直接的方法：減少數(shù)據(jù)包數(shù)量

　　如何減少包數(shù)量?

　　●增大Maximum Transmission Unit (MTU)。在數(shù)據(jù)量一定的情況下，使用大MTU的數(shù)據(jù)包可攜帶更多數(shù)據(jù)，從而減少了包的總量。但MTU值依賴于物理鏈路，我們無法保證數(shù)據(jù)包經(jīng)過的所有鏈路均使用大MTU。

　　●利用網(wǎng)卡特性：Large Receive Offload (LRO)，UDP Fragmentation Offload (UFO)和TCP Segmentation Offload (TSO)。如圖1所示，LRO將從物理鏈路收到的TCP包(如1500B)合并為長度更長的TCP包(如64KB);UFO和TSO將上層應(yīng)用發(fā)送的長數(shù)據(jù)負(fù)載的UDP和TCP包(如64KB)拆分成長度更短的數(shù)據(jù)包(如1500B)，以滿足物理鏈路的MTU限制。通過在網(wǎng)卡上進(jìn)行包合并和拆分，在不需要任何CPU開銷的情況下，上層應(yīng)用就可以處理數(shù)量大大減少的大包。然而，LRO、TSO和UFO通常只能處理TCP和UDP包，而且并非所有的網(wǎng)卡都支持這些特性。

　　●軟件包合并 (Generic Receive Offload，GRO)和包拆分 (Generic Segmentation Offload，GSO)。與前兩種方法相比，GRO和GSO有兩個優(yōu)點(diǎn)：第一，不依賴于物理鏈路和網(wǎng)卡;第二，能夠支持更多的協(xié)議類型，如VxLAN和GRE。

　　圖1. LRO、UFO和TSO工作原理

　　為了幫助基于DPDK的應(yīng)用程序(如Open vSwitch)減少包頭處理開銷，DPDK分別于17.08和17.11支持了GRO和GSO。如圖2所示， GRO和GSO是DPDK中的兩個用戶庫，應(yīng)用程序直接調(diào)用它們進(jìn)行包合并和分片。

　　圖2. DPDK GRO和DPDK GSO

　　1、GRO庫和GSO庫結(jié)構(gòu)

　　圖3描繪了GRO庫和GSO庫的結(jié)構(gòu)。根據(jù)數(shù)據(jù)包類型，GRO庫定義了不同的GRO類型。每一種GRO類型負(fù)責(zé)合并一種類型的數(shù)據(jù)包，如TCP/IPv4 GRO處理TCP/IPv4數(shù)據(jù)包。同樣的，GSO庫也定義了不同的GSO類型。GRO庫和GSO庫分別根據(jù)MBUF的packet_type域和ol_flags域?qū)⑤斎氲臄?shù)據(jù)包交給對應(yīng)的GRO和GSO類型處理。

　　圖3. GRO庫和GSO庫的框架

　　2、如何使用GRO庫和GSO庫?

　　使用GRO和GSO庫十分簡單。如圖4所示，只需要調(diào)用一個函數(shù)便可以對包進(jìn)行合并和分片。

　　圖4. 代碼示例

　　為了支持不同的用戶場景，GRO庫提供了兩組API：輕量模式API和重量模式API，如圖5所示。輕量模式API應(yīng)用于需要快速合并少量數(shù)據(jù)包的場景，而重量模式API則用于需要細(xì)粒度地控制合包并需要合并大量數(shù)據(jù)包的場景。

　　圖5. 輕量模式API和重量模式API

　　3、DPDK GRO的合包算法

　　算法挑戰(zhàn)

　　●在高速的網(wǎng)絡(luò)環(huán)境下，高開銷的合包算法很可能會導(dǎo)致網(wǎng)卡丟包。

　　●包亂序(“Packet Reordering”)增加了合包難度。例如Linux GRO無法合并亂序的數(shù)據(jù)包。

　　這就要求DPDK GRO的合包算法：

　　足夠輕量以適應(yīng)高速的網(wǎng)絡(luò)環(huán)境

　　能夠合并亂序包

　　基于Key的合包算法

　　為解決上述兩點(diǎn)挑戰(zhàn)，DPDK GRO采用基于Key的合包算法，其流程如圖6所示。對新到的數(shù)據(jù)包，首先按照流(“flow”)對其進(jìn)行分類，再在其所在的流中尋找相鄰的數(shù)據(jù)包(“neighbor”)進(jìn)行合并。若無法找到匹配的流，就插入一條新流并將數(shù)據(jù)包存儲到新流中。若無法找到鄰居，則將數(shù)據(jù)包存儲到對應(yīng)的流中。

　　基于Key的合包算法有兩個特點(diǎn)。首先，通過流分類來加速數(shù)據(jù)包的合并是十分輕量的一種做法;其次，保存無法合并的數(shù)據(jù)包(如亂序包)使得之后對其進(jìn)行合并成為可能，故減輕了包亂序?qū)习鼛淼挠绊憽?/p>

　　圖6. 基于Key的合包算法流程

　　4、DPDK GSO的分片策略

　　分片流程

　　如圖7所示，將一個數(shù)據(jù)包分片有3個步驟。首先，將包的數(shù)據(jù)負(fù)載分成許多長度更小的部分;其次，為每一個數(shù)據(jù)負(fù)載部分添加包頭(新形成的數(shù)據(jù)包稱為GSO Segment);最后，為每個GSO segment更新包頭(如TCP Sequence Number)。

　　圖7. GSO分片流程

　　GSO Segment的結(jié)構(gòu)

　　生成一個GSO Segment的最簡單方法就是拷貝包頭和數(shù)據(jù)負(fù)載部分。但頻繁的數(shù)據(jù)拷貝會降低GSO性能，因此，DPDK GSO采用了一種基于零拷貝的數(shù)據(jù)結(jié)構(gòu)——Two-part MBUF——來組織GSO Segment。如圖8所示，一個Two-part MBUF由一個Direct MBUF和多個Indirect MBUF組成。Direct MBUF用來存儲包頭，Indirect MBUF則類似于指針，指向數(shù)據(jù)負(fù)載部分。利用Two-part MBUF，生成一個GSO Segment僅需拷貝長度較短的包頭，而不需要拷貝較長的數(shù)據(jù)負(fù)載部分。

　　圖8. Two-part MBUF的結(jié)構(gòu)

　　GRO庫和GSO庫的狀態(tài)

　　目前，GRO庫還處于一個初期階段，僅對使用最廣泛的TCP/IPv4數(shù)據(jù)包提供了合包支持。GSO庫則支持更豐富的包類型，包括TCP/IPv4、VxLAN和GRE。

看完上述內(nèi)容，你們掌握怎么用DPDK GRO和GSO來提高網(wǎng)絡(luò)應(yīng)用性能的方法了嗎？如果還想學(xué)到更多技能或想了解更多相關(guān)內(nèi)容，歡迎關(guān)注億速云行業(yè)資訊頻道，感謝各位的閱讀！