摘要：隨著互聯(lián)網(wǎng)深入發(fā)展，許多應(yīng)用程序都需要頻繁的交互操作，這讓許多單臺云主機(jī)網(wǎng)絡(luò)包處理的瓶頸愈發(fā)顯現(xiàn)，一些增強(qiáng)云主機(jī)網(wǎng)絡(luò)的新特性開始出現(xiàn)，他們優(yōu)化數(shù)據(jù)包并發(fā)處理的能力，UCloud云主機(jī)就是這樣一個優(yōu)秀案例。
引子
隨著產(chǎn)品交互需求越來越頻繁，數(shù)據(jù)量也越來越大，高并發(fā)成為了一種常態(tài)，給網(wǎng)絡(luò)帶來了極大的挑戰(zhàn)。特別是，大量頻繁用戶請求和數(shù)據(jù)交互、體積小的網(wǎng)絡(luò)包通信的新業(yè)務(wù)場景下，單個云主機(jī)網(wǎng)絡(luò)包處理能力已經(jīng)無法滿足需求。
為解決單個云主機(jī)網(wǎng)絡(luò)包處理能力存在的瓶頸，UCloud云主機(jī)發(fā)布了網(wǎng)絡(luò)增強(qiáng)新特性，可以支撐數(shù)倍在線請求，將單臺PPS提高數(shù)倍，從而保證網(wǎng)絡(luò)性能的穩(wěn)定。
舉個例子：就游戲而言，輕微的網(wǎng)絡(luò)波動就會造成在線玩家掉線和卡頓，單臺云主機(jī)平均更是有幾萬的包轉(zhuǎn)發(fā)，單臺云主機(jī)的網(wǎng)絡(luò)包處理能力明顯不足。但是，打開網(wǎng)絡(luò)增強(qiáng)特性后，對于游戲商來說就能一個區(qū)服承載數(shù)倍游戲玩家，而對于不注重單機(jī)能力的情況也能起到一臺頂多臺的作用，所以網(wǎng)絡(luò)增強(qiáng)特性不僅可以提高單臺主機(jī)的包處理能力，還能減少云主機(jī)的部署數(shù)量與相應(yīng)的成本。
初識網(wǎng)絡(luò)增強(qiáng)
那么，UCloud云主機(jī)網(wǎng)絡(luò)增強(qiáng)特性具體能為高包量并發(fā)的數(shù)據(jù)處理帶來哪些優(yōu)化呢? 在介紹UCloud云主機(jī)的網(wǎng)絡(luò)增強(qiáng)新特性，先介紹數(shù)據(jù)包和并發(fā)的概念，了解一條消息的旅程：
包(Packet)，是TCP/IP協(xié)議通信傳輸中的數(shù)據(jù)單位，一般也稱“數(shù)據(jù)包”。在網(wǎng)絡(luò)中，數(shù)據(jù)被劃分為多個數(shù)據(jù)包，這些包沿著不同的路徑在一個或多個網(wǎng)絡(luò)中傳輸，在傳輸?shù)穆吠旧希總€小數(shù)據(jù)包還可能會被繼續(xù)分片。當(dāng)這些小數(shù)據(jù)包到達(dá)目標(biāo)機(jī)器時，他們會被重新拼裝到一起。
簡單的說，用戶瀏覽網(wǎng)頁、打開App、玩聯(lián)網(wǎng)手機(jī)游戲，實際上就是數(shù)據(jù)包的交換，因為這些簡單動作背后，你完成了給網(wǎng)站發(fā)送數(shù)據(jù)包，而網(wǎng)站接收到了之后，根據(jù)你發(fā)送的數(shù)據(jù)包的IP地址，返回給你網(wǎng)頁的數(shù)據(jù)包這兩個過程，即數(shù)據(jù)包的交換。
并發(fā)，在操作系統(tǒng)中，是指一個時間段中有幾個程序都處于已啟動運(yùn)行到運(yùn)行完畢之間，且這幾個程序都是在同一個處理機(jī)上運(yùn)行，但任一個時刻點(diǎn)上只有一個程序在處理機(jī)上運(yùn)行，即兩個或多個事件在同一時間間隔內(nèi)發(fā)生。
簡單的說，當(dāng)春運(yùn)期間，12306網(wǎng)站開放購票，1秒內(nèi)10000個人點(diǎn)擊購買按鈕，此時12306網(wǎng)站服務(wù)器就收到了10000個并發(fā)請求。
UCloud云主機(jī)的網(wǎng)絡(luò)增強(qiáng)新特性，優(yōu)化的就是數(shù)據(jù)包并發(fā)處理的能力，打開網(wǎng)絡(luò)增強(qiáng)配置，創(chuàng)建的新主機(jī)可以擁有網(wǎng)絡(luò)高包量多隊列并發(fā)特性，使帶寬能力大幅提升，能并行處理和接受批量連接的報文，極大提升了虛擬機(jī)的包處理能力。
技術(shù)實現(xiàn)
云主機(jī)的網(wǎng)絡(luò)增強(qiáng)特性，利用的是網(wǎng)卡多隊列特性，讓多核CPU配合多隊列網(wǎng)卡驅(qū)動的支持，將各個隊列通過中斷綁定到不同的核上，使得CPU的各個核實現(xiàn)并發(fā)收包，所以在網(wǎng)絡(luò)流量大的時候，數(shù)據(jù)包可以被分散到各個核上，避免了CPU成為瓶頸的尷尬。
那多隊列網(wǎng)卡特性又是如何實現(xiàn)的呢?事實上，以往的內(nèi)核是不支持多隊列的，而不支持多隊列的內(nèi)核中的每個網(wǎng)卡都擁有一個排隊的規(guī)則，根據(jù)排隊規(guī)則的過濾器將數(shù)據(jù)包區(qū)分為一個個類，類中還可以嵌套新的更細(xì)的排隊規(guī)則，但這種以網(wǎng)卡為中心的方式實際上不適應(yīng)如今的網(wǎng)絡(luò)應(yīng)用，從而誕生了多隊列特性的網(wǎng)卡。
實現(xiàn)了多隊列的網(wǎng)卡圖示如下：
數(shù)據(jù)被劃分為數(shù)據(jù)包在網(wǎng)絡(luò)傳輸，到達(dá)目標(biāo)機(jī)器時，先通過網(wǎng)卡轉(zhuǎn)發(fā)給內(nèi)核，內(nèi)核包括驅(qū)動和內(nèi)存，最終到達(dá)CPU，CPU對數(shù)據(jù)包進(jìn)行處理。對于普通的云主機(jī)來說，網(wǎng)卡只有一個根隊列，所有的數(shù)據(jù)包進(jìn)來都要進(jìn)入這個根隊列進(jìn)行排隊，由一個CPU進(jìn)行處理。所以當(dāng)數(shù)據(jù)量大的時候，就會造成瓶頸，以致CPU來不及處理數(shù)據(jù)包，最終導(dǎo)致丟包。
而多隊列網(wǎng)卡是一種技術(shù)，將各個隊列通過中斷綁定到不同的核上，實現(xiàn)了多隊列，就不再逼迫數(shù)據(jù)包強(qiáng)擠到網(wǎng)卡的根隊列進(jìn)行排隊，使得每個網(wǎng)卡擁有很多的根隊列，甚至每個應(yīng)用一個隊列都有可能，從而增強(qiáng)并發(fā)處理能力，使帶寬能力大幅提升，能并行處理和接受批量連接的報文，極大提升了虛擬機(jī)的包處理能力。
實現(xiàn)上，我們主要是通過負(fù)載均衡方法論，升級宿主機(jī)和虛擬機(jī)操作系統(tǒng)Linux 的內(nèi)核，實現(xiàn)對網(wǎng)卡驅(qū)動多隊列的支持，并利用多核CPU的性能，讓原來的一個隊列變成四個隊列，使得數(shù)據(jù)包的調(diào)度變得更加有效，同時也由多個CPU進(jìn)行處理，從而提升并發(fā)處理的能力。
(注：目前只支持在部分Linux發(fā)行版4核CPU以上的標(biāo)準(zhǔn)機(jī)型上開啟。)
性能測試
對于UCloud云主機(jī)網(wǎng)絡(luò)增強(qiáng)的性能，我們也進(jìn)行了測試。主要是通過使用通用網(wǎng)絡(luò)性能測試工具netperf對UHost標(biāo)準(zhǔn)版機(jī)型在是否開啟網(wǎng)絡(luò)增加配置的兩種情況下進(jìn)行網(wǎng)絡(luò)性能測試得到的結(jié)果，最新的測試數(shù)據(jù)如下圖所示(鑒于是測試環(huán)境，該數(shù)據(jù)僅供參考)：
圖解：
1. ucloud-yg: 未開啟網(wǎng)絡(luò)增強(qiáng)的云主機(jī)
2. ucloud-gre: 開啟網(wǎng)絡(luò)增強(qiáng)的云主機(jī)
3. 未標(biāo)注的數(shù)據(jù)為業(yè)內(nèi)其他云主機(jī)
經(jīng)過測試，網(wǎng)絡(luò)增強(qiáng)配置的特性，會讓帶寬利用率更是大幅提升，內(nèi)網(wǎng)帶寬接近4Gb/s，是業(yè)內(nèi)平均水平的7倍以上。
經(jīng)過測試，網(wǎng)絡(luò)增強(qiáng)配置的特性，可以極大的提升包處理能力，是業(yè)內(nèi)平均水平的3倍以上，最大包吞吐能力高達(dá)18萬。
(注：相關(guān)測試數(shù)據(jù)見鏈接)
總結(jié)
本文簡單的介紹了利用多隊列網(wǎng)卡特性使得云主機(jī)擁有網(wǎng)絡(luò)高包量多隊列并發(fā)特性的實現(xiàn)過程。希望通過分析數(shù)據(jù)包傳輸路徑以及處理過程讓大家直觀的看到，UCloud云主機(jī)網(wǎng)絡(luò)增強(qiáng)新特性帶來的高包量并發(fā)處理能力的提升。
未來，UCloud還會對網(wǎng)絡(luò)增強(qiáng)配置進(jìn)行升級，隨著硬件提升和可能的內(nèi)核優(yōu)化，高包量處理能力還將有持續(xù)提升空間。希望此特性能夠滿足新場景下通訊頻繁、數(shù)據(jù)包體積小但數(shù)量大的新需求。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！
