DPU它到底有啥用

到底什么是DPU？DPU的英文全稱叫做DataProcessingUnit，與CPU只有一字之差，它們有何區(qū)別呢？對(duì)于CPU我們都了解，它為數(shù)據(jù)中心提供源源不斷的算力。但是隨著數(shù)據(jù)中心的發(fā)展，CPU不僅需要提供強(qiáng)大計(jì)算能力，還要提供數(shù)據(jù)中心的虛擬化、網(wǎng)絡(luò)、存儲(chǔ)以及安全等方面的管理，這就讓數(shù)據(jù)中心的CPU不能物盡其用。例如，你買了100核的CPU，只能用90個(gè)核，其他10個(gè)核去哪里了？跑了一堆數(shù)據(jù)中心的軟件，安全，存儲(chǔ)，管理等等。那么這些額外10個(gè)核的開銷部分就造成了一些浪費(fèi)。相當(dāng)于花了100塊錢，只有90塊錢被用在了計(jì)算上。為了提供數(shù)據(jù)中心的TCO（總擁有成本），那么就需要一個(gè)專門干臟活累活的角色。這個(gè)時(shí)候DPU就出現(xiàn)了。DPU就是來分擔(dān)CPU在數(shù)據(jù)中心中除了計(jì)算方面其它工作的。如果你還不理解DPU的作用，那我舉個(gè)例子來說明一下。就像做快餐一樣，以前需求比較少，廚師在店里將主食，菜，配料等都搭配好了，炒好了，才會(huì)給到送餐人員的去送到客戶手里。但是隨著客戶的需求越來越多，都由廚師在店里制作完成就會(huì)浪費(fèi)很多時(shí)間，這個(gè)時(shí)候呢，廚師只負(fù)責(zé)制作將快餐的材料準(zhǔn)備好了就行。由送餐人員在送餐的過程中把菜加熱好，然后送到客戶手中，就會(huì)節(jié)省廚師的很多時(shí)間。送餐人員承擔(dān)了更多的處理工作，就相當(dāng)于DPU的作用。DPU是對(duì)CPU工作的一個(gè)補(bǔ)充，從而讓數(shù)據(jù)中心的工作更細(xì)分，效率更高。聊聊DPU的發(fā)展史？DPU這個(gè)概念是在2020年出現(xiàn)的，那一年，NVIDIA正式推出了兩款DPU產(chǎn)品：BlueField-2DPU和BlueField-2XDPU。其實(shí)在推出這兩款產(chǎn)品之前，與DPU類似的功能產(chǎn)品就已經(jīng)在數(shù)據(jù)中心中開始逐漸被使用。我們從智能網(wǎng)卡說起。當(dāng)時(shí)，為了降低CPU在數(shù)據(jù)中心的額外消耗，來自以色列的Mellanox公司提出了SmartNIC（智能網(wǎng)卡）的概念。這個(gè)智能網(wǎng)卡除了能完成標(biāo)準(zhǔn)網(wǎng)卡所具有的網(wǎng)絡(luò)傳輸功能之外，還提供內(nèi)置的可編程、可配置的硬件加速引擎，在提升應(yīng)用的性能和大幅降低CPU在通信中的消耗。例如，在虛擬化的環(huán)境中，CPU需要運(yùn)行OVS（OpenVirtualSwitch）相關(guān)任務(wù)，同時(shí)還要處理存儲(chǔ)、數(shù)據(jù)包的在線加解密或離線加解密、數(shù)據(jù)包深度檢查、防火墻、復(fù)雜路由等操作，這些操作導(dǎo)致CPU性能不能發(fā)揮到最佳。智能網(wǎng)卡的出現(xiàn)，為解決額外消耗問題提供了新的思路。我們可以通過智能網(wǎng)卡來將OVS操作從CPU卸載下來，并完成存儲(chǔ)加速、數(shù)據(jù)加密、深度包檢測(cè)和復(fù)雜路由等各種功能，將花費(fèi)在處理這些工作負(fù)載上的大量的CPU周期返回給主機(jī)CPU，同時(shí)解決了不同業(yè)務(wù)之間的沖突問題，大幅提升了各項(xiàng)業(yè)務(wù)的性能，也確保了服務(wù)器CPU能為應(yīng)用提供最大的處理能力或者提供更多的虛擬機(jī)（VM）服務(wù)，創(chuàng)造更大的價(jià)值。正是看到了智能網(wǎng)卡的巨大商業(yè)價(jià)值，2019年3月，英偉達(dá)花費(fèi)69億美元收購(gòu)了以色列芯片公司Mellanox。并在2020年推出了DPU產(chǎn)品，從此，DPU這個(gè)概念正式進(jìn)入了公眾視野。▉

DPU還有哪些應(yīng)用？從上文中虛擬化中的應(yīng)用我們可以看到，DPU將基礎(chǔ)設(shè)施任務(wù)從CPU轉(zhuǎn)移至DPU，釋放CPU的資源，使更多的服務(wù)器CPU核可用于運(yùn)行應(yīng)用程序，完成業(yè)務(wù)計(jì)算，從而提高服務(wù)器和數(shù)據(jù)中心的效率。那么還有哪些地方可以用到DPU呢？1.將服務(wù)從主機(jī)卸載到DPU目前，DPU還可以針對(duì)云原生環(huán)境進(jìn)行優(yōu)化，加速的網(wǎng)絡(luò)、存儲(chǔ)、安全和管理等服務(wù)。如下圖所示，紅帽RedHat的容器化云平臺(tái)即服務(wù)（PaaS）OpenShift上，借助DPU優(yōu)化數(shù)據(jù)中心資源利用率，將網(wǎng)絡(luò)相關(guān)的數(shù)據(jù)處理（如VxLan和IPSec等）卸載到DPU加速執(zhí)行，在25Gb/s網(wǎng)絡(luò)條件下，OpenShift部署DPU用來加速，可以只用1/3的CPU占用了來達(dá)到25Gb/s性能，而在100Gb/s網(wǎng)絡(luò)條件下，未部署DPU的場(chǎng)景將達(dá)不到100Gb/s網(wǎng)絡(luò)線速，DPU可以帶來10倍的性能優(yōu)勢(shì)。2.提供零信任安全保護(hù)零信任（ZeroTrust）是一種以安全性為中心的模型，其基于以下思想：企業(yè)不應(yīng)對(duì)其內(nèi)外的任何事物授予默認(rèn)信任選項(xiàng)。零信任可以減少數(shù)據(jù)泄露、拒絕未授權(quán)的訪問，因此在數(shù)據(jù)安全方面價(jià)值巨大。DPU可以為企業(yè)提供零信任保護(hù)，通過將控制平面由主機(jī)下放到了DPU，實(shí)現(xiàn)主機(jī)業(yè)務(wù)和控制平面的完全隔離，數(shù)據(jù)將無法進(jìn)行穿透，保證安全性。DPU的出現(xiàn)相當(dāng)于為每個(gè)服務(wù)器配備了一臺(tái)"計(jì)算機(jī)前的計(jì)算機(jī)"以提供獨(dú)立、安全的基礎(chǔ)設(shè)施服務(wù)，并與服務(wù)器應(yīng)用域安全隔離。如果主機(jī)遭受入侵，安全控制代理與被入侵主機(jī)之間的DPU隔離層可防止攻擊擴(kuò)散至整個(gè)數(shù)據(jù)中心。這樣DPU就解決了企業(yè)不愿直接在計(jì)算平臺(tái)上部署安全代理的情況。通過在完全隔離于應(yīng)用程序域的DPU上部署安全代理，企業(yè)不僅能獲得對(duì)應(yīng)用程序工作負(fù)載的可見性，還能在其基礎(chǔ)設(shè)施中執(zhí)行一致的安全策略。3.助力實(shí)現(xiàn)"算存分離"通過在服務(wù)器系統(tǒng)的數(shù)據(jù)入口處引入計(jì)算資源，在DPU上獨(dú)立實(shí)現(xiàn)面對(duì)應(yīng)用需求的存儲(chǔ)方案，幫助存儲(chǔ)廠商在數(shù)據(jù)中心中低成本地靈活部署、升級(jí)高級(jí)存儲(chǔ)協(xié)議，而完全不需要對(duì)現(xiàn)有軟件棧進(jìn)行任何更改。存儲(chǔ)廠商可以把自家團(tuán)隊(duì)為各行業(yè)應(yīng)用開發(fā)的開放系統(tǒng)的直連式存儲(chǔ)(DAS)、縱向擴(kuò)展（Scale-UP）、橫向擴(kuò)展（Scale-OUT）、超融合架構(gòu)（Hyperconverged）等存儲(chǔ)解決方案，零開銷地推廣到各個(gè)應(yīng)用領(lǐng)域的現(xiàn)有業(yè)務(wù)處理平臺(tái)和數(shù)據(jù)中心基礎(chǔ)架構(gòu)中，而所有的安全加密、數(shù)據(jù)壓縮、負(fù)載均衡等復(fù)雜又必須的功能則完全由DPU透明地卸載。存儲(chǔ)行業(yè)的革新算法和實(shí)現(xiàn)，可以在DPU架構(gòu)中，獨(dú)立于服務(wù)器操作系統(tǒng)進(jìn)行部署。DPU技術(shù)幫助存儲(chǔ)廠商實(shí)現(xiàn)真正的"算存分離"，完全發(fā)揮自家產(chǎn)品的技術(shù)優(yōu)勢(shì)，打通最高效服務(wù)應(yīng)用需求的通路。如今數(shù)據(jù)中心中的各項(xiàng)操作主要都在CPU上完成，包括計(jì)算任務(wù)和各項(xiàng)基礎(chǔ)設(shè)施任務(wù)等，而面對(duì)數(shù)據(jù)處理需求的增長(zhǎng)，CPU的算力已經(jīng)達(dá)到瓶頸，摩爾定律逐漸失效，GPU的出現(xiàn)解決了CPU的算力問題，數(shù)據(jù)中心的瓶頸轉(zhuǎn)向基礎(chǔ)設(shè)施任務(wù)，如數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)驗(yàn)證、網(wǎng)絡(luò)安全等。DPU的出現(xiàn)滿足了這樣的通用的基礎(chǔ)設(shè)施任務(wù)加速的需求。由DPU構(gòu)建強(qiáng)大的基礎(chǔ)設(shè)施層，上層的CPU和GPU來完成計(jì)算任務(wù)。DPU具有的特性為：1）行業(yè)標(biāo)準(zhǔn)、高性能、軟件可編程的多核CPU，通?；趶V泛使用的ARM架構(gòu)，與其它SoC組件緊密耦合。2）高性能網(wǎng)絡(luò)接口，能夠以線速或網(wǎng)絡(luò)其余部分的速度解析、處理和有效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。3）豐富的靈活可編程加速引擎，可為AI和機(jī)器學(xué)習(xí)、安全、電信、存儲(chǔ)和虛擬化等執(zhí)行卸載并提高應(yīng)用程序性能。談?wù)凞PU的未來趨勢(shì)？目前DPU以數(shù)據(jù)為中心作為計(jì)算架構(gòu)，能針對(duì)數(shù)據(jù)中心的安全、網(wǎng)絡(luò)、存儲(chǔ)、AI、HPC等業(yè)務(wù)進(jìn)行加速。從DPU概念的提出者NVIDIA的現(xiàn)有技術(shù)發(fā)展趨勢(shì)來看，未來的技術(shù)發(fā)展趨勢(shì)將會(huì)是高度集成化的片上數(shù)據(jù)中心的模式（DataCenterInfrastructureonachip），即一個(gè)GPU、CPU、DPU共存的時(shí)代。NVIDIA布局的數(shù)據(jù)中心從核心到邊緣（Edge）都采用了統(tǒng)一的一個(gè)計(jì)算架構(gòu)--CPU、GPU、DPU，如圖所示，形成了"3U"一體架構(gòu)。3U一體的統(tǒng)一計(jì)算單元架構(gòu)將會(huì)讓管理程序、調(diào)度程序都會(huì)變得非常容易。通過CPU、GPU、DPU之間的協(xié)調(diào)計(jì)算，可以在數(shù)據(jù)中心和邊緣端都可以達(dá)到高性能與高安全性?？梢哉f，NVIDIA非?？春肈PU的發(fā)展，將DPU跟CPU和GPU放在一個(gè)地位來看待。NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示："現(xiàn)代超大規(guī)模云正在推動(dòng)數(shù)據(jù)中心的新架構(gòu)。需要一種旨在處理數(shù)據(jù)中心基礎(chǔ)設(shè)施軟件的新型處理器來卸載和加速虛擬化、網(wǎng)絡(luò)、存儲(chǔ)、安全和其它云原生AI服務(wù)的巨大計(jì)算負(fù)載。DPU的時(shí)代已經(jīng)到來。"除了NVIDIA，目前Intel、Marvell、NVIDIA成為最有潛力的產(chǎn)業(yè)先驅(qū)。大多數(shù)DPU方案是從基本的網(wǎng)絡(luò)控制器開始擴(kuò)展至SoC。就Intel而言，其產(chǎn)品采取處理器配合FPGA，外加加速引擎的方式；Marvell則采取使用最新處26理器內(nèi)核配合加速引擎的方式；NVIDIA則采用了處理器配合ASIC，外加加速引擎的方式。這三種方式代表著DPU產(chǎn)業(yè)的未來主流的發(fā)展方向。目前，中國(guó)DPU產(chǎn)業(yè)處于起步階段，從中國(guó)國(guó)內(nèi)市場(chǎng)需求側(cè)來看，中國(guó)擁有世界最強(qiáng)的互聯(lián)網(wǎng)產(chǎn)業(yè)、規(guī)模最大的網(wǎng)民和線上生態(tài)，正是因?yàn)閿?shù)據(jù)的大爆發(fā)，推動(dòng)了對(duì)算力的需求，同時(shí)，中國(guó)愈加重視網(wǎng)