芯耀
86
當(dāng)前，隨著數(shù)據(jù)中心流量的不斷增加，數(shù)據(jù)中心內(nèi)部的流量被稱(chēng)為橫向流量，現(xiàn)在年負(fù)荷增長(zhǎng)率在 25%以上，給數(shù)據(jù)中心帶來(lái)巨大的壓力，數(shù)據(jù)中心正在面臨聯(lián)網(wǎng)危機(jī)。隨著 SDN 在的增加，云服務(wù)器會(huì)在 CPU 和軟件中使用很多 SDN 功能。隨著網(wǎng)絡(luò)數(shù)據(jù)爆炸式增長(zhǎng)，額外的非應(yīng)用級(jí)處理工作涌入云數(shù)據(jù)中心服務(wù)器，從而耗費(fèi)更多 CPU 資源。對(duì)于云服務(wù)供應(yīng)商，需要這樣的計(jì)算能力支持其商業(yè)活動(dòng)；對(duì)于公有云，需要把這些資源出售給客戶(hù)進(jìn)行變現(xiàn)；而邊緣的一級(jí)云服務(wù)提供商，例如：亞馬遜、微軟，在很多年以前就已經(jīng)意識(shí)到了這個(gè)問(wèn)題，并從服務(wù)器上卸載聯(lián)網(wǎng)功能，把他們轉(zhuǎn)移到 SmartNIC 上來(lái)解決。
現(xiàn)在超過(guò) 80%的云服務(wù)供應(yīng)商只有傳統(tǒng)的 NIC，還沒(méi)有 SmartNIC，只能繼續(xù)在軟件上運(yùn)行聯(lián)網(wǎng)功能。其實(shí)并不是這些云服務(wù)供應(yīng)商沒(méi)有遇到微軟和亞馬遜所面臨的問(wèn)題，而是很難憑一己之力采用 SmartNIC。亞馬遜和微軟有雄厚的研發(fā)資源，能夠自行設(shè)計(jì)測(cè)試做大規(guī)模的部署，小型云服務(wù)供應(yīng)商，尤其是二級(jí)和三級(jí)云服務(wù)商沒(méi)有強(qiáng)大的研發(fā)團(tuán)隊(duì)，也沒(méi)有專(zhuān)門(mén)的工程技術(shù)和能力部署自己的解決方案，所以他們更需要開(kāi)箱即用的解決方案能夠符合即插即入的標(biāo)準(zhǔn)，無(wú)需自行開(kāi)發(fā)就能夠?qū)崿F(xiàn)卸載的優(yōu)勢(shì)。
左：賽靈思大中華區(qū)銷(xiāo)售副總裁唐曉蕾（Maria Tang）
右：賽靈思數(shù)據(jù)中心事業(yè)部產(chǎn)品及平臺(tái)營(yíng)銷(xiāo)副總裁 Donna Yasay
為了滿(mǎn)足云服務(wù)提供商、電信公司和私有云數(shù)據(jù)中心運(yùn)營(yíng)商的需求，賽靈思推出了業(yè)界首款“一體化 SmartNIC 平臺(tái)”— Alveo U25。賽靈思數(shù)據(jù)中心事業(yè)部產(chǎn)品及平臺(tái)營(yíng)銷(xiāo)副總裁 Donna Yasay 向與非網(wǎng)介紹，“U25 將高度優(yōu)化的 SmartNIC 平臺(tái)與強(qiáng)大靈活的 FPGA 引擎相結(jié)合，實(shí)現(xiàn)了全可編程與一站式加速應(yīng)用。U25 為應(yīng)對(duì)業(yè)界最具挑戰(zhàn)性的需求與工作負(fù)載如 SDN、虛擬交換、NFV、NVMe-oF、電子交易、AI 推斷、視頻轉(zhuǎn)碼和數(shù)據(jù)分析等，提供了一個(gè)強(qiáng)大的一體化 SmartNIC 平臺(tái)?！?/p>
市場(chǎng)調(diào)研機(jī)構(gòu) Dell’Oro 集團(tuán)預(yù)測(cè)，到 2024 年，SmartNIC 市場(chǎng)規(guī)模將超過(guò) 6 億美元，占據(jù)全球以太網(wǎng)適配器市場(chǎng)的 23%。隨著云服務(wù)提供商的縱向擴(kuò)容，他們正在不斷增加 SmartNIC 的部署，以便為業(yè)務(wù)應(yīng)用釋放寶貴的 CPU 核，優(yōu)化服務(wù)器利用率。而電信服務(wù)提供商則是另一大具有強(qiáng)勁增長(zhǎng)潛力的市場(chǎng)，他們正考慮將 SmartNIC 從核心網(wǎng)集成到邊緣網(wǎng)，為 NFV 和 AI 推斷等應(yīng)用提供服務(wù)。
平臺(tái)化的技術(shù)優(yōu)勢(shì)
賽靈思為什么把 Alveo U25 稱(chēng)為首個(gè)一體化的 SmartNIC 平臺(tái)？在采訪中，Donna 向與非網(wǎng)解釋?zhuān)捌渌桨钢魂P(guān)注聯(lián)網(wǎng)或存儲(chǔ)，Alveo U25 融合了聯(lián)網(wǎng)、存儲(chǔ)，又加上了計(jì)算加速的功能。從這個(gè)角度來(lái)講，確實(shí)是首個(gè)在一張卡上實(shí)現(xiàn)計(jì)算、存儲(chǔ)和聯(lián)網(wǎng)卸載的加速平臺(tái)。U25 基于賽靈思的 FPGA 技術(shù)，具有靈活性和全可編程性，可以支持 FPGA 用戶(hù)級(jí)編程特征。除此之外，賽靈思為客戶(hù)提供一個(gè)完全經(jīng)過(guò)測(cè)試并且驗(yàn)證的比特文件，能夠上載到卡片的啟動(dòng)，并且能夠符合標(biāo)準(zhǔn)的行業(yè) API。所以這張卡能夠無(wú)縫地卸載并且加速服務(wù)器的聯(lián)網(wǎng)、存儲(chǔ)、計(jì)算，而不需要做任何額外的編程。我們還基于 OVS 標(biāo)準(zhǔn)推出一站式的應(yīng)用來(lái)支持虛擬交換、卸載加速，未來(lái)推出更多一站式的應(yīng)用，比如 IPSEC、加密卸載、SSL 等?！?/p>
Alveo U25
賽靈思大中華區(qū)銷(xiāo)售副總裁唐曉蕾也表示，“對(duì)于板卡，用戶(hù)認(rèn)為只是一個(gè)部件，但是賽靈思在數(shù)據(jù)中心不僅提供加速計(jì)算，未來(lái)越來(lái)越多向平臺(tái)方向發(fā)展，扮演越來(lái)越重要的角色。”
關(guān)于 Alveo U25 的技術(shù)優(yōu)勢(shì)，Donna 介紹，依托于賽靈思業(yè)界領(lǐng)先的 FPGA 技術(shù)，Alveo U25 SmartNIC 平臺(tái)相比基于 SoC 的 NIC，可以提供更高的吞吐量和更強(qiáng)大的靈活應(yīng)變引擎，支持云架構(gòu)師快速為多種類(lèi)型的功能與應(yīng)用提速。U25 SmartNIC 平臺(tái)支持“bump-in-the-wire （線(xiàn)纜內(nèi)的塊）”式無(wú)縫嵌入網(wǎng)絡(luò)、存儲(chǔ)和計(jì)算卸載及加速功能，可以避免不必要的數(shù)據(jù)傳輸和 CPU 處理，從而最大限度提高效率。而這也顯著降低了 CPU 的負(fù)擔(dān)并釋放更多資源，以運(yùn)行更多應(yīng)用。嵌入式 ARM 處理器提供了獨(dú)特、關(guān)鍵的控制層處理功能，可以支持新興的裸機(jī)服務(wù)器用例。基本型 NIC 可提供超高吞吐量、小數(shù)據(jù)包性能與低時(shí)延。標(biāo)準(zhǔn)型全功能 NIC 解決方案與驅(qū)動(dòng)程序采用獲得專(zhuān)利的 Onload 應(yīng)用加速軟件，時(shí)延降幅高達(dá) 80%，并且在云應(yīng)用中為基于傳輸控制協(xié)議（ TCP ）的服務(wù)器應(yīng)用提高了效率 --- 最高可達(dá) 400%。
U25 所提供的首個(gè)開(kāi)箱即用型加速應(yīng)用是對(duì) Open vSwitch （ OVS ）卸載與加速的支持。這個(gè)即插即用型解決方案將從服務(wù)器卸載 90% 以上的 OVS 處理，從而將數(shù)據(jù)包吞吐量提升 5 倍以上。未來(lái)，賽靈思還計(jì)劃推出針對(duì)安全功能的一站式解決方案，這些安全功能諸如 IPSec、SSL/TLS、AES-256/128，同時(shí)還有分布式防火墻和 AI 推斷。
軟硬件平臺(tái)化協(xié)同助力客戶(hù)節(jié)約成本
用戶(hù)在服務(wù)器上把工作卸載下來(lái)并且高效的在一個(gè) SmartNIC 平臺(tái)上去運(yùn)行，這意味著完成同樣工作量時(shí)，所需要的服務(wù)器數(shù)量減少，硬件成本減少，大大降低云服務(wù)提供商的支出成本，從資本支出來(lái)看，采購(gòu)設(shè)備的成本由于所需要服務(wù)器的數(shù)量減少而下降。另外，數(shù)據(jù)中心功耗也能夠降低，從而節(jié)約運(yùn)營(yíng)成本。另外，一站式的應(yīng)用幫助之前 80%無(wú)法使用 SmartNIC 的云服務(wù)供應(yīng)商，擴(kuò)展 SmartNIC 的能力。
Alveo U25 SmartNIC 平臺(tái)在性能上兼具了 GPU 和聯(lián)網(wǎng)處理器兩者的優(yōu)勢(shì)，是否會(huì)帶來(lái)價(jià)格上升，給云服務(wù)商帶來(lái)更大成本壓力？Donna 認(rèn)為，“這款產(chǎn)品能夠很好地融合聯(lián)網(wǎng)和計(jì)算，我覺(jué)得能夠?yàn)榭蛻?hù)創(chuàng)造很多價(jià)值，節(jié)約很多成本。如果用戶(hù)做擴(kuò)展處理的話(huà)，他們可能需要用到很多微服務(wù)器，因此舊的服務(wù)器就沒(méi)有辦法用了，只能買(mǎi)新的。但是現(xiàn)在采用這個(gè)平臺(tái)，就可以保住現(xiàn)有的基礎(chǔ)設(shè)施，如果重新購(gòu)買(mǎi)，花三分之一的成本就可以滿(mǎn)足很多新的要求。”
目前，數(shù)據(jù)中心的客戶(hù)也在轉(zhuǎn)型，從原來(lái)的平臺(tái)產(chǎn)品轉(zhuǎn)向結(jié)合了云服務(wù)、智能計(jì)算的服務(wù)型產(chǎn)品，這些轉(zhuǎn)型對(duì)基礎(chǔ)硬件架構(gòu)提出新的需求。Donna 表示，“現(xiàn)在數(shù)據(jù)中心確實(shí)有很多物聯(lián)網(wǎng)和計(jì)算應(yīng)用，正在改變整個(gè)行業(yè)，為了跟上技術(shù)的需求，軟件編程也必須做到簡(jiǎn)單易用，給客戶(hù)提供一站式平臺(tái)。以前，F(xiàn)PGA 編程確實(shí)非常困難，必須是專(zhuān)業(yè)人士才能夠做到代碼級(jí)編程工作，但是現(xiàn)在新的 FPGA 編程非常容易，而且和 CPU 的語(yǔ)言類(lèi)似，所以整個(gè)行業(yè)的應(yīng)用都在發(fā)生轉(zhuǎn)型，盡可能滿(mǎn)足客戶(hù)的需求?！?/p>
去年，賽靈思發(fā)布了 Vitis 軟件平臺(tái)，Vitis 和 Alveo U25 將如何進(jìn)行結(jié)合？唐曉蕾表示，“Vitis 統(tǒng)一軟件平臺(tái)和 U25 以及所有的 Alveo 卡可以有機(jī)結(jié)合。Alveo U25 SmartNIC 平臺(tái)實(shí)現(xiàn)了一站式加速應(yīng)用，可以助力非一級(jí)云數(shù)據(jù)中心運(yùn)營(yíng)商更加方便地部署 SmartNIC 并迅速收獲成效；U25 SmartNIC 還支持賽靈思和獨(dú)立軟件提供商 （ISV）提供的一站式應(yīng)用。其編程模型既支持 HLS 和 P4 等高級(jí)網(wǎng)絡(luò)編程抽象，也支持 Vitis 統(tǒng)一軟件平臺(tái)等計(jì)算加速框架，以便實(shí)現(xiàn)賽靈思和第三方所提供的加速應(yīng)用。我們之所以要做平臺(tái)化產(chǎn)品，是因?yàn)槠脚_(tái)化涉及很廣，無(wú)論 SaaS、FaaS 或 OS 支持要求都很高，我們希望通過(guò) Vitis 軟件平臺(tái)加上 U25 硬件平臺(tái)相結(jié)合，讓企業(yè)在數(shù)據(jù)加速方面更快面向市場(chǎng)，解決以前 FPGA 的開(kāi)發(fā)門(mén)檻問(wèn)題。而在數(shù)據(jù)中心里，隨著應(yīng)用場(chǎng)景和新客戶(hù)的不斷擴(kuò)展，我們必須要做硬件軟件協(xié)同，才能保障客戶(hù)群體的利益。”
