芯耀
1358
當(dāng)全球聚焦于AI大模型的激烈角逐、AI Agent的驚人表現(xiàn)時(shí)，英偉達(dá)在數(shù)據(jù)傳輸賽道完成了一次新升級(jí)。GTC25期間，兩項(xiàng)“基礎(chǔ)設(shè)施革命”——硅光網(wǎng)絡(luò)交換機(jī)與AI數(shù)據(jù)平臺(tái)傳來(lái)重磅消息。
光電一體化網(wǎng)絡(luò)交換機(jī)，助力AI工廠擴(kuò)展到數(shù)百萬(wàn)GPU級(jí)別
最新推出的NVIDIA Spectrum-X和NVIDIA Quantum-X硅光網(wǎng)絡(luò)交換機(jī)，使AI工廠能夠跨區(qū)域連接數(shù)百萬(wàn)GPU，同時(shí)大幅降低能耗和運(yùn)營(yíng)成本，這也意味著英偉達(dá)在大規(guī)模平臺(tái)上實(shí)現(xiàn)了電子電路與光通信的融合。
隨著AI工廠發(fā)展到前所未有的規(guī)模，網(wǎng)絡(luò)必須不斷發(fā)展以跟上步伐。英偉達(dá)最新推出的硅光交換機(jī)，創(chuàng)新地集成了光器件，減少了4倍的激光器數(shù)量，與傳統(tǒng)方法相比，能源效率提高到3.5倍，信號(hào)完整性提高到63倍，大規(guī)模組網(wǎng)可靠性提高到10倍，部署速度提高到1.3倍。
“AI工廠是一種超大規(guī)模的新型數(shù)據(jù)中心，必須采用全新的網(wǎng)絡(luò)基礎(chǔ)設(shè)施才能跟上它的發(fā)展步伐”，黃仁勛表示，“英偉達(dá)將硅光直接集成到交換機(jī)中，打破了超大規(guī)模和企業(yè)網(wǎng)絡(luò)的舊有限制，為百萬(wàn)GPU AI 工廠打開(kāi)大門?！?/p>
據(jù)了解，最新的硅光網(wǎng)絡(luò)交換機(jī)會(huì)被用于NVIDIA Spectrum-X Photonics 以太網(wǎng)平臺(tái)和 NVIDIA Quantum-X Photonics InfiniBand平臺(tái)。
與傳統(tǒng)以太網(wǎng)相比，Spectrum-X以太網(wǎng)網(wǎng)絡(luò)平臺(tái)可為多租戶、超大規(guī)模AI工廠（包括目前全球最大的超級(jí)計(jì)算機(jī)）提供卓越的性能和1.6倍的帶寬密度。
NVIDIA Spectrum-X Photonics 交換機(jī)具有多種配置，包括128個(gè)800 Gb/s端口或512個(gè) 200 Gb/s 端口，總帶寬可達(dá)到100 Tb/s，以及512個(gè)800 Gb/s或2,048個(gè)200 Gb/s端口，總吞吐量可達(dá)400Tb/s。
NVIDIA Quantum-X Photonics 交換機(jī)提供144個(gè)基于200Gb/s SerDes的800Gb/s InfiniBand 端口，并采用液冷設(shè)計(jì)對(duì)板載硅光器件進(jìn)行高效散熱。值得一提的是，NVIDIA Quantum-X Photonics 交換機(jī)AI計(jì)算網(wǎng)的速度是上一代產(chǎn)品的2倍，擴(kuò)展性是上一代產(chǎn)品的5倍。
英偉達(dá)的網(wǎng)絡(luò)生態(tài)這些年在不斷壯大，目前，其硅光生態(tài)系統(tǒng)伙伴包括 TSMC、Browave、Coherent、Corning Incorporated、Fabrinet、Foxconn、Lumentum、SENKO、SPIL、Sumitomo Electric Industries和TFC Communication。
最新的photonics技術(shù)將推動(dòng)新一代先進(jìn)AI工廠的大規(guī)模增長(zhǎng)，并和Coherent、Eoptolink、Fabrinet和Innolight等企業(yè)的可插拔光模塊技術(shù)等，共同推動(dòng)該領(lǐng)域的前進(jìn)。
攜手存儲(chǔ)企業(yè)推出新型AI基礎(chǔ)設(shè)施
最新推出的還有NVIDIA AI 數(shù)據(jù)平臺(tái)，這是一項(xiàng)可自定義的參考設(shè)計(jì)，存儲(chǔ)提供商可用來(lái)構(gòu)建全新的AI基礎(chǔ)設(shè)施，以滿足AI推理工作負(fù)載的嚴(yán)苛要求。這意味著，企業(yè)存儲(chǔ)平臺(tái)可以搭載英偉達(dá)加速計(jì)算、網(wǎng)絡(luò)和軟件驅(qū)動(dòng)的AI查詢智能體。
具體而言，經(jīng)英偉達(dá)認(rèn)證的存儲(chǔ)提供商，能夠通過(guò)NVIDIA AI數(shù)據(jù)平臺(tái)構(gòu)建基礎(chǔ)設(shè)施，例如：NVIDIA Blackwell GPU、NVIDIA BlueField DPU、NVIDIA Spectrum-X網(wǎng)絡(luò)以及NVIDIA Dynamo開(kāi)源推理庫(kù)，可以通過(guò)專用AI查詢智能體，加速AI推理工作負(fù)載。
Blackwell GPU、BlueField DPU和Spectrum-X網(wǎng)絡(luò)組合在一起提供了一款加速引擎，可加快AI查詢智能體訪問(wèn)存儲(chǔ)在企業(yè)系統(tǒng)中的數(shù)據(jù)。其中，BlueField DPU的性能比基于CPU的存儲(chǔ)性能提升最高可達(dá)1.6倍，而功耗又可降低50%，每瓦性能提高3倍以上。與傳統(tǒng)以太網(wǎng)相比，Spectrum-X 通過(guò)采用動(dòng)態(tài)路由和優(yōu)化的擁塞控制，可將AI存儲(chǔ)流量提速最高達(dá)48%。
正如黃仁勛所言，“數(shù)據(jù)是AI時(shí)代各行各業(yè)發(fā)展的原材料”，但若存儲(chǔ)系統(tǒng)無(wú)法高效供給數(shù)據(jù)，萬(wàn)億參數(shù)模型的訓(xùn)練與實(shí)時(shí)推理將成為空中樓閣。通過(guò)創(chuàng)新的AI數(shù)據(jù)平臺(tái)，英偉達(dá)為數(shù)以百萬(wàn)計(jì)的企業(yè)帶來(lái)加速計(jì)算和AI能力，使其應(yīng)用企業(yè)存儲(chǔ)系統(tǒng)來(lái)處理推動(dòng)公司發(fā)展的數(shù)據(jù)。這些智能體可助力企業(yè)應(yīng)用NVIDIA AI Enterprise軟件平臺(tái)（包括全新NVIDIA Llama Nemotron推理模型的NVIDIA NIM微服務(wù)）以及全新的NVIDIA AI-Q Blueprint，接近實(shí)時(shí)地生成數(shù)據(jù)洞察。
將AI 查詢智能體搭載AI-Q Blueprint，可在推理過(guò)程中連接數(shù)據(jù)，提供更準(zhǔn)確、更貼合情景的響應(yīng)。它可以快速訪問(wèn)海量數(shù)據(jù)，并處理各類數(shù)據(jù)，包括有多個(gè)來(lái)源的結(jié)構(gòu)化、半結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù)，包括文本、PDF、圖像和視頻。
黃仁勛表示：“我們正在與全球領(lǐng)先的存儲(chǔ)企業(yè)合作，打造在混合數(shù)據(jù)中心部署和擴(kuò)展代理式AI（Agentic AI）所需的新型企業(yè)基礎(chǔ)設(shè)施。”目前，DDN、Dell Technologies、Hewlett Packard Enterprise、Hitachi Vantara、IBM、NetApp、Nutanix、Pure Storage、VAST Data和WEKA等領(lǐng)先數(shù)據(jù)平臺(tái)和存儲(chǔ)提供商均選擇與英偉達(dá)合作，打造可定制化的AI數(shù)據(jù)平臺(tái)，充分運(yùn)用企業(yè)數(shù)據(jù)進(jìn)行推理并響應(yīng)復(fù)雜查詢。
寫(xiě)在最后
AI算力規(guī)模已突破百萬(wàn)GPU，但過(guò)去幾年來(lái)，數(shù)據(jù)供給的滯后讓這些“超級(jí)大腦”常常陷入饑餓狀態(tài)。傳統(tǒng)存儲(chǔ)系統(tǒng)在處理多模態(tài)數(shù)據(jù)時(shí)難免掣肘，而基于電信號(hào)的網(wǎng)絡(luò)架構(gòu)則像擁堵的高速公路。
面對(duì)這些挑戰(zhàn)，英偉達(dá)的答案是將加速計(jì)算植入數(shù)據(jù)管道，讓數(shù)據(jù)流動(dòng)速度匹配GPU的處理能力。這場(chǎng)變革的本質(zhì)，是為“數(shù)據(jù)流動(dòng)”和“算力協(xié)同”構(gòu)建高速公路，將分散的企業(yè)數(shù)據(jù)轉(zhuǎn)化為可驅(qū)動(dòng)Agentic AI的“燃料”，同時(shí)通過(guò)光電融合技術(shù)突破傳統(tǒng)網(wǎng)絡(luò)的物理限制，讓AI走向超大規(guī)模落地應(yīng)用中。
