• 正文
  • 推薦器件
  • 相關(guān)推薦
申請入駐 產(chǎn)業(yè)圖譜

Cloud AI Server需求強勁,促NVIDIA FY2Q24數(shù)據(jù)中心業(yè)務(wù)占比首次突破76%

2023/08/25
2650
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

據(jù)NVIDIA最新財報數(shù)據(jù)(FY2Q24)顯示,其數(shù)據(jù)中心業(yè)務(wù)達103.2億美元,季成長率141%,年成長率更高達171%,且NVIDIA看好后續(xù)成長力道。TrendForce集邦咨詢認為,主要NVIDIA高營收成長動力來自于其數(shù)據(jù)中心AI服務(wù)器相關(guān)解決方案業(yè)務(wù),主力產(chǎn)品包含AI加速芯片GPU、AI服務(wù)器參考架構(gòu)HGX等,作為大型數(shù)據(jù)中心的AI 基礎(chǔ)設(shè)施。

同時,TrendForce集邦咨詢預(yù)期,NVIDIA將進一步整合其軟硬件資源,并更細致地將其高端及中低端GPU AI加速芯片,與各ODM或OEM綁定合作軟硬件系統(tǒng)認證模式。除了加速在CSP云端AI服務(wù)器基礎(chǔ)設(shè)施布建之外,也和VMware等合作Private AI Foundation等方案,將其觸角延伸至邊緣Enterprises AI服務(wù)器市場,以支撐其今、明兩年數(shù)據(jù)中心業(yè)務(wù)穩(wěn)定成長。

Cloud AI強勁需求驅(qū)動,NVIDIA數(shù)據(jù)中心業(yè)務(wù)占比超越76%

NVIDIA近年積極布局數(shù)據(jù)中心業(yè)務(wù),F(xiàn)Y4Q22當時數(shù)據(jù)中心業(yè)務(wù)營收約占42.7%,尚落后于Gaming業(yè)務(wù)營收約2個百分點,于FY1Q23后正式超越Gaming業(yè)務(wù)營收,占比逾45%。自2023年起,各大CSP大舉投入ChatBOT及公有云各種AI服務(wù)基礎(chǔ)設(shè)施后,NVIDIA更直接受惠,F(xiàn)Y2Q24數(shù)據(jù)中心業(yè)務(wù)營收占比一舉突破76%。 NVIDIA將分攻Cloud及Edge Data Center AI應(yīng)用市場 TrendForce集邦咨詢觀察,預(yù)估NVIDIA在高端GPU產(chǎn)品銷售策略上,將于2023下半年后有所轉(zhuǎn)變,原高端AI服務(wù)器以搭載A100及H100為主,在市場需求大好的預(yù)期下,將改主攻售價更高的H100,才能有效刺激數(shù)據(jù)中心相關(guān)業(yè)務(wù)營收向上。

中端GPU方面,以近期主推的L40s為主打方案,其中有幾個主要策略意義。首先,高端H100系列受限于目前CoWoS、HBM等產(chǎn)能瓶頸,而L40s則主要搭配GDDR存儲器,因不須CoWoS封裝,可加速導(dǎo)入中端AI服務(wù)器市場,補足原A100 PCIe接口對Enterprises客戶需求缺口。

其次,L40s也同時主攻如Enterprises客戶,不需使用如ChatGPT數(shù)量龐大的參數(shù)模型,而是主攻較小型化(約數(shù)十billion~百billion參數(shù)量以下)各專業(yè)領(lǐng)域的AI Training應(yīng)用,亦或針對邊緣AI Inference或影像分析等使用。最后,低階GPU系列,則以L4或T4系列為主打,主打邊緣AI服務(wù)器實時AI推論或影像分析使用,并更強調(diào)較低價,其高C/P值的產(chǎn)品特性。

HGX及MGX等AI服務(wù)器參考架構(gòu)將是NVIDIA下半年后主攻AI方案的利器

TrendForce集邦咨詢觀察,近期NVIDIA除針對其核心AI芯片GPU進行更細致化的產(chǎn)品定位外,也積極主推其HGX及MGX等方案,而這并不是服務(wù)器產(chǎn)業(yè)鏈首見做法,但NVIDIA有機會在此策略上穩(wěn)固領(lǐng)先利基。主要是NVIDIA藉由高度整合其GPU加上CUDA建立完整AI生態(tài)系下處絕對領(lǐng)先位置,故對既有的服務(wù)器供應(yīng)鏈有較強議價能力,藉此要求ODM如Inventec、Quanta、FII、Wistron、Wiwynn等,或品牌業(yè)者如Dell、Supermicro、Gigabyte等,依據(jù)NVIDIA的HGX或MGX參考設(shè)計,且需經(jīng)過NVIDIA于該AI 服務(wù)器參考架構(gòu)的軟硬件認證過程。NVIDIA藉此可整合兜售其Arm CPU Grace及NPU或AI Cloud Foundation等軟硬件解決方案。

值得注意的是,對ODM或OEM而言,由于預(yù)期NVIDIA于2023~2024年在云端服務(wù)業(yè)者的AI服務(wù)器主力市場將大有斬獲,有利于拉抬整體AI服務(wù)器出貨量及營收成長,但隨著NVIDIA策略性導(dǎo)入HGX或MGX等標準化AI服務(wù)器架構(gòu),也使未來ODM等業(yè)者將因AI server核心產(chǎn)品架構(gòu)較趨于同質(zhì)化而使彼此爭取CSPs等訂單之競爭態(tài)勢更趨于白熱化。此外,觀察大型CSPs如Google、AWS未來有擴大導(dǎo)入自研ASIC AI加速芯片趨勢,亦可能侵蝕部分NVIDIA GPU市場,估此亦為NVIDIA持續(xù)推展不同定位GPU產(chǎn)品及整體方案,欲進一步將AI業(yè)務(wù)積極拓展至Tier-2數(shù)據(jù)中心如CoreWeave等及邊緣Enterprises客戶的主因之一。

推薦器件

更多器件
器件型號 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊 ECAD模型 風(fēng)險等級 參考價格 更多信息
0624CDMCCDS-R15MC 1 Sumida Corporation General Purpose Inductor,
暫無數(shù)據(jù) 查看
LQH32CN221K23L 1 Murata Manufacturing Co Ltd General Purpose Inductor, 220uH, 10%, 1 Element, Ferrite-Core, SMD, 1210, CHIP, 1210

ECAD模型

下載ECAD模型
$0.13 查看
0190020001 1 Molex Push-On Terminal, 0.8mm2, ROHS COMPLIANT
$0.95 查看
英偉達

英偉達

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學(xué)研究、制造業(yè)、汽車等領(lǐng)域的計算解決方案提供支持。

NVIDIA(中國大陸譯名:英偉達,港臺譯名:輝達),成立于1993年,是一家美國跨國科技公司,總部位于加利福尼亞州圣克拉拉市,由黃仁勛、克里斯·馬拉科夫斯基(Chris Malachowsky)和柯蒂斯·普里姆(Curtis Priem)共同創(chuàng)立。公司早期專注于圖形芯片設(shè)計業(yè)務(wù),隨著公司技術(shù)與業(yè)務(wù)發(fā)展,已成長為一家提供全棧計算的人工智能公司,致力于開發(fā)CPU、DPU、GPU和AI軟件,為建筑工程、金融服務(wù)、科學(xué)研究、制造業(yè)、汽車等領(lǐng)域的計算解決方案提供支持。收起

查看更多

相關(guān)推薦