三星電子為了向英偉達(dá)提供新一代高帶寬存儲(chǔ)器(HBM),投入了400多名半導(dǎo)體ACE(最高水平的)員工。
“三星電子為打通特定客戶公司投入這么多人力,實(shí)屬史無前例。”有分析認(rèn)為,只有抓住“英偉達(dá)”才能掌握市場(chǎng)主導(dǎo)權(quán),所以三星動(dòng)員了公司的全部力量。
據(jù)產(chǎn)業(yè)界透露,三星電子為了在今年第三季度向英偉達(dá)交付現(xiàn)有最高性能HBM——12層HBM3E產(chǎn)品,最近組織了100人規(guī)模的特別工作組(TF)。據(jù)悉,應(yīng)英偉達(dá)“提高HBM的質(zhì)量和良率,加快交貨”的要求,該TF集中致力于提高良率,第一個(gè)目標(biāo)是本月通過英偉達(dá)的質(zhì)量認(rèn)證測(cè)試,其余300多人被分配到HBM4開發(fā)團(tuán)隊(duì)。他們計(jì)劃最早在年末左右完成HBM4的開發(fā),明年敲開英偉達(dá)的大門。
對(duì)于從第三季度開始舉行的“第五代高帶寬存儲(chǔ)器”(HBM3E)市場(chǎng),三星和SK正在調(diào)整戰(zhàn)局。這是為了在今年的英偉達(dá)HBM3E(估計(jì)超過10萬億韓元,528億元人民幣)訂單戰(zhàn)中獲勝。這是三星和SK海力士首次在同一時(shí)間對(duì)同一規(guī)格的HBM產(chǎn)品、同一客戶、同一時(shí)間進(jìn)行供貨對(duì)決。
勝負(fù)關(guān)鍵是12層HBM3E產(chǎn)品。目前,兩家公司都將試制品送到英偉達(dá)接受“質(zhì)量測(cè)試”(quality test,質(zhì)量驗(yàn)證),結(jié)果一兩個(gè)月就出來了。市場(chǎng)上說,兩家公司都很有可能獲得英偉達(dá)的批準(zhǔn),因此勝負(fù)取決于獲得多少訂單。也就是說,獲得大量訂單的企業(yè)被冠以“HBM霸權(quán)企業(yè)”的頭銜,訂單量相對(duì)較少的公司被冠以“HBM二等企業(yè)”的烙印。
HBM是與英偉達(dá)的圖形處理器(GPU)一起成為人工智能(AI)時(shí)代“超級(jí)明星”的半導(dǎo)體。首先,將DRAM削薄,整齊地堆積起來,然后穿過數(shù)千個(gè)貫穿芯片的孔,在那里填充導(dǎo)電物質(zhì),利用所謂的“硅穿透電極(TSV)”技術(shù),將堆疊的DRAM上下電連接起來,像一個(gè)身體一樣移動(dòng)。這與在高層公寓安裝電梯是相似的概念。
由于積累了多個(gè)DRAM,帶寬(一次發(fā)送數(shù)據(jù)的能力)和存儲(chǔ)容量是普通DRAM的10倍以上,因此被評(píng)價(jià)為AI時(shí)代的必需品。這是在旁邊保管大容量數(shù)據(jù)后快速發(fā)送的最佳產(chǎn)品,讓充當(dāng)AI加速器(數(shù)據(jù)學(xué)習(xí)、推理專門的半導(dǎo)體)大腦的GPU可以不間斷地工作。
HBM最初與AI相去甚遠(yuǎn)。2010年游戲顯卡企業(yè)英偉達(dá)、AMD向存儲(chǔ)芯片企業(yè)要求高帶寬DRAM才剛剛開始。顯卡要想玩高清游戲,需要快速處理大容量像素?cái)?shù)據(jù),因?yàn)楫?dāng)時(shí)幫助GPU的普通DRAM性能下降。
SK海力士與AMD合作開始共同研究,3年后的2013年12月,SK海力士公開了首款HBM。該產(chǎn)品于2015年6月問世。到此為止了。當(dāng)時(shí)HBM的價(jià)格是圖形DRAM(GDDR)的兩三倍,但性能沒有那么好。AMD放棄將不值錢的HBM放入顯卡。
挽救陷入危機(jī)的HBM的是英偉達(dá)。英偉達(dá)關(guān)注HBM適合處理大容量數(shù)據(jù),并將其應(yīng)用于服務(wù)器產(chǎn)品。就這樣,在2016年推出的AI加速器“Tesla?P100 ”上安裝了HBM2。但就在那時(shí),AI加速器的需求還不多,HBM是非主流產(chǎn)品,不到DRAM總銷售額的5%。
2022年底推出的ChatGPT等生成型AI徹底改變了半導(dǎo)體版圖。隨著科技巨頭爭(zhēng)先恐后地投入到生成AI的開發(fā)中,AI加速器的需求爆發(fā)性地增加,HBM的身價(jià)也隨之躍升。當(dāng)時(shí)最新的HBM是第四代HBM3,帶寬為每秒819GB,是第一代HBM(128GB)的6.4倍。當(dāng)時(shí)能制造HBM3的企業(yè)只有SK海力士。SK海力士去年拿走了90%以上的HBM3市場(chǎng),實(shí)際上已經(jīng)壟斷市場(chǎng)。據(jù)悉,HBM3是普通DRAM的5倍以上,利潤率為50%。這也是SK海力士今年第一季度營業(yè)利潤(2.8860萬億韓元)能夠領(lǐng)先三星電子半導(dǎo)體部門(1.91萬億韓元)的原因。
三星很晚才開始批量生產(chǎn)HBM3。英偉達(dá)和SK海力士牢固構(gòu)筑的“HBM同盟”無論怎么動(dòng)搖都不容易破裂。三星本應(yīng)滿足于以進(jìn)入普通服務(wù)器等的HBM2等低價(jià)產(chǎn)品延續(xù)命脈。
這也是三星將公司力量集中在12層HBM3E產(chǎn)品上的原因。HBM3E將帶寬提升到每秒1180~1280GB。事實(shí)上,三星認(rèn)為,在同樣的條件下與SK海力士決勝負(fù),因此有充分的勝算。英偉達(dá)之所以出現(xiàn)增加HBM供貨渠道的動(dòng)向,也是對(duì)三星的利好。
今年2月,三星在世界上首次開發(fā)出了業(yè)界最大容量的36GB 12層HBM3E產(chǎn)品。與8層HBM3相比,AI學(xué)習(xí)訓(xùn)練速度平均可以提高34%。業(yè)界預(yù)測(cè),如果通過目前正在進(jìn)行的英偉達(dá)測(cè)試,第三季度將完成交貨。SK海力士也計(jì)劃本月發(fā)送樣品后,第三季度開始供應(yīng)12層HBM3E產(chǎn)品。
兩家公司之所以選擇這款產(chǎn)品,是因?yàn)橛ミ_(dá)的新一代AI加速器B200、GB200很有可能安裝在上面。這些產(chǎn)品是新一代核心AI加速器,性能比目前的主力產(chǎn)品H100提高了30倍。H100和H200分別安裝了4個(gè)和6個(gè)HBM3,B200中有8個(gè)HBM3E。B200和GB200的升級(jí)版本很有可能包含8個(gè)以上的12層HBM3E。這也是今年HBM市場(chǎng)規(guī)模預(yù)計(jì)將比去年(43億美元)增加4倍,達(dá)到169億美元的原因。也有預(yù)測(cè)稱,2030年左右HBM市場(chǎng)規(guī)模將擴(kuò)大到50萬億韓元。
據(jù)悉,英偉達(dá)CEO黃仁勛煽動(dòng)三星和SK的競(jìng)爭(zhēng),要求提前交貨。幾個(gè)月后三星能否翻盤,SK海力士能否穩(wěn)居第一。