內存芯片的瘋狂或將在2024年重演

作者：暢秋

糟糕的2023年已經(jīng)過去，存儲芯片市場正在醞釀一場新的爆發(fā)。

據(jù)TrendForce統(tǒng)計，2023年第四季度，全球DRAM（內存）和NAND閃存的價格約上漲 3%~8%。相對于PC市場而言，服務器DRAM市場對增長起到更大作用。

2024年，隨著運算速度的提升，DRAM和NAND閃存在各類AI應用，如智能手機、服務器、筆電的單機平均搭載容量都會增長，其中，服務器應用的增長幅度最高。

智能手機方面，2023年，由于供過于求，存儲器價格快速下跌，由于價格很低，推升了2023年智能手機DRAM單機平均搭載容量年增17.5%。2024年，在沒有新應用推出的預期下，智能手機DRAM的單機平均搭載容量的增長幅度將放緩，預估為11%。

服務器方面，伴隨AI服務器需求持續(xù)增加，高端AI芯片陸續(xù)推出，由于訓練是目前AI市場主流，其采用的存儲器是以有助于高速運算的DRAM為主，與NAND閃存相比，DRAM的單機平均搭載容量增長幅度更高，預計年增17.3%。

筆電方面，預計搭載新款CPU的筆電要到下半年才會陸續(xù)推出，對拉高存儲器容量的幫助有限，另外，AI PC要求DRAM容量加大至16GB，預計筆電DRAM的單機平均搭載容量年增率約為12.4%。

AI服務器帶動DDR5和HBM加速前進

DDR5加速滲透

AI大模型持續(xù)迭代升級，參數(shù)持續(xù)增長，大模型的參數(shù)規(guī)模越大，算力負擔越重，而AI服務器是算力的核心。2023年，AI服務器（搭載GPU、FPGA、ASIC等高算力芯片）出貨量近120萬臺，年增38.4%，占整體服務器出貨量的9%，按照這個勢頭發(fā)展下去，2026年將占到15%的市場份額。

更多的大模型參數(shù)需要大容量、高速的內存支持，美光在法說會上表示，一臺AI服務器的DRAM使用量是普通服務器的6-8倍。到2026年，預計服務器DRAM（不含HBM）市場規(guī)模有望達到321億美元。

針對AI服務器的高性能要求，更強大的內存——DDR5需求隨之提升。與DDR4相比，DDR5具備更高速度、更大容量和更低能耗等特點。DDR5內存的最高傳輸速率達6.4Gbps，比DDR4高出一倍。

內存接口芯片是服務器內存模組的核心邏輯器件，作為服務器CPU存取內存數(shù)據(jù)的必由通路，其主要作用是提升內存數(shù)據(jù)訪問的速度和穩(wěn)定性，滿足服務器CPU對內存模組日益增長的高性能和大容量需求。

隨著DDR內存技術向DDR5演進，內存接口芯片的用量也在增加。英特爾和AMD支持DDR5的新平臺推出后，服務器DDR5又出現(xiàn)了PMIC匹配問題，使得DDR5的市場規(guī)模不能快速提升，新平臺的推出受阻，目前，DRAM原廠和PMIC廠商都已著手解決該問題。雖然短期內原廠DDR5供應受阻，但由于PMIC供應廠商較多，切換及適配不會成為DDR5滲透率提升的瓶頸，服務器DDR5滲透率有望于今年達到30%左右。隨著AI服務器的加速發(fā)展以及PMIC良率問題逐步得到解決，DDR5滲透率有望進一步提升，2026年將達到85%。

存算一體落地之前，HBM將唱主角

目前，GPU主流內存方案為GDDR和HBM（高帶寬內存）兩種，其中，GDDR在SoC周圍有大量外設，該方案已經(jīng)從GDDR5升級為GDDR6，以提高帶寬。但是，如果GDDR要增加1GB的帶寬，將會帶來更多功耗，不利于系統(tǒng)性能提升。

HBM方案作為近存計算的典型技術，可以改善存算分離導致的“存儲墻”問題，即存儲單元的帶寬問題、存儲單元與計算單元數(shù)據(jù)傳輸的能效問題，并且，HBM中Die裸片的垂直堆疊也增大了容量。因此，在存算一體真正落地之前，HBM技術是契合當前GPU對更多內存、更高帶寬需求的最佳方案。

HBM的特點是大容量、高帶寬（帶寬用于衡量DRAM傳輸數(shù)據(jù)的速率，是核心技術指標），它將多個DDR裸片堆疊在一起后和GPU封裝在一起，實現(xiàn)大容量、高位寬的DDR組合陣列。

2013年，SK海力士率先推出HBM1，HBM1每個堆棧的帶寬為128GB/s、支持4個DRAM堆棧集成，容量為每堆棧4GB。2017年，SK海力士推出了HBM2，它的帶寬和容量與HBM1相比實現(xiàn)翻倍增長。2018年，JEDEC推出了HBM2e規(guī)范，HBM2e可以實現(xiàn)每堆棧461GB/s的帶寬。SK海力士于2022上半年開始量產(chǎn)HBM3，帶寬達到819.2 GB/s，支持12個DRAM堆棧集成，容量達每堆棧24GB。2023年，主流市場需求從HBM2e轉向HBM3，HBM3需求占比提升至39%，隨著使用HBM3的加速芯片陸續(xù)放量，預計2024年HBM3的市場需求占比將達到60%。

2023年底，英偉達發(fā)布了DGX GH200，進一步推升了AI服務器對內存性能的需求，DGX GH200共鏈接了256個Grace Hopper超級芯片，具有144TB的共享內存，GH200單卡配備了480GB LPDDR5內存和96GB的HBM顯存，而在上一代DGX H100服務器中，平均單個H100芯片對應256GB內存和80GB的HBM。二者對比，GH200方案的內存容量有顯著提升。

TrendForce認為，英偉達正在規(guī)劃更多HBM供應商，美光（Micron）、SK海力士、三星都已于2023年陸續(xù)提供了8hi（24GB）樣品，三星的HBM3（24GB）已經(jīng)在2023年底完成驗證。三大內存原廠的HBM3e規(guī)劃和進度如下表所示。

由于HBM的驗證過程繁瑣，預計耗時兩個季度，以上三大內存原廠都預計于2024年第一季完成驗證。各原廠的HBM3e驗證結果，也將決定英偉達2024年HBM供應商的采購權重分配。

展望2024年，需要觀察各AI芯片供應商的項目進度。

英偉達2023年的高端AI芯片（采用HBM的）的既有產(chǎn)品為A100、A800和H100、H800，2024年，除了上述型號外，該公司還將推出使用6個HBM3e的H200和8個HBM3e的B100，并同步整合自家基于Arm架構的 CPU，推出GH200和GB200。

2024年，AMD將重點出貨MI300系列，采用HBM3，下一代MI350將采用HBM3e，將在2024下半年開始進行HBM驗證，預計大規(guī)模量產(chǎn)時間將出現(xiàn)在2025年第一季度。

英特爾方面，2022下半年推出了Habana Gaudi 2，采用6個HBM2e，預計2024年新型號Gaudi 3將繼續(xù)采取HBM2e，但用量將升級至8個。

三大內存原廠的表現(xiàn)

不久前，SK海力士公布了HBM發(fā)展路線圖，該公司副總裁Kim Chun-hwan透露，計劃在2024上半年量產(chǎn)HBM3e，并向客戶交付8層堆疊樣品，在6層堆棧HBM3e配置中，每層堆?？商峁?.2 TB/s的通信帶寬，8層堆疊將進一步提升HBM內存的帶寬。

Kim Chun-hwan表示，在不斷升級的客戶期望的推動下，存儲行業(yè)正在面臨激烈的生存競爭。隨著制程工藝節(jié)點的縮小接近極限，存儲器廠商越來越關注新一代存儲架構和工藝，以給客戶應用系統(tǒng)提供更高的性能。為此，SK海力士已經(jīng)啟動了HBM4的開發(fā)，計劃于2025年提供樣品，并于次年量產(chǎn)。

根據(jù)美光提供的信息，與前幾代HBM相比，HBM4每層堆棧的理論峰值帶寬將超過1.5 TB/s。為了實現(xiàn)這樣的帶寬，在保持合理功耗的同時，HBM4的目標是實現(xiàn)大約6GT/s的數(shù)據(jù)傳輸速率。

三星也有發(fā)展HBM4的時間表，計劃于2025年提供樣品，并于2026年量產(chǎn)。據(jù)三星高管Jaejune Kim透露，該公司HBM產(chǎn)量的一半以上是定制化產(chǎn)品，未來，定制HBM方案的市場規(guī)模將進一步擴大。通過邏輯集成，量身定制的HBM對于滿足客戶個性化需求至關重要。

三星和SK海力士之間的競爭正在升溫。

一些市場觀察人士表示，三星在HBM芯片開發(fā)方面落后于SK海力士，為了在新接口標準CXL開發(fā)中占據(jù)優(yōu)勢地位，三星加快了技術研發(fā)和產(chǎn)品布局。

三星電子執(zhí)行副總裁兼美國內存業(yè)務主管 Lee Jung-bae在一篇博客文章中表示，該公司將擴大32GB DDR5及1TB模塊產(chǎn)能，他表示：“我們將積極利用CXL內存模塊 (CMM) 等新型接口，這將有助于實現(xiàn)內存帶寬和容量可以根據(jù)運營需求無縫擴展。”

SK海力士也表示，計劃加大對高帶寬內存和DDR5芯片的投資，以適應人工智能市場的增長需求?！芭c2023年相比，2024年的資本支出將有所增加?！覀儗⒆畲笙薅鹊靥嵘Y金利用效率”，SK海力士副總裁兼首席財務官金宇賢表示：“在2023年投資金額的范圍內，我們根據(jù)產(chǎn)品優(yōu)先順序調整了資本支出，2024年，我們將更多地關注轉換制程工藝，而不只是增加產(chǎn)能?！?/p>

金宇賢表示，SK海力士將努力擴大第四代和第五代10nm級制程內存芯片的比例，到2024年底，這些新品將占據(jù)該公司DRAM產(chǎn)量的一半以上。不過，他表示，要達到2022年第四季度的產(chǎn)能水平，還需要相當長時間。

SK海力士對引領HBM市場充滿信心，預測未來5年的年均增長率將達到60%~80%。該公司DRAM營銷主管Park Myung-soo表示：“我們2024年的HBM3和HBM3e芯片產(chǎn)能已經(jīng)售罄。根據(jù)客戶和市場觀察人士的說法，我們的HBM3產(chǎn)能份額非常高?！?/p>

據(jù)TrendForce統(tǒng)計，2023年第三季度，SK海力士擠下三星電子，成為全球最大的服務器DRAM廠商。報告顯示，2023年第三季度，SK海力士服務器DRAM銷售額達到18.5億美元，拿下49.6%的市場份額，穩(wěn)居全球龍頭寶座，排名第二的三星電子，在該季度的服務器DRAM銷售額為13.13億美元，市占率為35.2%，同期內，美光的服務器DRAM銷售額為5.6億美元，市占率為15.0%，排名第三。

需要指出是，以上統(tǒng)計數(shù)字僅是傳統(tǒng)服務器搭載的DDR5內存，不包括用于AI服務器的HBM，若將HBM銷售計算在內，SK海力士領先三星電子的幅度會更大。

2024年1月24日，SK海力士發(fā)布了FY2023財報，營收為32.77萬億韓元，同比下降27%。單看FY2023Q4表現(xiàn)，營收為11.31萬億韓元，同比增長47%，環(huán)比增長25%。DRAM業(yè)務Q4營收7.35萬億韓元，同比增長49.15%，環(huán)比增長20.98%。該公司在FY2023年Q4扭虧為盈，業(yè)績開始全面反彈。SK海力士表示，自FY2023年Q4開始，該公司用于AI服務器和移動端的產(chǎn)品需求都在增長，平均售價上升，存儲器市場環(huán)境有所改善。整個FY2023，該公司的DRAM憑借技術實力積極響應了客戶需求，主力產(chǎn)品DDR5和HBM3的收入同比分別增長4倍和5倍。

就整體DRAM模塊市場而言，三星電子仍穩(wěn)居DRAM霸主地位，但SK海力士正在急起直追。據(jù)Omdia統(tǒng)計，2023年第三季度，三星電子在DRAM領域市占率為39.4%，SK海力士以35%的市占率居次位，美光排名第三，市占率為21.5%。

排名內存行業(yè)第三位的美光也在加緊布局AI服務器市場，該公司計劃在2024年第一季度量產(chǎn)HBM3e，以搶攻英偉達的超級計算機DGX GH200商機。美光技術開發(fā)事業(yè)部資深副總裁Naga Chandrasekaran表示，采用EUV技術量產(chǎn)的1-gamma制程產(chǎn)品，正在研發(fā)過程中，預計于2025年量產(chǎn)。

業(yè)界人士指出，在HBM產(chǎn)品開發(fā)方面，雖然美光落后三星和SK海力士近一年時間，但在新一代HBM3e產(chǎn)品開發(fā)和量產(chǎn)進度方面，該公司加快了節(jié)奏，有望在HBM競賽中扳回一城。

結語

通過分析全球芯片市場不同細分領域的年度銷售數(shù)據(jù)，包括存儲器、微處理器、邏輯電路、模擬電路、分立器件和光電子器件，結合不同領域年度銷售額同比增速的趨勢，按照一輪周期中同比增速的最小值為周期底部、同比增速的最大值為周期頂部，可以得出以下結論：2002年、2008年、2011年、2015年、2019年、2023年是半導體行業(yè)周期底部，2004年、2010年、2014年、2017年、2021年是周期頂部。全球半導體市場大約每隔4~5年經(jīng)歷一輪周期，不同細分領域周期底部時間點略有差別。

在上述所有半導體細分領域中，存儲器周期波動最大，在上行周期的頂部，2010年、2017年存儲器銷售額同比增長分別為55%、61%，在下行周期的底部，2002年、2019年存儲器銷售額同比下降了30%、33%。據(jù)WSTS統(tǒng)計，2022年全球半導體銷售額為5741億美元，其中，存儲器銷售額為1298億美元，占全球半導體銷售總額的22.6%，在過去20年內，存儲器長期占半導體銷售總額比重的20%以上。因此，存儲器是集成電路中銷售額最大的細分領域，在整個產(chǎn)業(yè)中占據(jù)核心地位，存儲器市場變化周期是影響半導體周期的主要因素。

DRAM的上一輪周期在2017年12月左右見頂，在2019年12月觸底，下行周期持續(xù)時間在兩年時間，隨后經(jīng)歷了一年半左右的上行周期，上一輪周期持續(xù)了3-4年。本輪DRAM周期在2021年4月左右見頂，在2023年9月觸底，10月價格反彈。本輪下行周期持續(xù)時間已達兩年半，新一輪的DRAM上行周期已經(jīng)開始。

或許在2024和2025年，內存市場有望掀起新一波需求熱潮，重現(xiàn)2017和2018年輝煌的市場景象。