芯東西（公衆号：aichip001）
作者 | ZeR0
編輯 | 漠影
韓國存儲芯片巨頭們正在打一場翻身仗。
盡管從最新财報來看，存儲芯片複蘇未見好轉，供應過剩導緻營業利潤大幅下降，但這些存儲芯片巨頭們的股價均在上周上漲。力挽狂瀾的核心功臣，便是逐漸成爲數據中心 AI 訓練必備組件的 AI 相關内存芯片——高帶寬内存（HBM）。
因生成式 AI 開發和商業化競争加劇，第二季度對 AI 相關内存的需求大幅增加。HBM 的受關注程度，在上周 SK 海力士和三星發布最新财報後舉行的電話會議期間可見一斑，分析師們就 HBM 相關進展和後續規劃密集發問。
自去年英偉達發布世界首款采用 HBM3 的 GPU H100 以來，HBM3 及更先進 HBM 芯片的熱度一直居高不下。據報道，英偉達和 AMD 要求 SK 海力士提供尚未量産的下一代 HBM3E 芯片的樣品。英偉達已要求 SK 海力士盡快供應 HBM3E，并願意支付 " 溢價 "。
▲英偉達 GPU 及其他 AI 芯片 HBM 采用情況（圖源：SemiAnaysis）
雖說今年縮減開支是重頭戲，但存儲芯片巨頭們在 HBM 方向的投資仍相當舍得——合計掌控着全球 90%HBM 芯片市場的兩家韓國大廠 SK 海力士和三星均表态，計劃明年将 HBM 芯片産量提高一倍，并爲了更好應對 HBM 不斷增長的需求，而減少其他類别存儲芯片的投資。
一、英偉達 AMD 微軟亞馬遜排隊，坐等用上 HBM3E
高帶寬内存（HBM）屬于 DRAM 的一類分支，使用堆疊技術來提高圖形處理器（GPU）等計算芯片的帶寬和性能，相比傳統 DRAM 芯片産品具有尺寸更小、功耗更低、帶寬更高、處理數據速度更快等優勢。
▲ 2015 年 AMD 介紹新型存儲芯片 HBM（圖源：AMD）
HBM 最初用于高端遊戲顯卡，目前在全球動态随機存取存儲器（DRAM）市場中占有的市場份額較小，但潛力非常可觀。随着雲計算及生成式 AI 服務的發展，全球大型科技公司将越來越多地使用 HBM，來快速處理快速增長的數據。
據芯片行業咨詢公司 SemiAnalysis 披露，HBM 的價格大約是标準 DRAM 芯片的 5 倍，利潤豐厚，預計到 HBM 占全球内存收入的比例将從目前的不到 5% 增長到 2026 年的 20% 以上。
自 2013 年開發全球首款 HBM 芯片以來，全球第二大存儲芯片巨頭 SK 海力士一直處于 HBM 領先地位。這也是 SK 海力士首次在内存技術競賽中領先于三星。随後兩家韓企進入激烈的 HBM 搶位賽，争相開始量産 HBM2、HBM2E 等芯片。
2022 年 6 月，SK 海力士宣布開始量産業界首款 HBM3 内存，與英偉達 H100 GPU 配合使用，預計将于 2022 年第三季度發貨。該内存将爲 H100 提供高達 819GB/s 的内存帶寬。
▲曆代 HBM 性能演進（圖源：SK 海力士和 Rambus）
目前 SK 海力士是目前唯一一家批量出貨 HBM3 的供應商，擁有超過 95% 的市場份額。它正在爲 AMD MI300X 和英偉達 H100 生産數據速率爲 5.6GT/s 的 12 層 24GB HBM3。
今年 5 月 30 日，SK 海力士乘勝追擊推出最新的HBM3E，每個堆棧的帶寬從 HBM3 的 819GB/s 增加到 1TB/s，将于明年上半年投入生産，據說英偉達、AMD、微軟、亞馬遜等芯片大廠正排隊搶貨。這驅動 HBM 價格進一步大幅上漲。
據行研機構 TrendForce 的數據，SK 海力士 2022 年在全球 HBM 市場占有 50% 的份額，三星以 40% 的份額緊随其後，美國存儲芯片巨頭對手美光以 10% 的份額排名第三。
SK 海力士披露，生成式 AI 市場的擴張已迅速推高對 AI 服務器内存的需求。在 AI 相關需求激增的驅動下，上周三，SK 海力士報告其今年第二季度同比由盈轉虧，營業虧損爲 2.88 萬億韓元，其股價上周卻上漲了 12%。
▲過去半年 SK 海力士股價變化
次日，三星宣布第二季度營業利潤爲 6685 億韓元，同比下降 95%。受益于最新一代 HBM3 芯片在内的高端内存技術訂單激增，三星股價周四上漲了 2.4%，然後又有所回落。
▲過去半年三星電子股價變化
TrendForce 預測，2023 年全球 HBM 芯片需求将增長 60%，達到 2.9 億 GB，明年将再增長 30%，2025 年整體市場有望達 20 億美元以上。預計明年 SK 海力士将占據 HBM 市場 53% 的份額，其次是三星（38%）和美光（9%）。
二、AI 服務器使用的内存，比傳統服務器至少多出 1~8 倍
在财報電話會議上，SK 海力士首席财務官 Kim Woohyun 說："與傳統服務器相比，AI 服務器使用的内存至少多出 1~8 倍，以實現更快的計算處理，并采用 HBM 等高性能内存産品，這不僅會推動需求，而且對盈利能力産生了積極影響。"
他談道，從今年年初開始，智能手機、個人電腦和服務器的需求一直疲軟。但從第二季度開始，AI 服務器的需求急劇上升，抵消了其他産品需求的部分損失。自第二季度以來，生成式 AI 引發的對高端服務器的需求迅速增加。相應地，高密度 DDR5 和 HBM 産品的需求也在快速增長。
三星内存業務執行副總裁 Jaejune Kim 在三星财報電話會議上談到第二季度在服務器方面的内存需求，由于對生成式 AI 的強勁需求，數據中心領域的投資在有限的資本支出中集中在 AI 服務器上，對通用服務器和存儲的需求相對有限。
今年随着企業投資水平的降低，存儲芯片客戶将重點放在昂貴的 AI 服務器上的投資，對傳統服務器的投資可能會暫時下降。不過，SK 海力士分析預測，通用服務器仍将廣泛用于 AI 服務的開發、部署和運營，因此從長遠來看也将刺激通用服務器的需求增長。
據 Kim Woohyun 披露，SK 海力士的圖形 DRAM 銷售額（包括 HBM 産品）此前僅占 DRAM 銷售額的個位數百分比。但自從去年第四季度達到 DRAM 銷售額的 10% 以來，這一比例迅速增長到第二季度超過 20%。SK 海力士用于 AI 服務器的 HBM 和高密度 DDR5 模塊的銷量大幅增長。該公司預計今年 HBM 的銷量預計将比去年增長兩倍以上，并預計明年将進一步增長。
三、今明 HBM 需求預計陡峭增漲，兩家大廠披露 HBM 最新路線圖
業内專家表示，由于調整産能需要時間，未來兩年 HBM 供應預計仍将緊張，而快速增加 HBM 産量也很困難，因爲它需要專門的生産線。
SK 海力士和三星給出了相近的産業趨勢解讀：内存需求一直在從去年創紀錄的低增長水平中複蘇，當前複蘇尚不足以使全行業庫存水平恢複正常，上半年庫存水平仍較高，但庫存已經見頂，并預測随着減産效果進一步顯現，下半年存儲芯片需求将較上半年有所改善。
爲了進一步加速庫存正常化，兩家存儲芯片大廠都在選擇性地對 DRAM 和 NAND 的某些産品進行額外的生産調整，下半年重點抓盈利能力，專注于高附加值和高密度産品來優化其産品組合，特别是加強銷售組合中 HBM、DDR5 等高價值前沿産品的份額的增長，減少庫存水平較高、盈利能力不及 DRAM 的 NAND 的産量。
▲ SK 海力士在财報電話會議期間披露公司後續規劃，将支持高密度和 HBM 産品需求
SK 海力士相信第三季度 AI 服務器需求将持續增漲，特别是高密度 DDR 模塊和 HBM，這兩款産品的收入有望在下半年比上半年增速更高，HBM 的需求将在明年保持相當健康的增長。
近期，特别是随着超大規模企業對生成式 AI 服務的競争加劇，三星收到了來自此類客戶的大量需求，預計今年和明年 HBM 的需求可能會出現相當陡峭的增長。
目前 SK 海力士的首要任務是投資增加 HBM 的大規模生産。該公司剛剛對今年年初制定的有關技術産能組合的規劃進行了調整，以應對對高密度 DDR5 和 HBM 不斷增長的需求。
對于 HBM 路線圖來說，重要的是與 GPU 的發布或領先加速器市場的公司的時間表保持一緻。SK 海力士預計将在 2026 年某個時候轉向 HBM Gen 4，并正爲此做準備。
根據其路線圖，明年下半年将是 HBM3E 量産期，也是 HBM3E 的供應擴大期。今年 SK 海力士的重點是增加 HBM 量産所需的 1Z 納米的比例，還準備增加 1B 納米産能和 TSV 産能，爲明年上半年開始供貨的 HBM3E 做準備。
爲了與市場增長預期保持一緻，三星一直在擴展其 HBM 業務，産品方面擁有向主要客戶獨家供應 HBM2 的記錄，後續還就 HBM2E 開展業務，計劃 2023 年下半年開始大規模生産 HBM3。三星 HBM3 正在接受具有行業頂級性能和密度或容量的客戶資格認證，已開始向主要的 AI SoC 公司和雲計算公司發貨 8 層 16GB 和 12 層 24GB 産品。具有更高性能和容量的三星下一代 HBM3P 芯片計劃于今年晚些時候發布。
▲三星 HBM3 介紹（圖源：SemiAnalysis）
三星還一直投資 HBM 生産能力，基于此已經預訂了大約 10 億或十億中值 Gb 級的客戶需求，大約是去年的兩倍，并正在通過提高生産力來進一步提高供應能力，到 2024 年計劃将 HBM 産能增加至少是 2023 年水平的兩倍。另據此前報道，三星拟投資 1 萬億韓元擴産 HBM。
對于三星來說，它雖然在 HBM 競争的反應比 SK 海力士慢半拍，但考慮到通常 AI 芯片與 HBM 存儲器一起集成到單個封裝中，三星擁有一個其他芯片企業所不具備的優勢——兼具先進 GAA 工藝技術、HBM 技術和先進封裝技術。
如果未來三星能夠推出最大化發揮這三類關鍵技術協同效應的解決方案，這有望成爲未來三星在 AI 算力市場競争中的關鍵壁壘。
結語：存儲芯片巨頭打響 HBM 争霸賽
随着雲計算和生成式 AI 服務越來越受歡迎，對 HBM 等高性能内存芯片的需求與日俱增。在 HBM 價格不斷上漲的情況下，英偉達等芯片巨頭仍在預訂更多 HBM 産能來滿足其 GPU 需求，這導緻 HBM3 芯片的供給更加緊俏。
在今年資本支出大幅下降的情況下，在 HBM 市場領先的 SK 海力士正通過提高生産力、加快設備交付時間和削減其他領域的投資等努力，确保 HBM3 的産能和投資。穩居全球存儲芯片第一的三星，自然不甘在 HBM 這一極具前景的細分市場屈居于 SK 海力士身後，亦加大馬力争取新訂單并專注于 HBM 等高附加值産品的銷售。
全球排名第三的美國存儲芯片巨頭美光科技也在上周面向 AI 客戶發布了最新 DRAM 四年路線圖，包括用于 AI 和高性能計算應用的 HBMNext。到 2024 年，美光科技 HBM3E 預計将在第三季度 / 第四季度開始出貨。
▲美光科技披露面向 AI 基礎設施需求的解決方案路線圖
存儲芯片巨頭們正在嚴陣以待，通過加大在先進技術突破和擴大産能方面的投資，爲持續到來的 HBM 等支持大規模數據處理的高性能内存産品的需求激增做好準備。SK 海力士能否在 HBM 技術和市場保持領先身位、長期掌握議價權，也是業界強烈關注的焦點。
