AI時代，HBM掀起存儲芯片新浪潮

AI時代，HBM掀起存儲芯片新浪潮

2022年末，ChatGPT的面世無疑成為了引領人工智能浪潮的標志性事件，宣告著新一輪科技革命的到來。

從ChatGPT掀起的一片浪花，到無數大模型席卷全球浪潮，再到今年的Sora火爆全網，人工智能的浪潮一浪高過一浪。

在這波浪潮中，伴隨著人才、數據、算力的不斷躍級，人工智能產業正展現出巨大的潛力和應用前景，正在多個領域展現出重要作用。

AI的快速發展對算力的需求呈現井噴的態勢，全球算力規模超高速增長。國際數據公司IDC、浪潮信息等聯合發布的《2022-2023全球計算力指數評估報告》預測，全球AI計算市場規模將從2022年的195億美元增長到2026年的346.6億美元。

巨大的生產潛力下，以GPU為代表的AI芯片供應商在市場上獨孤求敗，無論是股票市值還是公司業績，頭部AI企業漲幅領跑全球市場，迎來了有史以來最強勁的增長態勢。

GPU繁榮背后，HBM同樣炙手可熱

AI熱潮造就GPU繁榮的同時，也讓扮演關鍵角色的HBM熱度高居不下，成為當前AI賽道的新興爆發風口。

HBM，全稱為High Bandwidth Memory，即高帶寬存儲器，是一款新型基于3D堆棧工藝的高性能DRAM，其實就是將很多個DDR芯片堆疊在一起后和GPU封裝在一起，實現大容量，高位寬的DDR組合陣列。

圖：AMD官網

與傳統DRAM芯片相比，HBM具有高帶寬、高容量、低延時與低功耗等優勢，可以加快AI數據處理速度。

憑借這些優勢，HBM能夠實現大模型時代的高算力、大存儲的現實需求，在所有存儲芯片中，HBM被看作是最適用于AI訓練、推理的存儲芯片，是AI性能提升的關鍵。

據了解，HBM主要是通過硅通孔（TSV）工藝進行芯片堆疊，以增加吞吐量并克服單一封裝內帶寬的限制，將數個DRAM裸片像樓層一樣垂直堆疊。相較傳統封裝方式，TSV技術能夠縮減30%體積，并降低50%能耗。

同時，也正是基于Interposer中介層互聯實現了近存計算，以及TSV工藝的堆疊技術，也讓更大的模型，更多的參數留在離核心計算更近的地方，從而減少內存和存儲解決方案帶來的延遲。

從技術角度看，HBM使得DRAM從傳統2D轉變為立體3D，充分利用空間、縮小面積，正契合半導體行業小型化、集成化的發展趨勢。HBM突破了內存容量與帶寬瓶頸，被視為新一代DRAM解決方案，業界認為這是DRAM通過存儲器層次結構的多樣化開辟一條新的道路，革命性提升DRAM的性能。

隨著存儲數據量激增，市場對于HBM的需求將有望大幅提升。

從技術迭代上看，自2014年全球首款硅通孔HBM產品問世以來，HBM已經從HBM1、HBM2、HBM2E，發展至目前被業界認為成為市場主流的HBM3，甚至HBM3E。

最初的HBM1為4層die堆疊，提供128GB/s帶寬，4GB內存，顯著優于同期GDDR5；

HBM2于2016年發布，2018年正式推出，為4層DRAM die，現在多為8層die，提供256GB/s帶寬，2.4Gbps傳輸速度和8GB內存；

HBM2E于2018年發布，于2020年正式提出，在傳輸速度和內存等方面均有較大提升，提供3.6Gbps傳輸速度和16GB內存；

HBM3于2020年發布，2022年正式推出，堆疊層數及管理通道數均有增加，提供6.4Gbps傳輸速度和16GB內存；

第五產品HBM3E，提供供高達8Gbps的傳輸速度和24GB容量，計劃于2024年大規模量產。

圖源：Rambus

近段時間來，全球多個科技巨頭都在競購第五代高帶寬內存HBM3E。自2024年起，市場關注焦點即由HBM3轉向HBM3e，預計下半年將逐季放量，并逐步成為HBM市場主流。

對于接下來的規劃和技術發展方向，業界旨在突破目前HBM在速度、密度、功耗、占板空間等方面的極限。

過去幾年來，HBM產品帶寬增加了數倍，目前已接近或達到1TB/秒的里程碑節點。相較于同期內其他產品僅增加兩三倍的帶寬增速，HBM的快速發展歸功于存儲器制造商之間的競爭和比拼。

下一代HBM4有望于2025-2026年推出。隨著客戶對運算效能要求的提升，HBM4在堆棧的層數上，除了現有的12hi（12層）外，也將再往16hi（16層）發展，更高層數也預估帶動新堆棧方式hybrid bonding的需求。HBM4 12hi產品將于2026年推出，而16hi產品則預計于2027年問世。

HBM芯片，AI時代的“金礦”

HBM突破了內存容量與帶寬瓶頸，可以為GPU提供更快的并行數據處理速度，打破“內存墻”對算力提升的桎梏。

憑借諸多優勢，HBM成為AI時代的“新寵”，受到各大廠商的追捧，市場需求強勁。

首先，AI服務器的需求會在近兩年爆增，如今在市場上已經出現了快速的增長。AI服務器可以在短時間內處理大量數據，GPU可以讓數據處理量和傳輸速率的大幅提升，讓AI服務器對帶寬提出了更高的要求，HBM基本成為了AI服務器的標配。比如，AMD的MI300X、MI300A、MI250、MI250X等系列GPU已成為AI服務器市場的主流產品，這些GPU基本都配備了HBM。

并且AI浪潮還在愈演愈烈，HBM今后的存在感或許會越來越強。據semiconductor-digest預測，到2031年，全球HBM市場預計將從2022年的2.93億美元增長到34.34億美元，在2023-2031年的預測期內復合年增長率為31.3%。

這樣的市場表現，無疑證明了HBM在市場上的巨大潛力。它不僅僅是一種存儲芯片，更是AI時代的“金礦”。

除了AI服務器，汽車也是HBM值得關注的應用領域。汽車中的攝像頭數量，所有這些攝像頭的數據速率和處理所有信息的速度都是天文數字，想要在車輛周圍快速傳輸大量數據，HBM具有很大的帶寬優勢。

另外，AR和VR也是HBM未來將發力的領域。因為VR和AR系統需要高分辨率的顯示器，這些顯示器需要更多的帶寬來在 GPU 和內存之間傳輸數據。而且，VR和AR也需要實時處理大量數據，這都需要HBM的超強帶寬來助力。

此外，智能手機、平板電腦、游戲機和可穿戴設備的需求也在不斷增長，這些設備需要更先進的內存解決方案來支持其不斷增長的計算需求，HBM也有望在這些領域得到增長。并且，5G 和物聯網 (IoT) 等新技術的出現也進一步推動了對HBM的需求。

整體來看，隨著人工智能、機器學習、高性能計算、數據中心、自動駕駛、AR/VR等應用市場的興起，內存產品設計的復雜性正在快速上升，并對帶寬提出了更高的要求，不斷上升的寬帶需求持續驅動HBM發展。相信未來，存儲巨頭們將會持續發力、上下游廠商相繼入局，讓HBM得到更快的發展和更多的關注。

據市場研究機構TrendForce預測，2023年全球搭載HBM總容量將達2.9億GB，同比增長近60%。到2027年，HBM市場預計將以82%的復合年增長率保持增長，未來市場前景非常廣闊。

在2023年的市場風云中，存儲芯片市場持續低迷，HBM如同一股清流逆流而上，照亮了存儲行業的前行之路，成為存儲巨頭在下行行情中對業績的重要扭轉力量，也是產業鏈上常提及的高頻詞。

當以AI GPU為代表的相關各類需求如潮水般洶涌而至，由于英偉達和AMD等AI芯片制造商的需求激增，HBM價格逆勢上揚，成為了行業的“香餑餑”。

方正證券報告指出，從成本端來看，HBM平均售價至少是DRAM三倍；而此前受ChatGPT的拉動同時受限產能不足，供不應求成為現狀，HBM價格一路上漲。

2023年，HBM平均售價“逆勢暴漲”500%。2024年，HBM依舊“狀態火熱”。

擴產，HBM廠商的主旋律

受生成式AI大模型等領域的驅動，HBM逐漸發展成為新興熱門產業之一，隨著上游客戶不斷發出新的需求，目前HBM市場正釋放出供不應求的信號。

在此現狀和趨勢下，HBM產能緊張的問題日益凸顯，正釋放出供不應求的信號。很多高性能GPU的產能上不來，很大程度上就是因為HBM不夠用了。

日前，美光科技CEO Sanjay Mehrotra 在財報電話會議上表示，AI 服務器需求正推動 HBM DDR5 和數據中心 SSD 快速成長，這使得高階 DRAM、NAND 供給變得吃緊，進而對儲存終端市場報價帶來正面連鎖效應。同時強調道：“美光今年HBM產能已銷售一空，且2025年絕大多數產能已被預訂?！?/p>

不難猜測，在此情形下，其他HBM供應商例如SK海力士和三星電子的產能估計也會變得緊張。

對此，生產和擴產成了HBM提供商的主旋律。

據報道，包括美光科技在內的頭部存儲原廠正在追加投資HBM產線，擴大HBM目標產能，以應對市場的旺盛需求。同時，大廠們繼續埋頭攻破技術壁壘，以迅速抓住市場新機遇，力求在下一代標準中掌握主導權。

預計今年各大制造商在HBM領域將會有更多舉措，屬于HBM市場的一場爭奪戰正式開啟。

然而，即便是在這樣的擴產計劃下，HBM的供應仍然難以滿足市場的需求。市場研究公司Yole表示，受到生產擴張難度和需求激增的雙重影響，2023-2028年間，HBM供應的年復合增長率將達到45%。這意味著，在相當長的一段時間內，HBM的價格都將保持高位。

從性能來看，HBM無疑是出色的，其在數據傳輸的速率、帶寬以及密度上都有著巨大的優勢。不過，目前HBM仍主要應用于服務器、數據中心等應用領域，其最大的限制條件在于成本，對成本比較敏感的消費領域而言，HBM的使用門檻仍較高。因此HBM當前市場份額還比較低，但隨著多領域需求的提升，未來HBM市場將會呈現爆發式的增長。

根據TrendForce預估，2024年全球HBM的位元供給有望增長105%，市場規模也有望于今年達89億美元，同比增長127%，預計至2026年市場規模將達127.4億美元，對應CAGR約37%。

以規格而言，伴隨AI芯片需要更高的效能，HBM主流也將在2024年移轉至HBM3與HBM3E。整體而言，在需求位元提高以及HBM3與HBM3E平均銷售價格高于前代產品的情形下，2024年HBM營收可望有顯著的成長。

存儲回暖，HBM加速

目前消費電子已出現復蘇信號，行業新的轉機正在孕育生成，AI催生存力新需求，2024年存儲市場有望迎來新的轉機。

在供應鏈庫存水位已大幅改善和需求回溫的態勢下, 客戶為避免供貨短缺及成本墊高的風險, 持續增加采購訂單。

據TrendForce數據預測，2024年一季度受惠訂單規模持續放大，激勵DRAM合約價季漲幅約13~18%，NAND Flash則是18-23%。

NAND Flash合約價平均漲幅高達25%；觀察2024年第一季DRAM市場趨勢，原廠目標仍為改善獲利，漲價意圖強烈，促使DRAM合約價季漲幅近兩成。

展望第二季度，雖然目前市場對整體需求看法仍屬保守，但DRAM與NAND Flash供應商已分別在2023年第四季下旬，以及2024年第一季調升產能利用率，加上NAND Flash買方也早在第一季將陸續完成庫存回補。因此，DRAM、NAND Flash第二季合約價季漲幅皆收斂至3~8%。

存儲芯片市場價格的反彈信號，讓行業人士看到了“曙光”。

而隨著HBM的興起，將成為半導體和算力行業未來新的增長點，HBM無疑將繼續引領存儲行業的新篇章。而那些能夠在這個領域立足并不斷創新的公司，也將會迎來更加廣闊的發展空間和機遇。

據WSTS預測，2024年存儲芯片市場漲幅達44.8%。

過去兩年來，在存儲市場下行時期，HBM作為行業的中流砥柱異軍突起，為行業疲態“雪中送炭”；而如今，隨著存儲行業觸底反彈，優勢傍身的HBM在產業搶購與擴產聲中，再次掀起存儲芯片的發展新浪潮，為其增勢“錦上添花”。

展望未來，隨著AI技術的不斷進步和應用場景的拓展，HBM的需求將會持續增長。而國際存儲芯片大廠們也在積極布局，加大產能擴張力度，以應對市場的挑戰。同時，隨著HBM技術的不斷成熟和應用領域的拓展，其成本也有望逐漸降低，從而進一步推動其在市場上的普及和應用。

審核編輯：劉清