經(jīng)濟觀(guān)察網(wǎng) 記者 鄭晨燁 伴隨著(zhù)AI服務(wù)器熱度的持續飆升，HBM（高帶寬內存）的市場(chǎng)需求正在以“超乎想象”的速度增長(cháng)。

7月4日，據韓國科技媒體《ETnews》報道，在首爾舉辦的Nano Korea論壇上，SK海力士副總裁兼封裝技術(shù)開(kāi)發(fā)負責人Moon Ki-il就表示，市場(chǎng)研究機構集邦咨詢(xún)曾預測，2021年—2027年HBM市場(chǎng)的年復合增長(cháng)率（CAGR）為26.4%，但下游實(shí)際的市場(chǎng)需求已遠遠超過(guò)了這一數字。

“由于ChatGPT的出現，HBM市場(chǎng)正在經(jīng)歷爆發(fā)式增長(cháng)，HBM市場(chǎng)的年復合增長(cháng)率（CAGR）可達70%。”Moon Ki-il指出。

實(shí)際上，作為存儲市場(chǎng)領(lǐng)域的知名第三方研究機構，集邦咨詢(xún)也已經(jīng)更新過(guò)其對于HBM市場(chǎng)需求的預測數據，據該機構預測，2024年HBM的位元（bit，存儲或傳輸的數據量單位）年成長(cháng)率近200%，而到了2025年，這一增長(cháng)率有望再次翻倍。

另一家存儲領(lǐng)域知名研究機構CFM閃存市場(chǎng)分析師楊伊婷告訴記者，HBM一躍成為主流AI服務(wù)器的標配，高成長(cháng)性的HBM市場(chǎng)更是已成為三星、SK海力士及美光三家存儲原廠(chǎng)的必爭之地。

“必爭之地”

HBM的超預期增長(cháng)，本質(zhì)上還是受AI訓練對于大帶寬的需求所催生。

“AI服務(wù)器需要處理大量并行數據，要求高算力和大帶寬，高算力代表著(zhù)AI服務(wù)器處理數據的速度更快，而大帶寬代表服務(wù)器能夠同時(shí)訪(fǎng)問(wèn)的數據更多，HBM通過(guò)提供高帶寬和低延遲，滿(mǎn)足了AI服務(wù)器對高效數據處理的需求，使得AI模型訓練和推理過(guò)程更快更高效，這是驅動(dòng)HBM市場(chǎng)需求逐年增長(cháng)的主要原因。”集邦咨詢(xún)資深分析師王豫琪告訴記者。

HBM并不是一個(gè)新概念，早在2013年，SK海力士就與超威半導體公司（下稱(chēng)“AMD”）合作開(kāi)發(fā)出了全球首款HBM芯片，2015年，AMD發(fā)布的Radeon R9 Fury X，成為首款采用HBM技術(shù)的高端游戲顯卡，不過(guò)在彼時(shí)，游戲顯卡卻并沒(méi)有帶火“HBM”。

對于游戲顯卡而言，其所需處理的圖形渲染，依靠傳統GDDR（基于傳統DRAM技術(shù)的一種顯存，專(zhuān)為圖形處理設計）顯存便可滿(mǎn)足，同時(shí)，HBM更復雜的制造工藝和更高的生產(chǎn)成本，也使得HBM在價(jià)格上遠高GDDR，讓搭載了HBM的游戲顯卡在市場(chǎng)上不具備顯著(zhù)的效益。

“HBM銷(xiāo)售單價(jià)較傳統型DRAM（動(dòng)態(tài)隨機存取內存，用于計算機和其他設備中的主內存）高出數倍，相較DDR5（第五代雙倍數據速率內存）價(jià)差大約五倍。”集邦咨詢(xún)資深研究副總吳雅婷指出。

較高的售價(jià)疊加尷尬的定位，讓HBM自2013年推出后，便始終處在不溫不火的境地，直到ChatGPT的出現，大模型訓練浪潮來(lái)襲，HBM才找到了真正的“用武之地”。

在采訪(fǎng)過(guò)程中，記者了解到，AI訓練和大模型計算需要處理海量數據并進(jìn)行大量的并行運算，這對內存帶寬和計算功耗提出了極高的要求。當處理器的浮點(diǎn)運算次數已經(jīng)進(jìn)入每秒萬(wàn)億次（TeraFLOPS）時(shí)代時(shí)，傳統DRAM的帶寬還在以GB/s（每秒傳輸的字節數，1GB=1024MB）為單位計算，其帶寬提升速度無(wú)法跟上處理器性能的提升速度，導致內存帶寬成為系統性能的瓶頸，形成了所謂的“存儲墻”。

同時(shí)，AI訓練需要大量計算資源，系統的功耗急劇增加，又形成了“功耗墻”。

HBM通過(guò)3D堆疊和TSV（硅通孔）技術(shù)，提高了內存帶寬，減少了數據傳輸的能耗，由此成為突破兩堵“墻”的唯一路徑。

在此背景下，HBM已經(jīng)成為眼下市場(chǎng)主流AI訓練芯片的“標配”，中泰證券在今年3月份的一份研報中指出，目前主流AI訓練芯片都配有多顆HBM，以英偉達公司生產(chǎn)的AI訓練芯片H100為例，1 顆英偉達H100芯片使用臺積電封裝技術(shù)將7 顆芯片（1顆 GPU+6 顆HBM）封在一起。

2024年5月31日，知名市場(chǎng)研究機構DIGITIMES發(fā)布報告指出，2024年全球服務(wù)器用GPU產(chǎn)值（包含存儲器在內的板卡與次系統）將達1219億美元，其中，高端服務(wù)器GPU產(chǎn)值比重將逾八成，達1022億美元。

而作為AI訓練芯片的關(guān)鍵部件，HBM的訂單也隨著(zhù)AI服務(wù)器一起暴增。在SK海力士和美光科技近期的財報電話(huà)會(huì )上，兩家公司的高管均表示自家的HBM訂單早已爆滿(mǎn)，2025年之前的產(chǎn)能都已售罄。三星電子也在4月30日舉辦的2024年第一季度財報電話(huà)會(huì )上強調：“2024年，我們的HBM位元供應實(shí)際上比去年增加了三倍多。我們已經(jīng)與客戶(hù)完成了相關(guān)供應的討論。2025年，我們將繼續擴大供應，至少比去年增加兩倍或更多。”

根據中泰證券在前述研報中的測算，2024年全球AI服務(wù)器HBM市場(chǎng)需求將達到151億美元，較2023年基本翻倍。

目前，HBM技術(shù)已迭代至HBM3E（第五代高帶寬內存），而研發(fā)進(jìn)展最快的SK海力士則在2024年4月宣布，已與臺積電簽署了關(guān)于開(kāi)發(fā)下一代HBM產(chǎn)品HBM4和合作下一代封裝技術(shù)的諒解備忘錄，該公司將利用臺積電的領(lǐng)先邏輯工藝生產(chǎn)HBM4的基底芯片，并計劃在2026年開(kāi)始量產(chǎn)，供應符合各種客戶(hù)需求（包括性能和能效）的定制HBM產(chǎn)品。

7月10日，全球存儲行業(yè)標準制定組織JEDEC固態(tài)技術(shù)協(xié)會(huì )（JEDEC Solid State Technology Association）宣布高帶寬內存（HBM）標準的下一版本HBM4即將完成。

“HBM4作為對當前發(fā)布的HBM3標準的演進(jìn)，旨在進(jìn)一步提升數據處理速率，同時(shí)保持更高帶寬、更低功耗和每個(gè)芯片和/或堆疊更大容量等基本特性。這些改進(jìn)對于需要高效處理大型數據集和復雜計算的應用至關(guān)重要，包括生成式人工智能（AI）、高性能計算、高端顯卡和服務(wù)器。”JEDEC在其官網(wǎng)表示。

王豫琪告訴記者，眼下，作為必爭之地，HBM市場(chǎng)正被SK海力士、三星電子和美光科技三大巨頭牢牢壟斷。據集邦咨詢(xún)調查，2023年三大廠(chǎng)商在HBM領(lǐng)域的市場(chǎng)份額分別為53%、38%、9%。同時(shí)，由于增長(cháng)潛力大、產(chǎn)品利潤高，上述三家公司在HBM領(lǐng)域的的競爭還將進(jìn)一步加劇。

在SK海力士2024年第一季度的財報電話(huà)會(huì )上，該公司管理層就表示，為了積極支持不斷增長(cháng)的AI內存需求以及傳統DRAM需求，決定投資建設新的DRAM生產(chǎn)基地M15X，目標是在2025年底前啟用。

此外，SK海力士還決定在美國印第安納州西拉斐特建設一個(gè)先進(jìn)的AI內存封裝生產(chǎn)設施，該設施總投資約38.7億美元，從2028年開(kāi)始大規模生產(chǎn)包括HBM在內的下一代AI內存產(chǎn)品。

“我們預計明年的資本支出將大幅增加，FY25年（2025財年）的資本支出約占收入的30%范圍，將用于HBM組裝和測試設備、晶圓廠(chǎng)和后端設施的建設以及技術(shù)轉型投資，以應對市場(chǎng)需求增長(cháng)。公司計劃在2025財年在愛(ài)達荷州和紐約的新建晶圓廠(chǎng)的建設資本支出將占預期總資本支出增長(cháng)的一半或更多。”美光科技管理層也在2024年FQ3（2024年3—5月）的財報電話(huà)會(huì )中透露。

另根據集邦咨詢(xún)的調研，三星電子亦正著(zhù)手升級該公司位于韓國平澤的工廠(chǎng)，美光科技則還計劃擴張位于日本廣島的產(chǎn)線(xiàn)。該機構指出，2025年高帶寬內存（HBM）芯片總產(chǎn)量將達到54萬(wàn)顆，產(chǎn)能相較于2024年增幅或達到105%。

國內廠(chǎng)商“起步”

王豫琪同時(shí)向記者表示，眼下，三星電子、SK海力士與美光科技三家廠(chǎng)商對HBM的投資都非常積極，廠(chǎng)商們對于HBM的產(chǎn)能規劃甚至在一定程度上擠壓了普通DRAM的供應，這也引發(fā)了市場(chǎng)對HBM領(lǐng)域的投資是否過(guò)熱的擔憂(yōu)。

“HBM的火爆，讓傳統型DRAM產(chǎn)品的生產(chǎn)將面臨一定的限制。如果終端產(chǎn)品需求增加，可能導致供需失衡，從而推動(dòng)合約價(jià)格持續上漲。”王豫琪說(shuō)。

楊伊婷亦稱(chēng)，由于HBM（高帶寬內存）、DDR（雙倍數據速率內存）以及LPDDR5X（第五代低功耗雙倍數據速率內存）制程沖突，在相同制程下，生產(chǎn)同樣存儲容量的產(chǎn)品，HBM3E（第五代高帶寬內存）消耗的晶圓量約是DDR5（第五代雙倍數據速率內存）的兩至三倍。此外，HBM生產(chǎn)過(guò)程中需要TSV封裝（硅通孔封裝技術(shù)），因此HBM生產(chǎn)周期較DDR5增加1.5個(gè)月—2個(gè)月，且先進(jìn)HBM的TSV良率（成品率）仍有待提升，完全突破良率瓶頸可能需要2年—3年時(shí)間，HBM對傳統存儲芯片產(chǎn)能的排擠僅僅只是開(kāi)端。

“存儲原廠(chǎng)將更多的產(chǎn)能分配至服務(wù)器市場(chǎng)，加上傳統產(chǎn)品和存儲技術(shù)的迭代升級，消費類(lèi)終端也面臨著(zhù)存儲資源結構性緊缺的挑戰。”楊伊婷表示。

但對于已經(jīng)在HBM上殺“紅眼”的三家大廠(chǎng)來(lái)說(shuō)，相比起穩住傳統DRAM的基本盤(pán)，大家還是更愿意冒風(fēng)險在A(yíng)I存儲賽道上爭取主導權。

“如果下半年P(guān)C、智能手機和通用服務(wù)器等傳統應用的需求超出預期，這些產(chǎn)品（傳統DRAM產(chǎn)品）可能會(huì )出現供應短缺。但（還是需要）優(yōu)先考慮HBM的生產(chǎn)能力，因為其需求激增且可見(jiàn)性高。”SK海力士副總裁Woo - Hyun Kim在2024年第一季度的財報電話(huà)會(huì )上就曾如此解釋過(guò)公司為何要優(yōu)先保障HBM的生產(chǎn)。

而且，在現階段，HBM的超高景氣度也確實(shí)在給相關(guān)廠(chǎng)商帶來(lái)真金白銀的收益。“我們的HBM出貨量在FQ3（第三財季）開(kāi)始增加，該季度HBM3E的收入超過(guò)1億美元，利潤率高于DRAM和公司的整體利潤率。我們預計在FY24（2024財年）從HBM中獲得數億美元的收入，并在FY25（2025財年）獲得數十億美元的收入。我們預計到CY25（2025年）HBM市場(chǎng)份額將達到與我們整體DRAM市場(chǎng)份額相當的水平。”美光科技管理層在2024年FQ3（2024年3—5月）的財報電話(huà)會(huì )中如此表示。

7月7日，三星電子發(fā)布2024年第二季度財報，該公司當季營(yíng)業(yè)利潤同比暴增1452.2%，達到10.4萬(wàn)億韓元（約合人民幣561.6億元），直接超越了其2023年全年6.57萬(wàn)億韓元的營(yíng)業(yè)利潤。

當美光科技、SK海力士與三星電子三家大廠(chǎng)在HBM領(lǐng)域“龍爭虎斗”時(shí)，國內的存儲廠(chǎng)商眼下卻難以從中分得一杯羹。

有業(yè)內人士告訴記者，HBM屬于美國出口管制限制的高性能產(chǎn)品領(lǐng)域，按照合規要求，國內幾乎沒(méi)有能順利展開(kāi)相應布局的企業(yè)，大多數公司主要圍繞上游材料端開(kāi)展業(yè)務(wù)。

從目前公開(kāi)披露的信息來(lái)看，在A(yíng)股的HBM概念公司中，大部分企業(yè)在HBM領(lǐng)域的布局都尚屬起步階段，暫未有實(shí)質(zhì)性的業(yè)務(wù)進(jìn)展。

例如，分銷(xiāo)平臺香農芯創(chuàng )（300475.SZ）就曾于近日披露，該公司作為SK海力士分銷(xiāo)商之一具有HBM代理資質(zhì)；封裝龍頭通富微電（002156.SZ）近期在互動(dòng)平臺上面對投資者關(guān)于HBM業(yè)務(wù)相關(guān)的問(wèn)題亦統一回復稱(chēng)，“HBM目前仍是國際Memory IDM大廠(chǎng)主導封測”；紫光國微（002049.SZ）于6月28日回復投資者提問(wèn)時(shí)也表示，“公司的HBM產(chǎn)品目前還處于研發(fā)階段，已經(jīng)通過(guò)初樣測試”；興森科技（002436.SZ）則曾在5月份披露稱(chēng)，該公司的FCBGA（Flip Chip Ball Grid Array，翻轉芯片球柵陣列，芯片直接焊接到基板上的封裝技術(shù)）封裝基板可用于HBM存儲的封裝，但目前尚未進(jìn)入海外HBM龍頭產(chǎn)業(yè)鏈；國芯科技（688262.SH）亦曾在5月份表示，該公司在客戶(hù)定制服務(wù)產(chǎn)品中使用HBM接口IP技術(shù)，目前正在基于先進(jìn)工藝開(kāi)展流片驗證工作。

國產(chǎn)存儲大廠(chǎng)江波龍（301308.SZ）在7月1日于投資者互動(dòng)平臺表示：“公司子公司元成蘇州具備晶圓高堆疊封裝（HBM技術(shù)涉及的一部分）的量產(chǎn)能力，但目前無(wú)法生產(chǎn)HBM。”同日，佰維存儲（688525.SH）也披露稱(chēng)：“擬定增募資建設的晶圓級先進(jìn)封測項目可以構建HBM實(shí)現的封裝技術(shù)基礎。”

此外，在2024年初，有媒體報道稱(chēng)，長(cháng)鑫存儲有計劃加入HBM市場(chǎng)，制造HBM相關(guān)產(chǎn)品。記者就此向長(cháng)鑫存儲官方求證，但截至發(fā)稿，未獲回復。