AI國(guó)力戰(zhàn)爭(zhēng):GPU是明線,HBM是暗線
作者|啟新 來(lái)源|錦緞(ID:jinduan006)
2022年6月,我們率市場(chǎng)之先,提出“”的觀點(diǎn)。時(shí)至今日,這個(gè)論點(diǎn)已經(jīng)沒有太多的爭(zhēng)議。
隨著英偉達(dá)在最新的財(cái)報(bào)會(huì)議中明示,不同的國(guó)家都在嘗試建立屬于自己的AI算力,這一暗流下的激烈角逐已經(jīng)完全走向臺(tái)前。
在這一場(chǎng)國(guó)家級(jí)、企業(yè)巨頭之間的競(jìng)爭(zhēng)中,站在最前排的就是大模型和大模型的算力發(fā)動(dòng)機(jī)GPU。
但在更為隱秘的戰(zhàn)場(chǎng),HBM(高帶寬內(nèi)存)顯然是基本被忽視的關(guān)鍵一環(huán)。
01
大模型和GPU是明戰(zhàn),HBM則是暗戰(zhàn)
如果因循最基本的原則,從AI算力出發(fā),我們知道制約單芯片能力的最大瓶頸有三個(gè),分別是:GPU、先進(jìn)制程(含CoWoS先進(jìn)封裝),以及HBM。
其中GPU和先進(jìn)制程是一體兩面的關(guān)系,優(yōu)秀GPU企業(yè)如英偉達(dá)設(shè)計(jì)出來(lái)GPU之后,還需要利用臺(tái)積電的先進(jìn)制程進(jìn)行制造,再利用臺(tái)積電、日月光的先進(jìn)封裝技術(shù)CoWoS進(jìn)行最后的合封,這一點(diǎn)在2023年CoWoS產(chǎn)能奇缺的時(shí)候,已被市場(chǎng)刨根問(wèn)底。
而在同一顆AI芯片上的顯存顆粒模組HBM,作為與先進(jìn)制程同等重要的存在,但到的關(guān)注顯然不夠。這一產(chǎn)品基本完全被韓國(guó)的海力士和三星壟斷,合計(jì)占市場(chǎng)份額的90%以上,絲毫不比GPU和CoWoS競(jìng)爭(zhēng)格局差,而高度壟斷,在這逆全球化的背景下,隱含的就是高供應(yīng)鏈風(fēng)險(xiǎn)。
HBM也是AI芯片中占比最高的部分,根據(jù)外媒的拆解,H100的成本接近3000美元,而其中占比最高的是來(lái)自海力士的HBM,總計(jì)達(dá)到2000美元左右,超過(guò)制造和封裝,成為成本中最大的單一占比項(xiàng)。
雖然HBM非常昂貴,但隨著AI基礎(chǔ)算力需求的大爆發(fā),草根調(diào)研顯示當(dāng)前HBM仍是一芯難求,海力士和三星2024年所有的產(chǎn)能都已經(jīng)完全被預(yù)定,行業(yè)的供需失衡可能在2025年也仍無(wú)法得到有效的緩解??赡軓?qiáng)如英偉達(dá),也需要思考自己的HBM供應(yīng)鏈?zhǔn)欠褡銐虬踩?/p>
這一重大的產(chǎn)業(yè)趨勢(shì),自然也被存儲(chǔ)芯片大國(guó)韓國(guó)了如指掌。
經(jīng)過(guò)一段時(shí)間的醞釀,2024年初,韓國(guó)企劃財(cái)政部正式公布了《2023年稅法修正案后續(xù)執(zhí)行規(guī)則修正案草案》,將HBM等技術(shù)指定為國(guó)家戰(zhàn)略技術(shù),進(jìn)一步擴(kuò)大稅收支持,在這一法案的支持下,三星電子、SK海力士等中大型企業(yè)可享受高達(dá)30%至40%的減免。
考慮到韓國(guó)的大企業(yè)所得稅一般在25%,這么大力度的減免,相當(dāng)于給了韓國(guó)的HBM產(chǎn)品直接額外賦予了接近10%的價(jià)格優(yōu)勢(shì)。當(dāng)前韓國(guó)的存儲(chǔ)芯片企業(yè)海力士和三星,在HBM產(chǎn)品的產(chǎn)能和技術(shù)上,本來(lái)就處于斷檔式領(lǐng)先,即使其他追趕者能夠做出來(lái)產(chǎn)品,考慮到海力士和三星天然的價(jià)格屠夫的歷史形象,這將使得追趕者大概率始終陷入技術(shù)落后、價(jià)格高企的惡性循環(huán)中。
當(dāng)然,韓國(guó)目前仍然是小大小鬧,還暫時(shí)沒有將HBM出口進(jìn)行管制,或者進(jìn)行相關(guān)的技術(shù)限制。但是翻看最近的歷史,我們不得不對(duì)此事提起十二分的關(guān)注。
如果未來(lái)對(duì)HBM的限制變嚴(yán)格,那么就意味著我國(guó)在AI算力的三要素—先進(jìn)制程、GPU和HBM—中,將陷入全方位的被動(dòng)局面。
所以我們才說(shuō),上一輪最值得關(guān)注HBM的時(shí)間是十年前它被發(fā)明的時(shí)候,其次就是現(xiàn)在。
02
HBM的昨天、今天和明天
1.一種特殊類型的存儲(chǔ)芯片,可以理解為DRAM的3D版本
存儲(chǔ)芯片是最大的芯片品種。為了滿足不同場(chǎng)景的存儲(chǔ)要求,又被進(jìn)一步的分為SRAM、DRAM、NAND、NOR等等,其中市場(chǎng)空間最大最為重要的是DRAM和NAND,也就是業(yè)內(nèi)人士常說(shuō)的大宗品存儲(chǔ),全球的市場(chǎng)空間都是接近1000億美元。
DRAM對(duì)智能設(shè)備的運(yùn)行速度起到與主控芯片一樣的決定性作用,對(duì)于普通消費(fèi)者都能接觸到的手機(jī)為例,主控芯片和內(nèi)存(即移動(dòng)端LPDDR DRAM)就是最重要的兩顆芯片。HBM,正是DRAM中的一個(gè)分支品種,主打高性能。
根據(jù)行業(yè)協(xié)會(huì)的定義,DRAM可以分為三種:1)主要用在電腦、服務(wù)器中的標(biāo)準(zhǔn)DDR,也就是常說(shuō)的內(nèi)存條;2)手機(jī)和汽車等移動(dòng)終端領(lǐng)域的LPDDR系列;3)用在數(shù)據(jù)密集型場(chǎng)景的圖形類DDR,HBM正是在這一分類下。
所以,HBM是脫胎于普通的DRAM的升級(jí)產(chǎn)品,基于3D堆棧工藝(使用TSV技術(shù)將多個(gè)DRAM芯片堆疊起來(lái),在增加帶寬的同時(shí),實(shí)現(xiàn)芯片間的高速通信和低功耗),可以實(shí)現(xiàn)更高的內(nèi)存帶寬和更低的能耗,。
2023年之前,雖然上述三種DRAM產(chǎn)品中,HBM在傳輸速度、容量和功耗方面都具備明顯的優(yōu)勢(shì),但高于普通DRAM數(shù)倍的價(jià)格,使得對(duì)HBM需求一直都是名氣沒輸過(guò)、銷售沒贏過(guò)的尷尬存在。
圖:存儲(chǔ)芯片DRAM進(jìn)一步分類,方正證券
但AI大模型的出現(xiàn),使得HBM找到完美的應(yīng)用場(chǎng)景。
眾所周知,大模型的智力涌現(xiàn),依托于Scaling laws指導(dǎo)下的大力出奇跡,大模型對(duì)數(shù)據(jù)量和算力有著近乎無(wú)上限的需求,而算力的發(fā)動(dòng)機(jī)GPU和存儲(chǔ)池HBM,意外成為最大的受益者。
傳統(tǒng)帶寬的標(biāo)準(zhǔn)類DDR DRAM和移動(dòng)類LPDDR DRAM顯然已經(jīng)完全無(wú)法滿足AI芯片的需求,而立體堆疊的HBM,它相對(duì)普通的內(nèi)存帶寬可以提升數(shù)倍,而功耗反而更低,卻完美契合大模型的要求。
所以我們可以看到,在AI場(chǎng)景中,英偉達(dá)的GPU芯片不再是單獨(dú)售賣:從流程上,英偉達(dá)首先設(shè)計(jì)完GPU,然后采購(gòu)海力士的HBM,最后交由臺(tái)積電利用CoWoS封裝技術(shù)將GPU和HBM封裝到一張片子上,最終交付給AI服務(wù)器廠商。最終產(chǎn)品結(jié)構(gòu)正如海力士的宣傳材料展示的一樣。
可以說(shuō),英偉達(dá)、臺(tái)積電、海力士,這三家公司共同構(gòu)成了全球AI算力基座的鐵三角。
2.AI爆發(fā)帶來(lái)巨大的增長(zhǎng)空間
從配角到主角的HBM,也隨著AI的爆發(fā)也迎來(lái)屬于自己的廣闊舞臺(tái)。
在AI沒有爆發(fā)之前,市場(chǎng)預(yù)測(cè)全球HBM將平穩(wěn)增長(zhǎng)至一個(gè)100億美元的市場(chǎng)。但是隨著2023年大模型的橫空出世,HBM的市場(chǎng)中樞預(yù)測(cè)被快速拔高。
根據(jù)市場(chǎng)機(jī)構(gòu)測(cè)算,2023年HBM市場(chǎng)規(guī)模為40億美元,預(yù)計(jì)2024年增長(zhǎng)至150億美元,到2026年增長(zhǎng)至接近250億美元,年復(fù)合增速高達(dá)80%以上。這一測(cè)算也與海力士的估算匹配上,2023年11月,海力士CEO表示,預(yù)計(jì)到2030年,海力士每年HBM出貨量將達(dá)到1億顆,隱含產(chǎn)值規(guī)模將接近300億美元,假設(shè)屆時(shí)海力士市場(chǎng)份額為50%,則整個(gè)市場(chǎng)空間將在500億美元左右。
屆時(shí),HBM將從配角,正式成為存儲(chǔ)芯片中最搶眼的主角。
圖:全球HBM市場(chǎng)規(guī)模預(yù)測(cè)(AI浪潮之前),方正證券
3.科技巨頭的縮圈游戲
與AI算力中的其他要素一樣,HBM是一個(gè)科技難度極高的產(chǎn)品,典型特征是重資本投入和高技術(shù)含量。
做HBM,首先就要求芯片企業(yè)能做出一流的DRAM,然后在這個(gè)DRAM芯粒的基數(shù)上做3D的堆疊。經(jīng)過(guò)幾十年的發(fā)展競(jìng)爭(zhēng),DRAM已經(jīng)有極高的技術(shù)門檻,其制程已經(jīng)微縮到極限,雖然叫法上略有不同,但整體與邏輯芯片差別不大,最先進(jìn)的DRAM都離不開EUV光刻機(jī)的加持;同時(shí)還非常燒錢,投資金額極高,海力士每年資本開支超百億美元。所以,當(dāng)前DRAM已經(jīng)基本被韓國(guó)三星、海力士以及美國(guó)美光所壟斷。
而從DRAM到HBM,拋開更高的資本開支不談,還新增三大工藝難點(diǎn):分別是TSV、MR-MUF、混合鍵合Hybrid Bonding。比如TSV技術(shù),在維持較低的單I/O數(shù)據(jù)速率的情況下大幅提升了位寬進(jìn)而獲得了遠(yuǎn)優(yōu)于GDDR的總帶寬表現(xiàn)。本文不就技術(shù)細(xì)節(jié)進(jìn)行展開,這一難度就相當(dāng)從2D電影進(jìn)階到3D電影,完全是另一個(gè)維度的競(jìng)爭(zhēng)。
直接衡量大家技術(shù)水平的,簡(jiǎn)單可以看堆疊層數(shù)。根據(jù)了解到的最新行業(yè)動(dòng)態(tài):為配套英偉達(dá)最新的H200,2024年下半年三大存儲(chǔ)廠將推出36GB版本的HBM3e或?yàn)?2層堆疊。
對(duì)于追趕者而言,靶子已經(jīng)固定在那兒,只是難度著實(shí)不小。
03
HBM背后的國(guó)力之爭(zhēng)
我們判斷,從2024年起,HBM將繼GPU之后成為各個(gè)國(guó)家在算力競(jìng)爭(zhēng)的關(guān)鍵。
毫無(wú)疑問(wèn),目前韓國(guó)海力士和三星遙遙領(lǐng)先。哪怕美國(guó)在這個(gè)領(lǐng)域也是落后的,他們本土的代表性公司美光科技已奮起直追。而中國(guó)國(guó)內(nèi)的大宗存儲(chǔ)尚處在追趕狀態(tài),所以HBM的落后自然也就更多,也更為急迫。
1.韓國(guó)雙子星閃耀:海力士的不放棄功不可沒
前文提到,HBM是基于DRAM的3D形態(tài),而DRAM的全球霸主三星卻在HBM這一細(xì)分品類上處于落后狀態(tài),而海力士卻是壟斷者的存在,這得益于公司對(duì)HBM技術(shù)的不離不棄。
早在10年前的2013年,海力士就首次制造出HBM,并被行業(yè)協(xié)會(huì)采納為標(biāo)準(zhǔn)。2015年,AMD成為第一個(gè)使用HBM的客戶。但在此之后,HBM由于價(jià)格高昂,下游根本不買單,甚至一度被認(rèn)為是點(diǎn)錯(cuò)了科技樹。
但海力士死磕這個(gè)方向,并沒有放棄。在2015-2022年,雖然并沒有什么突出客戶,海力士仍然對(duì)HBM產(chǎn)品進(jìn)行了多達(dá)3次技術(shù)升級(jí),絲毫不像對(duì)待一個(gè)邊緣產(chǎn)品的待遇。
圖:海力士HBM產(chǎn)品roadmap,公司路演資料
最終,憑借著2023年至今的AI浪潮,海力士的HBM一芯難求,從無(wú)人問(wèn)津到一飛沖天,10年的堅(jiān)守終于換了回報(bào)。在低迷的韓國(guó)股市中,海力士股價(jià)也一騎絕塵,實(shí)現(xiàn)翻倍,成為跟上全球AI浪潮的唯一一家韓國(guó)公司。
另一方面,內(nèi)存領(lǐng)域的霸主三星,得益于在DRAM上的深厚積累,以及并不落后的技術(shù)儲(chǔ)備,迅速崛起成為HBM排名第二的玩家。
2016年三星開始大規(guī)模量產(chǎn)HBM。落后于海力士3年;而根據(jù)公司最新進(jìn)展,三星已經(jīng)于2023年實(shí)現(xiàn)了HBM3的量產(chǎn)出貨,而將在今年上半年推出HBM3E,而且規(guī)劃2025年實(shí)現(xiàn)HBM4的量產(chǎn)。根據(jù)這一規(guī)劃,三星與海力士的差距已經(jīng)縮小到半年左右,而差距有望于2025年被完全消弭。
三星除了有DRAM的底氣之外,由于HBM當(dāng)中包含部分邏輯芯片的電路,因此三星電子依托于自有的邏輯晶圓廠,確實(shí)具備彎道超車的比較優(yōu)勢(shì)。而且同為韓國(guó)公司,直接挖相關(guān)人才也更為容易。
毫無(wú)疑問(wèn),在HBM領(lǐng)域起了個(gè)大早的韓國(guó),也絲毫沒有放松,還在朝前一路狂奔。
2.美國(guó)獨(dú)苗苦苦支撐,但猶可追
美國(guó)公司在HBM的競(jìng)賽中落后似乎是命中注定的。由于存儲(chǔ)芯片行業(yè)周期性極強(qiáng),資本開支又是無(wú)底洞,已經(jīng)逐漸被美國(guó)企業(yè)放棄,比如當(dāng)年的存儲(chǔ)芯片龍頭英特爾早已完全退出存儲(chǔ)芯片市場(chǎng),轉(zhuǎn)而增加了對(duì)韓國(guó)的依賴。
好在美國(guó)還剩最后的獨(dú)苗美光科技。在存儲(chǔ)這個(gè)刺刀見紅的嗜血賽道上,它的生存之道是“茍住”。為了避免出現(xiàn)重大損失,美光一直在研發(fā)策略上堅(jiān)持不做首發(fā)者,而更傾向于采取跟隨戰(zhàn)術(shù),這樣能夠避免高昂的研發(fā)投入和可能打水漂的資本開支。
美光開始研發(fā)HBM的時(shí)間相對(duì)較晚,現(xiàn)在主流的HBM3上,美光的進(jìn)度較海力士和三星落后半年以上。半年差距看似不大,但在AI硬件軍備競(jìng)賽中,時(shí)間就是生命,大家為了保證大模型的領(lǐng)先,都爭(zhēng)相上最先進(jìn)的算力產(chǎn)品,用最新的卡、最大帶寬的光模塊和最優(yōu)質(zhì)的HBM,因此晚半年推出,就代表著整個(gè)市場(chǎng)的錯(cuò)失,所以美光在HBM的份額低到只有個(gè)位數(shù)。
為了實(shí)現(xiàn)彎道超車,美光已經(jīng)開始挖海力士和三星的核心人才,同時(shí)開啟多代產(chǎn)品的并行研發(fā)。公司放衛(wèi)星的表示,將在2024年年底實(shí)現(xiàn)HBM3E的量產(chǎn),如果屆時(shí)完成,將使得其與韓國(guó)巨頭的技術(shù)差距明顯縮小。此外,公司規(guī)劃在2028年量產(chǎn)HBM4E ,將每個(gè)堆棧的容量提升到 48GB 至 64GB。
3.中國(guó)突圍路在何方?
美國(guó)尚存獨(dú)苗,中國(guó)的HBM行業(yè)尚處0到1的階段,要補(bǔ)的課更多。
目前,中國(guó)企業(yè)在HBM產(chǎn)業(yè)鏈上的存在感甚至還要落后于先進(jìn)制程與GPU。如果說(shuō)GPU只是人優(yōu)我差的問(wèn)題,HBM則是人有我無(wú)的問(wèn)題。
雖然A股已經(jīng)對(duì)HBM進(jìn)行了一輪又一輪的炒作,但不得不承認(rèn)的客觀現(xiàn)實(shí)是,國(guó)內(nèi)到現(xiàn)在無(wú)法量產(chǎn)HBM,這成為國(guó)內(nèi)自研AI芯片的重大隱憂,因?yàn)镚PU需要和HBM利用CoWoS工藝封裝在一起,國(guó)產(chǎn)的GPU和CoWoS工藝都已經(jīng)解決了有沒有的問(wèn)題,已經(jīng)進(jìn)入量產(chǎn)爆發(fā)階段,而HBM還遙遙無(wú)期。
不同于境外市場(chǎng)要么押注龍頭海力士,要么押注能追趕上的美光,這種簡(jiǎn)單的選擇題。A股對(duì)HBM的投資邏輯演化成兩條:
國(guó)產(chǎn)HBM正處于0到1的突破期;考慮到海外的貿(mào)易保護(hù)主義抬頭,可能靠自己是一條不得不走的路只能靠我們自己。
時(shí)間就是生命,但由于在DRAM領(lǐng)域的落后,一家企業(yè)去主導(dǎo)HBM的突破顯得更加困難。從產(chǎn)業(yè)鏈合力的角度,更有望突破,HBM顯然需要存儲(chǔ)廠、晶圓代工廠、封測(cè)廠的通力合作。根據(jù)最新的產(chǎn)業(yè)信息,到2026年我國(guó)將具備量產(chǎn)HBM的能力,但這一速度顯然還是有點(diǎn)跟不上日新月異的大模型需求。
也就是說(shuō),現(xiàn)在,留給HBM中國(guó)隊(duì)的時(shí)間唯“緊迫”二字。
編者按:本文轉(zhuǎn)載自微信公眾號(hào):錦緞(ID:jinduan006),作者:?jiǎn)⑿?nbsp;
品牌、內(nèi)容合作請(qǐng)點(diǎn)這里:尋求合作 ››
前瞻經(jīng)濟(jì)學(xué)人
專注于中國(guó)各行業(yè)市場(chǎng)分析、未來(lái)發(fā)展趨勢(shì)等。掃一掃立即關(guān)注。