NVIDIA新一代平臺Blackwell，包含B系列GPU及整合NVIDIA自家Grace Arm CPU的GB200等。TrendForce集邦咨詢指出，GB200的前一代為GH200，皆為CPU+GPU方案，主要搭載NVIDIA Grace CPU及H200 GPU，但以GH200而言，出貨量估僅占整體NVIDIA高端GPU約5%。目前供應(yīng)鏈對NVIDIA GB200寄予厚望，預(yù)估2025年出貨量有機(jī)會突破百萬顆，占NVIDIA高端GPU近4~5成。

NVIDIA雖計劃在今年下半年推出GB200及B100等產(chǎn)品，但上游晶圓封裝方面須進(jìn)一步采用更復(fù)雜高精度需求的CoWoS-L技術(shù)，驗證測試過程將較為耗時。此外，針對AI服務(wù)器整機(jī)系統(tǒng)，B系列也需耗費更多時間優(yōu)化，如網(wǎng)通、散熱的運轉(zhuǎn)效能，預(yù)期GB200及B100等產(chǎn)品要等到今年第四季，至2025年第一季較有機(jī)會正式放量。

CoWoS方面，由于NVIDIA的B系列包含GB200、B100、B200等將耗費更多CoWoS產(chǎn)能，臺積電（TSMC）亦提升2024全年CoWoS產(chǎn)能需求，預(yù)估至年底每月產(chǎn)能將逼近40k，相較2023年總產(chǎn)能提升逾150%；2025年規(guī)劃總產(chǎn)能有機(jī)會幾近倍增，其中NVIDIA需求占比將逾半數(shù)。而Amkor、Intel等目前主力技術(shù)尚為CoWoS-S，主攻NVIDIA H系列，短期內(nèi)技術(shù)較難突破，故近期擴(kuò)產(chǎn)計劃較為保守，除非未來能夠拿下更多NVIDIA以外的訂單，如云端服務(wù)業(yè)者（CSP）自研ASIC芯片，擴(kuò)產(chǎn)態(tài)度才可能轉(zhuǎn)為積極。

NVIDIA及AMD AI發(fā)展將加速，HBM3e于下半年成為市場主流

HBM方面，從NVIDIA及AMD近期主力GPU產(chǎn)品進(jìn)程及搭載HBM規(guī)格規(guī)劃變化來看，TrendForce集邦咨詢認(rèn)為2024年后將有三大趨勢。其一，「HBM3進(jìn)階到HBM3e」，預(yù)期NVIDIA將于今年下半年開始擴(kuò)大出貨搭載HBM3e的H200，取代H100成為主流，隨后GB200及B100等亦將采用HBM3e。AMD則規(guī)劃年底前推出MI350新品，期間可能嘗試先推MI32x等過渡型產(chǎn)品，與H200相抗衡，均采HBM3e。

其二，「HBM搭載容量持續(xù)擴(kuò)增」，為了提升AI服務(wù)器整體運算效能及系統(tǒng)頻寬，將由目前市場主要采用的NVIDIA H100（80GB），至2024年底后將提升往192~288GB容量發(fā)展；AMD亦從原MI300A僅搭載128GB，GPU新品搭載HBM容量亦將達(dá)288GB。

其三，「搭載HBM3e的GPU產(chǎn)品線，將從8hi往12hi發(fā)展」，NVIDIA的B100、GB200主要搭載8hi HBM3e，達(dá)192GB，2025年則將推出B200，搭載12hi HBM3e，達(dá)288GB；AMD將于今年底推出的MI350或2025年推出的MI375系列，預(yù)計均會搭載12hi HBM3e，達(dá)288G。