三星電子為了向英偉達提供新一代高帶寬存儲器(HBM),投入了400多名半導(dǎo)體ACE(最高水平的)員工。
“三星電子為打通特定客戶公司投入這么多人力,實屬史無前例?!庇蟹治稣J為,只有抓住“英偉達”才能掌握市場主導(dǎo)權(quán),所以三星動員了公司的全部力量。
據(jù)產(chǎn)業(yè)界透露,三星電子為了在今年第三季度向英偉達交付現(xiàn)有最高性能HBM——12層HBM3E產(chǎn)品,最近組織了100人規(guī)模的特別工作組(TF)。據(jù)悉,應(yīng)英偉達“提高HBM的質(zhì)量和良率,加快交貨”的要求,該TF集中致力于提高良率,第一個目標是本月通過英偉達的質(zhì)量認證測試,其余300多人被分配到HBM4開發(fā)團隊。他們計劃最早在年末左右完成HBM4的開發(fā),明年敲開英偉達的大門。
對于從第三季度開始舉行的“第五代高帶寬存儲器”(HBM3E)市場,三星和SK正在調(diào)整戰(zhàn)局。這是為了在今年的英偉達HBM3E(估計超過10萬億韓元,528億元人民幣)訂單戰(zhàn)中獲勝。這是三星和SK海力士首次在同一時間對同一規(guī)格的HBM產(chǎn)品、同一客戶、同一時間進行供貨對決。
勝負關(guān)鍵是12層HBM3E產(chǎn)品。目前,兩家公司都將試制品送到英偉達接受“質(zhì)量測試”(quality test,質(zhì)量驗證),結(jié)果一兩個月就出來了。市場上說,兩家公司都很有可能獲得英偉達的批準,因此勝負取決于獲得多少訂單。也就是說,獲得大量訂單的企業(yè)被冠以“HBM霸權(quán)企業(yè)”的頭銜,訂單量相對較少的公司被冠以“HBM二等企業(yè)”的烙印。
HBM是與英偉達的圖形處理器(GPU)一起成為人工智能(AI)時代“超級明星”的半導(dǎo)體。首先,將DRAM削薄,整齊地堆積起來,然后穿過數(shù)千個貫穿芯片的孔,在那里填充導(dǎo)電物質(zhì),利用所謂的“硅穿透電極(TSV)”技術(shù),將堆疊的DRAM上下電連接起來,像一個身體一樣移動。這與在高層公寓安裝電梯是相似的概念。
由于積累了多個DRAM,帶寬(一次發(fā)送數(shù)據(jù)的能力)和存儲容量是普通DRAM的10倍以上,因此被評價為AI時代的必需品。這是在旁邊保管大容量數(shù)據(jù)后快速發(fā)送的最佳產(chǎn)品,讓充當AI加速器(數(shù)據(jù)學(xué)習、推理專門的半導(dǎo)體)大腦的GPU可以不間斷地工作。
HBM最初與AI相去甚遠。2010年游戲顯卡企業(yè)英偉達、AMD向存儲芯片企業(yè)要求高帶寬DRAM才剛剛開始。顯卡要想玩高清游戲,需要快速處理大容量像素數(shù)據(jù),因為當時幫助GPU的普通DRAM性能下降。
SK海力士與AMD合作開始共同研究,3年后的2013年12月,SK海力士公開了首款HBM。該產(chǎn)品于2015年6月問世。到此為止了。當時HBM的價格是圖形DRAM(GDDR)的兩三倍,但性能沒有那么好。AMD放棄將不值錢的HBM放入顯卡。
挽救陷入危機的HBM的是英偉達。英偉達關(guān)注HBM適合處理大容量數(shù)據(jù),并將其應(yīng)用于服務(wù)器產(chǎn)品。就這樣,在2016年推出的AI加速器“Tesla?P100 ”上安裝了HBM2。但就在那時,AI加速器的需求還不多,HBM是非主流產(chǎn)品,不到DRAM總銷售額的5%。
2022年底推出的ChatGPT等生成型AI徹底改變了半導(dǎo)體版圖。隨著科技巨頭爭先恐后地投入到生成AI的開發(fā)中,AI加速器的需求爆發(fā)性地增加,HBM的身價也隨之躍升。當時最新的HBM是第四代HBM3,帶寬為每秒819GB,是第一代HBM(128GB)的6.4倍。當時能制造HBM3的企業(yè)只有SK海力士。SK海力士去年拿走了90%以上的HBM3市場,實際上已經(jīng)壟斷市場。據(jù)悉,HBM3是普通DRAM的5倍以上,利潤率為50%。這也是SK海力士今年第一季度營業(yè)利潤(2.8860萬億韓元)能夠領(lǐng)先三星電子半導(dǎo)體部門(1.91萬億韓元)的原因。
三星很晚才開始批量生產(chǎn)HBM3。英偉達和SK海力士牢固構(gòu)筑的“HBM同盟”無論怎么動搖都不容易破裂。三星本應(yīng)滿足于以進入普通服務(wù)器等的HBM2等低價產(chǎn)品延續(xù)命脈。
這也是三星將公司力量集中在12層HBM3E產(chǎn)品上的原因。HBM3E將帶寬提升到每秒1180~1280GB。事實上,三星認為,在同樣的條件下與SK海力士決勝負,因此有充分的勝算。英偉達之所以出現(xiàn)增加HBM供貨渠道的動向,也是對三星的利好。
今年2月,三星在世界上首次開發(fā)出了業(yè)界最大容量的36GB 12層HBM3E產(chǎn)品。與8層HBM3相比,AI學(xué)習訓(xùn)練速度平均可以提高34%。業(yè)界預(yù)測,如果通過目前正在進行的英偉達測試,第三季度將完成交貨。SK海力士也計劃本月發(fā)送樣品后,第三季度開始供應(yīng)12層HBM3E產(chǎn)品。
兩家公司之所以選擇這款產(chǎn)品,是因為英偉達的新一代AI加速器B200、GB200很有可能安裝在上面。這些產(chǎn)品是新一代核心AI加速器,性能比目前的主力產(chǎn)品H100提高了30倍。H100和H200分別安裝了4個和6個HBM3,B200中有8個HBM3E。B200和GB200的升級版本很有可能包含8個以上的12層HBM3E。這也是今年HBM市場規(guī)模預(yù)計將比去年(43億美元)增加4倍,達到169億美元的原因。也有預(yù)測稱,2030年左右HBM市場規(guī)模將擴大到50萬億韓元。
據(jù)悉,英偉達CEO黃仁勛煽動三星和SK的競爭,要求提前交貨。幾個月后三星能否翻盤,SK海力士能否穩(wěn)居第一。