文|半導體產業縱橫
人工智能浪潮繼續推動對人工智能芯片的需求激增。繼 HBM 售罄和制造商加大產量以滿足需求的報道之后,最近有消息稱英偉達的 Blackwell 架構 GPU 也供不應求。
英偉達的 Blackwell GPU 未來 12 個月內已售罄
Blackwell GPU 采用定制的雙光罩極限 4NP TSMC 工藝制造,GPU 芯片通過 10TBps 芯片到芯片鏈路連接到單個統一的 GPU,擁有 2080 億個晶體管。這比 Hopper 系列的 800 億個有所增加,并包括第二代變壓器引擎和新的 4 位浮點 AI 推理功能。
盡管英偉達的 Blackwell 架構 GPU 推遲到今年第四季度上市,但這并沒有影響訂單。
據Tom's Hardware報道,摩根士丹利最近在紐約與英偉達首席執行官黃仁勛、首席財務官 Colette Kress 以及該芯片制造商管理團隊的其他成員舉行了為期三天的會議。
摩根士丹利報道稱,英偉達表示,未來12個月的Blackwell架構GPU訂單已全部售罄,現在下訂單的新客戶要到2025年底才能收到產品。
本月初,微軟成為首家部署英偉達 GB200 AI 服務器的云服務商,該公司在 X(原 Twitter)上發布消息稱:“Microsoft Azure 是首家運行 英偉達 Blackwell 系統并搭載 GB200 AI 服務器的云服務商。我們正在每一層進行優化,以支持世界上最先進的 AI 模型,并利用 Infiniband 網絡和創新的閉環液體冷卻。”
現有客戶包括 AWS、CoreWeave、谷歌、Meta、微軟和甲骨文,已經購買了英偉達及其合作伙伴臺積電在未來幾個季度內可以生產的所有 Blackwell 架構 GPU。
業界指出,高性能GPU及其背后的AI芯片市場需求依然旺盛,英偉達、AMD、Intel等各大AI芯片廠商之間的競爭將愈加激烈。
摩根士丹利分析師約瑟夫·摩爾 (Joseph Moore) 在給客戶的報告中寫道:“我們仍然認為,英偉達很可能在 2025 年真正獲得 AI 處理器的份額,因為定制硅片的最大用戶明年將看到英偉達解決方案的迅猛增長。”
現在英偉達的B100和B200 GPU的封裝問題已經解決,英偉達可以生產與臺積電一樣多的 Blackwell GPU。B100 和 B200 都采用臺積電的 CoWoS-L 封裝,而這家全球最大的芯片代工廠是否有足夠的 CoWoS-L 產能還有待觀察。
此外,隨著對 AI GPU 的需求猛增,內存制造商能否為 Blackwell 等尖端 GPU 提供足夠的 HBM3e 內存仍有待觀察。
三大內存巨頭搶占HBM3e先機,12款新品凸顯重要性
受高性能AI芯片的不斷迭代和單系統HBM容量擴大的驅動,HBM bit需求持續增長。
根據TrendForce預估,2024年HBM需求比特數年增率將接近200%,2025年將再度翻倍。
TrendForce表示,受惠于AI平臺積極采用新一代HBM產品的帶動,2025年HBM需求bit將有八成以上為HBM3e代產品,其中12-hi將占比過半,成為明年下半年各大AI廠商競相爭奪的主流產品,其次為8-hi。
三星、SK海力士、美光分別于2024年上半年、第三季度提交首批HBM3e 12-hi樣品,目前處于持續驗證階段。其中SK海力士、美光進展較快,預計今年年底完成驗證。
同時,隨著英偉達、AMD主流GPU產品的迭代,以及HBM規格的變化,市場也將逐步從HBM3升級到HBM3e,三大內存廠商(三星、SK海力士、美光)將積極搶占HBM3e機會。
7月,三星宣布其研HBM3E內存技術通過了英偉達的嚴格測試,預示著這家韓國科技巨頭即將重新在高端內存市場占據一席之地。為實現這一目標,三星多次調整戰略,優化4nm制程工藝,目前HBM3e的良品率已超過70%,顯示出強大的技術實力。
HBM3e 內存的關鍵特性在于其高密度存儲和低能耗設計,這使得它在圖形處理和數據中心應用中表現出色。英偉達選擇三星作為供應商,反映了對其在高性能計算領域能力的認可。據報道,三星計劃從其DRAM產能中調撥約30%用于生產HBM3e,這可能導致全球DRAM供應量減少13%,從而推高市場價格。
對于消費者而言,這意味著未來搭載HBM3e內存的游戲設備和服務器將具備更快的數據交換速度和更持久的性能表現。在游戲體驗上,玩家可以期待流暢無阻的圖形渲染和無縫切換,而企業用戶則能在大數據處理和云計算任務中獲得顯著提升。
三星此次成功獲取英偉達的大單,無疑對競爭對手如美光和SK海力士構成了壓力,他們可能需要加快研發進程以應對市場變化。同時,消費者在購買決策時可能會更加傾向于選擇具備HBM3e內存的產品,這將推動整個智能設備市場向著更高的性能和效率邁進。