HBM 為什麼成為 AI 標配?答案不只在容量,而在資料搬運
GPU 算得再快,資料送不進去也只是昂貴地等待。HBM 用 3D 堆疊、TSV 與寬介面提高頻寬;存算一體則試圖從根本減少搬運。
謝銘元(艾克斯)整理的AI晶片研究、數據與實務文章。
index,follow
GPU 算得再快,資料送不進去也只是昂貴地等待。HBM 用 3D 堆疊、TSV 與寬介面提高頻寬;存算一體則試圖從根本減少搬運。
報告整理 Rubin GPU 每顆 288GB HBM4、單櫃 HBM 20.7TB、LPDDR5X 54TB,以及接近 2PB 的 NAND 情境。每一代平台都在把更多資料留在運算附近。
報告的結論是「短期盈利無憂」:目前市場算力租賃均價遠高於專案盈虧平衡價。但會計口徑的平衡價排除了稅、融資成本與殘值——把這些加回去,緩衝比表面數字薄。
重製報告圖 3 的對照:CDO 把企業貸款、債券、RMBS 打包分層;CCO 把 GPU 抵押貸款、算力租賃合約與專案應收帳款打包分層。同一套刀法,切的是完全不同的肉。
報告測算假設 IT 設備折舊 5 年、基礎設施折舊 15 年,而專案債務動輒以多年期規劃。技術迭代快的資產配上還款慢的負債,期限錯配是這場金融實驗的第一風險提示。
報告指出輝達可能從平台取得三類收益:設備銷售、與算力使用量掛鉤的長期收入分成、共同投資的回報。這不只是多賺三筆錢,而是一座自我強化的需求飛輪。
報告以 GB200 NVL72 建了一個可檢驗的模型:1GW 園區、PUE 1.44、每櫃 132kW,可部署約 5,260 櫃、37.87 萬顆 GPU。跟著每一步假設走一遍,你就有了自己的計算器。
控制晶片可降低供應風險,也可能把全球最難、最資本密集的產業再背到自己身上。這是選擇權,不是既成產能。
AI 與先進封裝需求強勁,讓封測產能利用率與代工價格同步上升。晶片越複雜,後段測試與封裝的價值也越高。
AI 晶片客製化加速後,測試需求不是單純跟 GPU 成長,而是跟更多不同設計、更高功耗與更高單價一起成長。
新平台從設計、驗證到量產,每個供應商的營收反應時間不同。3Q26 是觀察 Vera Rubin 零組件放量的重要窗口。