GPU需求水漲船高，臺積電無法供應全球，其他大廠的機會來了
近期，韓媒報道三星電子第四代HBM（HBM3）以及封裝服務已經通過AMD品質測試。
AMD的Instinct MI300系列AI芯片計劃采用三星HBM3及封裝服務，該芯片結合中央處理器（CPU）、圖形處理器（GPU）及HBM3，預計今年第四季發布。
據悉，三星是唯一能同時提供先進封裝解決方案及HBM產品的企業。AMD原本考慮使用臺積電的先進封裝服務，但因其產能無法滿足需求，最終只能改變計劃。
AI大勢下，高性能GPU需求水漲船高，這不僅利好英偉達、AMD等GPU廠商，而且也進一步助力了HBM以及先進封裝的發展。
資料顯示，AIGC（生成式人工智能）模型需要使用AI服務器進行訓練與推理，其中，訓練側AI服務器基本需要采用中高端GPU，在這些GPU中，HBM的滲透率接近100%。當前提供HBM產品廠商主要是三星、SK海力士、美光三家原廠，全球市場研究機構TrendForce集邦咨詢最新調查認為，在原廠積極擴產推動下，預估2024年HBM位元供給年成長率將達105%。
傳統封測廠紛紛發力先進封裝技術
2023 年以來，AIGC 迅速發展，帶動 AI 芯片與 AI 服務器熱潮，而由臺積電推出、被稱為 CoWoS 的 2.5D 先進封裝技術更是扮演關鍵角色。然而，突如其來的需求讓臺積電應接不暇，面對此情況，傳統封測大廠如日月光、Amkor 也相繼展現技術實力，并未打算在此領域缺席。
例如，日月光的 FOCoS 技術能整合 HBM 與核心運算元件，將多個芯片重組為扇出模組，再置于基板上，實現多芯片的整合。其在今年五月份發表的 FOCoS-Bridge 技術，則能夠利用硅橋 (Si Bridge) 來完成 2.5D 封裝，助力打造 AI、數據中心、服務器應用所需之高階芯片。
此外，日月光旗下矽品的 FO-EB 技術，亦是整合核心運算元件與 HBM 的利器，從下圖來看，該技術不使用硅中介層，而是透過硅橋與重分布層 (RDL) 實現連結，同樣能夠實現 2.5D 封裝。
而另一家封測大廠 Amkor（安靠）除了與三星（Samsung）共同開發 H-Cube 先進封裝解決方案以外，也早已布局“類 CoWoS 技術”，其透過中介層與 TSV 技術能連接不同芯片，同樣具備 2.5D 先進封裝能力。
而中國封測大廠江蘇長電的 XDFOI 技術，則是利用 TSV、RDL、微凸塊技術來整合邏輯 IC 與 HBM，面向高性能計算領域。
近來高階 GPU 芯片需求驟升，臺積電 CoWoS 產能供不應求，NVIDIA 也積極尋求第二甚至第三供應商的奧援，日月光集團已然憑藉其 2.5D 封裝技術參與其中，而 Amkor 的類 CoWoS 技術也磨刀霍霍，足以說明傳統封測大廠即便面對晶圓代工廠切入先進封裝領域的威脅，仍有實力一戰。
再就產品別來看，晶圓廠先進封裝技術鎖定一線大廠如 NVIDIA、AMD；而其他非最高階的產品，仍會選擇日月光、Amkor、江蘇長電等傳統封測廠進行代工。整體來看，在不缺席先進封裝領域，并且掌握逐步擴張之既有封裝市場的情況下，傳統封測大廠依舊能保有其市場競爭力。
存儲巨頭間的HBM大戰
HBM為新型高性能存儲產品，全球廠商中SK海力士、三星、美光等存儲巨頭在HBM領域展開了升級競賽。據TrendForce數據，2022年三大原廠HBM市占率分別為SK海力士50%、三星約40%、美光約10%，集中度相對較高。
另外，海力士Q1法說會表示，23年HBM銷量同比50%+增長。
高性能計算驅動數據中心HBM需求井噴，HBM升級速度近年明顯加快。
自2014年首款硅通孔HBM產品問世至今，HBM技術已經發展至第四代，分別是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代），HBM芯片容量從1GB升級至24GB，帶寬從128GB/s提升至819GB/s，數據傳輸速率也從1Gbps提高至6.4Gbps。
海力士是目前唯一規模量產HBM3的廠商，三星處于認證階段。
根據公開信息披露，海力士新一代產品HBM3E，該芯片單pin最大帶寬達8Gb/s，單棧最大帶寬達1Tb/s，較上一代HBM3提升25%。預計新一代產品將在高性能數據中心、超級計算機和人工智能領域得到更廣泛的應用。
據韓國媒體BusinessKorea報道，包括英偉達、AMD、微軟、亞馬遜在內的全球科技巨頭，已相繼向SK海力士申請HBM3E樣本。根據TrendForce預計三星、美光則陸續在今年底至明年初量產HBM，市占率分別為38%及9%。三星計劃在今年底開始生產HBM3，并計劃投資數千億韓元將韓國Cheonan,Chungnam工廠的HBM產能提高一倍。
隨著HBM需求旺盛，也將拉動上游設備及材料用量需求提升。
HBM的高焊盤數和短跡線長度要求需要2.5D先進封裝技術，以實現密集的短連接。臺積電CoWoS以合理的成本提供最高的互連密度和最大的封裝尺寸，成為HBM的首選搭檔。
