伊莉討論區

標題: [高頻寬記憶體需求爆發][經濟日報][2023-06-16] [打印本頁]

作者: chandlerhcen 時間: 2023-6-16 05:35 AM 標題: [高頻寬記憶體需求爆發][經濟日報][2023-06-16]

高頻寬記憶體需求爆發

【記者李孟珊/台北報導】超微、輝達在AI領域大 PK,為全球瘋AI帶入另一個高潮,由於AI對運算能力與頻寬要求更高,刺激高頻寬記憶體(HBM3)需求爆發,愛普、宜鼎在AI伺服器記憶體應用著最深,近期客戶詢問度大增,尤其愛普早與超微在新世代記憶體技術有合作,營運可期。

業界分析,就輝達AI 台來看,搭載的高頻寬記憶體容量是傳統伺服器的數百倍,並非傳統記憶體可取代。這次超微更端出搭載八個 MI300X晶片的Instinct運算平台,內存高達1.5TB的第三代高頻寬記憶體,並宣稱 MI300X的記憶是輝達最強AI晶片H1000的2.4倍,頻竟是H100的1.6倍,預料引爆更多高頻寬記憶體需求。愛普與超微已有新世代記憶體合作。愛普2022年第 2季宣布,加入由台積電、英特爾、超微等共同推動
的UCIe聯盟,期望透過其 DRAM介面異質整合高頻寬記憶體(VHM)技術, 推動小晶片(chiplet)生態圈發展,與國際大廠在AI及高效能運算(HPC)3D先進封裝領域擴大合作。

愛普認為,現階段高頻寬記憶體HBM以及2.5D不能滿足市場高端需求,以近期很紅的ChatGPT來說,用的是Open AI技術,有1,300 個模型參數,要強大記憶體支援,但會遇到頻寬問題, 愛普的3DIC堆疊的VHM是選擇之一,未來商機很大。愛普強調,現階段AI事業應用逐步擴及高效能運算相關客戶,已經啟動的POC ( 概念驗證)項目進順利, 新的項目亦正洽談中。

宜鼎也被市場視為AI伺服器記憶體廠商,耕耘AI及 AloT多年,子公司安緹主攻邊緣運算伺服器GPU。據悉 ,當前AI相關產品占營收比重約9%,將持續增加。

作者: gogosp 時間: 2023-6-16 07:29 PM

感謝版大的用心分享呀！

歡迎光臨伊莉討論區 (http://a401.file-static.com/)