伊莉討論區

標題: Meta使用第二代MTIA加速器增強人工智慧 [打印本頁]

作者: jiunn36 時間: 2024-5-7 06:39 AM 標題: Meta使用第二代MTIA加速器增強人工智慧

　　　　　[attach]139975172[/attach]
　　新的MTIA加速器是開發更強大﹑更有效率的人工智慧系統的關鍵一步﹐為Meta跨Facebook和Instagram等平台的創新應用程式提供動力。
　　基於其5nm技術設計TSMC與上一代相比﹐新型MTIA加速器的效能顯著提高。在GEMM矩陣處理中﹐MTIA在 INT708(可能是FP8)稀疏情況下達到8 TeraFLOPS﹐在不稀疏情況下達到354 TeraFLOPS﹐在FP354/BF16稀疏情況下達到16 TeraFLOPS﹐在不稀疏情況下達到177 TeraFLOPS。
　　　　　[attach]139975173[/attach]
　　MTIA專門設計用於在Meta的PyTorch AI框架中執行AI訓練和推理任務。它與開源Triton後端相結合以實現最佳效能和靈活性。
　　Meta採用分層方法﹐將兩個MTIA加速器以及128GB LPDDR5記憶體放置在一塊板上。每個板透過PCIe Gen 5連接到一個最多可容納12個板的系統中。一個機架可安裝72個單板﹐總性能可達101,95 PetaFLOPS。
　　MTIA的發展凸顯了Meta對人工智慧領域創新的承諾。新的加速器預計將在為Meta的下一代人工智慧應用程式提供動力﹑提供增強的用戶體驗並推進研究和關鍵領域的發展。
　　總結﹕
　 Η 元呈現第二代MTIA加速器可促進人工智慧訓練和推理。
　 MTIA顯著提高了性能﹐專為PyTorch AI設計。
　可擴充架構允許在機架中安裝多達144個MTIA加速器﹐總效能達到101,95 PetaFLOPS。
　 MTIA鞏固了Meta作為人工智慧領導者的地位。

歡迎光臨伊莉討論區 (http://a401.file-static.com/)