谷歌發布第八代TPU 8t機架級網路架構細節

AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。該網絡採用高基數交換機和扁平兩層無阻塞拓撲,將數據中心網絡帶寬提升至前代4倍,單結構可連接超過13.4萬個TPU 8t芯片,提供47 Pb/s非阻塞雙向帶寬和超過1.7K ExaFlops的近乎線性擴展性能。TPU 8t本身採用3D環面拓撲,單個超級吊艙可擴展至9600個芯片,並支持通過JAX和Pathways擴展到超過100萬個芯片。關鍵技術包括SparseCore加速器、VPU/MXU重疊與均衡縮放、原生FP4支持,以及集成Arm-based Axion CPU消除主機瓶頸。該設計針對AI模型從密集大語言模型向大規模混合專家模型和推理密集型架構的演進。(來源:InFoQ)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆