谷歌发布第八代TPU 8t机架级网络架构细节

AIMPACT 消息,5 月 16 日(UTC+8),谷歌披露了第八代TPU(TPU 8t)的机架级连接至Virgo网络的架构细节。该网络采用高基数交换机和扁平两层无阻塞拓扑,将数据中心网络带宽提升至前代4倍,单结构可连接超过13.4万个TPU 8t芯片,提供47 Pb/s非阻塞双向带宽和超过1.7K ExaFlops的近乎线性扩展性能。TPU 8t本身采用3D环面拓扑,单个超级吊舱可扩展至9600个芯片,并支持通过JAX和Pathways扩展到超过100万个芯片。关键技术包括SparseCore加速器、VPU/MXU重叠与均衡缩放、原生FP4支持,以及集成Arm-based Axion CPU消除主机瓶颈。该设计针对AI模型从密集大语言模型向大规模混合专家模型和推理密集型架构的演进。(来源:InFoQ)
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论