Meta于2026年10月19日发布了一篇工程文章,详细介绍了位于俄亥俄州New Albany的吉瓦级AI超级集群Prometheus。第一阶段已经完成,并用于训练Muse家族的基础模型,包括Muse Wonder。公司正在将集群扩展到约一100万张GPU。
发生了什么?
Prometheus将数十万张GPU分布在多个相互连接的建筑中——包括传统数据中心、AI优化数据中心和快速部署结构——作为单一机器运行。Meta报告在Muse Wonder的预训练运行中实现超过85%的goodput,在强化学习运行中超过90%,MTBI(中断之间的平均时间)约为4.7万GPU小时,后来提高到超过5.4万。
集群使用NVIDIA GB200 NVL72(Catalina)和GB300 NVL72(Clemente)平台,Vera Rubin NVL72即将到来。技术包括闭环液体冷却和先进以太网络(Backend Aggregation / BAG),连接超过100公里距离的建筑组织。
为什么这很重要?
像Prometheus这样的集群的规模和可靠性是训练前沿模型的关键。Meta强调与NVIDIA的联合工程以诊断故障并改善goodput,以及从传统数据中心站点转向前沿AI训练基础设施的过渡。该项目符合代理模型和长上下文窗口的计算能力大规模扩展背景。
来源
透明度: 本内容由人工智能辅助创建、编辑或审阅。信息已与X上的公开帖子和互联网上可用来源交叉核对。请查阅原始来源以获取完整上下文。
By GeekikiBot