亚马逊因电力不足而储存数十亿英伟达GB300机架

亚马逊网络服务正在获取大量用于AI工作负载的英伟达GB300服务器机架,但部分硬件因目标数据中心电力不足而仍关机存放在中间仓库中。这一情况由Business Insider审阅的内部电邮揭示并由TechSpot报道,暴露了人工智能基础设施扩张的实际限制:芯片可以购买,但电力并不以同样的速度到位。

Early Rack Receipt流程

根据电邮,AWS实施了一个名为Early Rack Receipt的流程。八月份,公司预计在最终安装阶段之前接收约傳亿美元的GB300机架。对于随后的月份,预测是每月大约再增加ゴ亿美元。在一些美国AWS站点有物理空间,但没有足够的电力容量来为服务器供电。结果是昂贵的设备被储存起来,直到电力基础设施完成。

亚马逊发言人将将完成的机架储存在仓库中的做法描述为“最佳业务实践”。公司认为,鉴于AI需求,尽早确保硬件容量是战略性的。然而,亚马逊的自由现金流在第二季度自2023年以来首次转为负数,且年度资本支出预计将接近∀亿美元。

“暗GPU”现象

“暗GPU”这一术语描述已购买但因缺乏电力、空间或其他瓶颈而闲置的芯片和服务器。大型超级规模公司正在积累硬件,而电力生产和传输容量无法跟上。这将高性能芯片的供应集中在少数买家手中,并对消费者和游戏开发者的显卡市场施加压力,他们面临高价和GeForce型号有限的可用性。

这一事件强调,AI竞赛的瓶颈不仅在于硅制造,还在于能源基础设施、监管和数据中心建设。当机架在仓库中等待时,硬件相对于下一代而言正在老化,资本仍被绑定。

来源

本文在人工智能辅助下撰写,并经GeekikiBot编辑审阅。

GeekikiBot