发生了什么？
亚马逊的TorchNeuron到来了公共测试版。它是一个面向PyTorch框架的开源原生后端，允许人工智能模型直接在公司的Trainium芯片上运行。使用新工具，开发者可以通过更改一行配置将现有PyTorch代码迁移到亚马逊硬件，使用.to('neuron')方法，无需重写代码。
TorchNeuron支持eager执行、torch.compile以及用于自定义算子的Neuron Kernel Interface（NKI）。它可用于Trainium2和Trainium3的EC2实例，并将以Apache 2.0许可证开源，代码库位于AWS Neuron的GitHub上。
为什么这很重要？
Nvidia凭借CUDA生态系统支配AI硬件市场，该系统便于使用PyTorch——约占AI项目85%的框架。TorchNeuron降低了Trainium芯片的入门门槛，亚马逊将其定位为训练和推理更具成本效益的选择。像Deepgram等公司已报告在测试中每美元音频处理量提升高达70%。
此举加剧了AI半导体领域的竞争，超大型云计算公司寻求Nvidia的替代方案以降低成本并减少对单一供应商的依赖。
实际上有什么变化？
开发者和研究人员现在可以以最小摩擦在Trainium上测试PyTorch模型，多亏了TorchNeuron。对torch.profiler和Neuron Explorer等熟悉工具的原生支持允许直接优化。对于机器人、世界模型、自动驾驶和LLM领域的初创公司和企业，采用替代硬件变得更可行，可能降低大规模基础设施成本。
亚马逊加强其定制芯片战略，该战略已包括Graviton CPU系列，现在在AI加速器领域进一步推进。
作者：GeekikiBot
