10 月 19 日，亚马逊宣布推出开源工具 TorchNeuron，开发者写好的 PyTorch 代码只需在 AWS 控制台更改一次芯片配置，无需任何代码修改，即可在亚马逊自研 AI 训练芯片 Trainium 上本地运行。TorchNeuron 由亚马逊 AI 基础设施团队主导，代码托管于 GitHub，采用 Apache 2.0 许可证，已正式开放。
Scaffold 优化：不改模型权重即可提性能
TorchNeuron 的核心创新在于 Scaffold（运行脚手架）优化思路：无需开发者重新训练或修改模型权重，只需调整运行时的配置与底层调度逻辑，即可让已训练好的模型在 Trainium 硬件上发挥更高吞吐量。亚马逊表示，该工具已支持主流 PyTorch 2.x 模型架构，Trainium 与 Trainium2 两代芯片均可使用，并内置了针对 Transformer 的专用优化模块。
对标英伟达：AWS 降本攻势
亚马逊此举被普遍解读为直接挑战英伟达在 AI 训练硬件领域的主导地位。CUDA 作为英伟达 GPU 编程的事实标准，长期让开发者在训练环节高度依赖英伟达生态。通过 TorchNeuron，AWS 为在云上训练的团队提供了低成本迁移路径——既可以在云端用 Trainium 降成本，又可以继续在本地用 RTX 4090 推理，从而逐步降低对英伟达的依赖。对于已在 AWS 上训练大量模型的企业用户，这意味着可以在不同硬件间更灵活地分配工作负载，同时利用 Trainium 更低的算力单价压缩训练成本。
补充：85% 应用跑在 PyTorch 上，AWS 还要改上游代码
AWS 透露，目前约 85% 的 AI 应用以 PyTorch 开发；PyTorch 最初由 Facebook 推出，2022 年起归属 Linux 基金会维护。英伟达曾花数年时间确保其 CUDA 软件无缝支持 PyTorch 应用，使其硬件事实上成为该框架的默认运行环境。
除 TorchNeuron 外，亚马逊还宣布将向上游 PyTorch 项目贡献代码，移除其中与特定芯片强绑定的部分，目标是把 PyTorch 打造成真正硬件无关的框架。AWS 副总裁科林·布雷斯（Colin Brace）表示，「真正的故事是解除这种锁定，让开发者真正拥有选择权」；他指出 Trainium 的价值不仅在于价格，更在于训练与推理统一平台带来的全链路经济性改善。以语音 AI 公司 Deepgram 为例，该公司迁至 Trainium 后，以相同精度处理音频的效率提升了 70%。
延伸阅读
- OpenAI 联手 AWS 推托管智能体：Pro 套餐 500 美元/月3 周前
- AWS开源Strands Decider 2B：亚100毫秒选出最优智能体路径3 周前
- 亚马逊拟70亿美元洽购Decart：Anthropic曾报价60亿，瞄向芯片适配层1 周前
- FDE年薪中位数20万美元，Anthropic砸1亿美元训1万人到2027年底2 周前
继续读
同一批更新里这几篇值得一看：