亚马逊 CEO 贾西:AI 推理成本需降至当前的十分之一

10 月 23 日,亚马逊 CEO 安迪·贾西在风险投资机构 a16z 发布的采访中给出判断,要让 AI 广泛应用于企业软件,推理成本还得再降到目前的约十分之一。他的原话是,推理成本仍然高了一个数量级。

算力已经不是最紧的那个约束

亚马逊今年计划投入 2200 亿美元资本开支,即便如此仍建不出足够的基础设施。贾西透露,2026 年的主要算力供应额度基本订满,2027 年大部分已被客户预订,2028 年也有相当一部分售罄。在他看来需求如此旺盛的情况下追加投入不算浪费。

他把 AI 需求比作一副杠铃,一端是算力消耗大到前所未有的 AI 实验室,另一端是把 AI 用于客服、欺诈检测等具体任务的企业客户。真正没被充分开发的是中间那段,也就是企业日常使用的各类软件。

Trainium 的性价比账

贾西用亚马逊自己的历史做类比。当年英特尔主导云服务器处理器市场,亚马逊想以同样成本拿到更高算力却难以说服对方先满足需求,于是自己做了 Graviton 处理器。在他看来同样的故事正在 AI 领域重演。

AI 芯片市场目前由英伟达占据主导,亚马逊的应对是自研 Trainium 芯片。贾西没有点名英伟达,只强调市场上的主导供应商仍是亚马逊的重要合作伙伴。Trainium 的性价比较同类处理器高出约 30% 至 40%,客户花同样的钱能拿到更多算力。亚马逊此前披露,Trainium 已获得超过 2250 亿美元的未来收入承诺,其中包括与 Anthropic 和 OpenAI 达成的协议。

相关算力与训练框架的细节,可以参考 亚马逊 TorchNeuron 与 Trainium 迁移实践。