AI写算子登顶双榜:ForgeKernel加速1.835倍

10 月 26 日,据雷峰网报道,一个完全由 AI 编写算子、无需人工逐行调优的 ForgeKernel 同时登顶两个算子评测榜:英伟达主场的 SOL-ExecBench FlashInfer-Bench 合集第一,以及昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜第一,基准加速比 1.835 倍,领先第二名 25%。

同一周里,DeepSeek 的手写极限被刷新

DeepSeek 近期全面开源了推理框架 DeepInfer,继模型权重和 FlashMLA、DeepGEMM 等算子库之后,把模型运行的整条链路开放出来。其中的 FlashMLA 有工程师在芯片上逐行手调的版本,算子性能跑到了硬件极限的 90% 以上,被视为人类手艺在部分芯片上能达到的最好成绩。

而这个极限在同一周被 AI 追上。ForgeKernel 在 DeepSeek V4.1 Flash 的算子上,相比 DeepSeek 开源的英伟达版本,同样是从零用 AI 迭代的方式实现了性能超越。研究团队同时披露了另一个值得注意的现象,AI 自主优化算子的能力体现在它不只是在已有基准上调参,而是能针对不同芯片的指令集、内存布局和流水线特性重新生成一套等价的实现路径。

算子效率决定每个 token 的价格

国产大模型的竞争正从模型层延伸到算力层。再强的模型最终都要靠算子在芯片上执行,换一套更优的算子有时会带来数倍的性能提升。算子的效率既决定了同一块显卡能跑多快,也决定了每个 token 的价格,这是一条与模型参数规模平行、却常被忽略的成本线。

这也是 DeepSeek 选择把推理框架和算子库一并开源的深层原因,它把链路开放给所有人,别人就能在同一条链路上比较和迭代。算子评测榜的竞争因此被推到台前,昇腾和英伟达两个生态的榜单同时被同一个 AI 写出的算子登顶。DeepSeek 开源的 DeepInfer 推理框架把 GPU 占用压低了 35%,成本下降 28%,其意义正在于把这段链路的控制权交到使用者手里。