10 月 26 日,据雷峰网报道,一个完全由 AI 编写算子、无需人工逐行调优的 ForgeKernel 同时登顶两个算子评测榜:英伟达主场的 SOL-ExecBench FlashInfer-Bench 合集第一,以及昇腾 CANN 官方仓库维护的 CANNBench A3 硬件榜第一,基准加速比 1.835 倍,领先第二名 25%。
同一周里,DeepSeek 的手写极限被刷新
DeepSeek 近期全面开源了推理框架 DeepInfer,继模型权重和 FlashMLA、DeepGEMM 等算子库之后,把模型运行的整条链路开放出来。其中的 FlashMLA 有工程师在芯片上逐行手调的版本,算子性能跑到了硬件极限的 90% 以上,被视为人类手艺在部分芯片上能达到的最好成绩。
而这个极限在同一周被 AI 追上。ForgeKernel 在 DeepSeek V4.1 Flash 的算子上,相比 DeepSeek 开源的英伟达版本,同样是从零用 AI 迭代的方式实现了性能超越。研究团队同时披露了另一个值得注意的现象,AI 自主优化算子的能力体现在它不只是在已有基准上调参,而是能针对不同芯片的指令集、内存布局和流水线特性重新生成一套等价的实现路径。
算子效率决定每个 token 的价格
国产大模型的竞争正从模型层延伸到算力层。再强的模型最终都要靠算子在芯片上执行,换一套更优的算子有时会带来数倍的性能提升。算子的效率既决定了同一块显卡能跑多快,也决定了每个 token 的价格,这是一条与模型参数规模平行、却常被忽略的成本线。
这也是 DeepSeek 选择把推理框架和算子库一并开源的深层原因,它把链路开放给所有人,别人就能在同一条链路上比较和迭代。算子评测榜的竞争因此被推到台前,昇腾和英伟达两个生态的榜单同时被同一个 AI 写出的算子登顶。DeepSeek 开源的 DeepInfer 推理框架把 GPU 占用压低了 35%,成本下降 28%,其意义正在于把这段链路的控制权交到使用者手里。
延伸阅读
- Qwen-Image-2.1 开源:7B 参数统一文生图与编辑,原生透明图 + 10 张参考图1 月前
- DeepSeek 上线首个多模态模型 V4-Flash-Vision-Exp:一千张图 1.15 元,视觉 Agent 直逼 Opus 4.82 月前
- 美团 LongCat-2.0 开源:1.6T 参数每 token 激活 33B–56B,首个五万卡国产集群推理的万亿模型1 月前
- Termexo v0.10.4 接入 Grok Build:Windows 端统一编排五大 AI 编程智能体1 月前
继续读
同一批更新里这几篇值得一看:
- 胡润百富榜:梁文锋 2800 亿首次上榜第七2026-10-27
- Cohere抓到Qwen3.8外传:10万次调用1次偷传阿里云2026-10-27
- Carbon-X:14.8B DNA 模型 66.7 分,成本仅 1/18002026-10-23
