10 月 22 日,OpenAI 面向所有用户全面开放 Decisions API 模型,这是该模型首次对全体客户可用。OpenAI API 产品负责人 Nikunj Handa 向 TechCrunch 表示,团队看到 TypeSafe 的 Jev 模型之后,同事们的反应是手上有大约一百万个用例等着去做,于是团队用 ChatGPT Luna 重新配置出自家版本,把推理速度提上去、把成本压下来。
从三秒级到百毫秒级
Handa 描述这次改造的关键收益在速度上,延迟区间从一到三秒收缩到 100 毫秒、120 毫秒到 180 毫秒。他补充说,未来可能会针对这类任务做专门训练,但现在只是普通的 Luna 完成了这项工作。这条路线与 TypeSafe 创始人前沿实验室出身的背景有关,Jev 模型创造了一个深度学习品类,让模型充当超级分类器,在给定选项时快速做出判断并给出置信度评分,开发者随后发现这类决策模型能在很多工作流里替代大语言模型,运行更快、成本也低得多。
Decisions API 在 9 月 29 日的开发者日上首次亮相,10 月 22 日对全部客户开放。TypeSafe 凭 Jev 模型成为估值 76 亿美元的公司,决策模型赛道在半年内迅速拥挤起来。
决策模型为何被寄予厚望
大语言模型需要逐词推理再生成文本,链路长、成本高且容易出错。决策模型把目标换成判断,在限定选项里直接给出结论,天然适合意图判断、工具选择、规则分类这类高频决策任务。速度优势一旦被产品化,替换成本极低的判断层就成了顺理成章的事情。这也是 OpenAI 把推理延迟压到百毫秒量级之后,最先被替换掉的环节。
延伸阅读
- 丘成桐论文致谢ChatGPT和Claude:44年前几何猜想获突破,态度三年反转3 周前
- ElevenLabs 3亿美元员工要约收购:220亿美元估值,语音AI年营收破5亿美元3 周前
- 欧盟查OpenAI与Anthropic:违规最高罚全球营收3%,AI法案首次大考1 周前
- Replit 停用 Anthropic 改接 OpenAI:企业收入占比飙至 15%6 天前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- 中国电信星辰开源 Xing4.0-29B-Intent:275 万语料全放出2026-10-23
- 蚂蚁数科发布 LingDT-Decision-1.0:Token 降超 90%2026-10-23
- Nace AI 发布 Drex Max:决策 67.59 分2026-10-22
