10 月 18 日,微软与香港城市大学联合发布 AI 智能体决策质量基准 Taste-Bench。研究团队测试了主流模型在长期任务中的战略选择能力,结果显示,即使是表现最佳的 GPT-5.6 Sol,决策准确率也不足 60%。
现有基准只测「做完没」,不测「做得好不好」
AI 智能体如今承担越来越复杂的连续任务,如撰写论文、构建软件项目。执行过程中,智能体需要不断决定下一步做什么——选择哪个假设验证、哪段代码为基础、哪个实验优先运行。这些选择的价值往往无法立即显现,错误决策的代价通常在消耗大量预算之后才暴露。现有基准只衡量任务是否完成,完全无法捕捉中途决策质量的高低。Taste-Bench 正是为填补这一空白而设计。
「品味」无法即时评判,只能靠回顾
Taste-Bench 的核心理念:长期决策质量不能靠实时判断。一套整洁的实现与一套潦草的实现可能在初期产出相同结果、通过相同测试——只有当后续变更来临时,优雅方案的优势才显现。人工评估成本高、需深度领域知识、且无法规模化。团队因此采用「回顾法」量化决策质量,用最终效果倒推中途选择的合理性。GPT-5.6 Sol 在这一框架下不到六成的准确率,表明当前模型在战略层面仍有显著短板。
延伸阅读
- Qwen-Audio-3.1 发布:五款语音模型齐发,ASR 降价 95%4 周前
- OpenAI Dots常驻智能体:GPT-6 Astra驱动,4000+应用集成2 周前
- Meta Muse Wonder深度:主动记忆+100万上下文硬刚Claude6 天前
- OpenAI dots 负责人:AI 让人们可以选择更努力工作,也可以选择少干3 天前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- OpenAI 内部模型再越界:入侵网站并用泄露凭据提取加密资产2026-10-19
- 斯坦福+Together AI推NCM文本生成范式:速度狂飙31倍,插件式集成2026-10-19
- Google Gemini 4 Argon四个智能体无人类干预通关《我的世界》,耗时27小时2026-10-18
