人工智能在理论物理研究中的计算能力已逼近人类专家的边界。一个由 35 位物理学家组成的研究团队近期发布了一项新的基准测试 TheoPhysEval,结果显示:OpenAI 的 GPT-6-Astra 模型在 Codex 环境中运行,无需人工提示即可解决 50 道未发表的顶级理论物理计算题中的 49 道,准确率达 98%,平均每道题成本不足 3 美元。更值得深思的是,在部分题目上,人类专家给出的”标准答案”反而被模型的计算结果推翻——这不仅是一次基准测试,更是对”什么是真正的物理问题解决能力”的一次重新审视。
98% 准确率的基准测试是怎么设计的
TheoPhysEval 的核心设计逻辑是”不可预测性”。这 50 道题由来自国际理论物理中心(ICTS)、哈佛大学、KU Leuven 和 Google DeepMind 的 35 位研究者构建,题目来自各个研究者近期论文中的计算题——但他们故意修改了参数,使得答案无法直接从原文查到。研究者们将这类题目描述为:一个细分领域的前沿专家徒手解题约需一天,相邻领域的专家则需要更长时间。这是刻意模拟了真实科研中”将已知方法应用于新问题”的场景,而非考察对公开知识的记忆。题目横跨流体力学、生物物理、粒子物理、宇宙学、黑洞物理等 11 个理论物理子领域,涵盖的难度大约相当于博士一年级的研究项目。测试环境模拟真实科研场景:AI 智能体可使用文献检索、脚本编写(数值计算与符号推导)等工具。
主流模型全面对比:差距比想象中更大
研究团队对市面主流 AI 智能体分别进行了测试,结果如下(均使用 web 搜索 + 论文检索的有辅助模式):GPT-6-Astra(Codex 环境)98%(49/50),Claude Opus 5.5(Claude Code 环境)92%,Gemini 3.8 Flash 68%,DeepSeek-V4.1-Flash(开源权重)54%,GLM-5.3(国内闭源)42%。差距最为显著的是商业闭源模型与开源权重模型之间的断层:GPT-6-Astra 与 Claude Opus 5.5 明显领先,而 Gemini 3.8 Flash 与 DeepSeek-V4.1-Flash 的准确率不足前两者的三分之二。值得注意的是,DeepSeek-V4.1-Flash 作为国内头部开源模型,在 TheoPhysEval 上的表现(54%)显著高于 GLM-5.3(42%),两者均与 GPT-6-Astra 存在超过 40 个百分点的差距。
无网络模式下 AI 在”背题”还是”解题”
研究团队还进行了关键的消融实验:在关闭 web 搜索和论文检索的情况下重新测试各模型。结果显示,GPT-6-Astra 和 Claude Opus 5.5 的准确率均从有辅助的 98%/92% 下降到纯离线的 92%/92%——几乎未受影响。这意味着两款顶级模型已经”记忆”了理论物理文献中相当比例的公式和推导路径。研究者将这一发现描述为”记忆”的证据,而非”真正的物理理解”。相比之下,Gemini 3.8 Flash 和 GLM-5.3 在有/无网络时表现差异更明显,web 搜索对这两款模型的帮助更大,印证了它们尚未将物理公式内化到与顶级模型同等程度。
一道错了的”标准答案”:当 AI 比专家更正确
测试中出现了最令人意外的一幕:GPT-6-Astra 在一道黑洞物理题上被标记为错误,但研究者追查后发现——人类专家提供的参考解法本身存在错误。在修正了专家答案中的瑕疵后,GPT-6-Astra 的答案被确认完全正确。这一发现对整个基准测试的设计提出了更深层的问题:当前物理基准测试是否因答案本身的错误而系统性地低估了 AI 能力?研究者在论文中指出,部分现有的理论物理评测基准(如 CritPt)可能存在评分错误,且错误方向是低估前沿模型的能力。他们已将 TheoPhysEval 的题目和评测代码开源至 HuggingFace,供外部独立复现。
AI 仍缺乏物理”品味”:它不知道哪些问题值得解决
尽管 GPT-6-Astra 在计算任务上逼近专家水平,研究者指出了它最根本的局限:缺乏对物理问题的”品味”——即无法自主判断”哪些未解问题值得投入计算资源”。研究者将其描述为:模型可以高效地执行已知方法解决给定问题,但无法像人类物理学家那样提出全新的、未被定义的问题。当被要求自行设计新物理问题时,模型会陷入人类物理学家会觉得无聊的细节中,缺乏对问题趣味性的判断力。此外,研究者预测,随着题目难度提升,所需算力资源将急剧增加,历史上”几乎不需要经费”的理论物理研究在未来可能面临截然不同的资源门槛。
TheoPhysEval 模型得分总览
| 模型 / 运行环境 | 有网络搜索得分 | 无网络搜索得分 | 每题平均成本 |
|---|---|---|---|
| GPT-6-Astra(Codex) | 98%(49/50) | 92% | 3 美元以内 |
| Claude Opus 5.5(Claude Code) | 92% | 92% | 未披露 |
| Gemini 3.8 Flash | 68% | 未披露 | 未披露 |
| DeepSeek-V4.1-Flash(开源权重) | 54% | 未披露 | 未披露 |
| GLM-5.3(国内闭源) | 42% | 未披露 | 未披露 |
TheoPhysEval 题目覆盖的理论物理子领域
| 子领域 | 代表性难度 | AI 表现亮点 |
|---|---|---|
| 流体力学 | 博士级 | 复杂边界条件处理接近专家水平 |
| 粒子物理 | 前沿研究级 | 符号推导部分题目达 100% 准确 |
| 宇宙学 | 博士级 | 数值模拟部分超过参考答案简洁度 |
| 黑洞物理 | 顶级期刊级 | 标准答案曾被模型结果推翻 |
| 凝聚态物理 | 博士级 | 跨子领域公式迁移能力强 |
常见问题
AI 在理论物理研究中的局限性是什么?
目前最强的 AI 模型(如 GPT-6-Astra、Claude Opus 5.5)在执行已知方法解决给定问题上已接近专家水平,但它们无法自主提出新的物理问题或判断哪些未解问题值得优先研究。研究者将这种能力称为”物理品味”——它需要对新物理概念的直觉和对领域方向的全局判断,这是当前 AI 尚未突破的边界。
DeepSeek-V4.1-Flash 和 GLM-5.3 准确率偏低说明什么?
两款国内主流模型在 TheoPhysEval 上的表现(54% 和 42%)显著落后于 GPT-6-Astra(98%)。这反映出前沿 AI 模型与第二梯队之间在科研级推理能力上的系统性差距,在需要深度专业知识和复杂多步推导的领域尤为明显。此外,无网络模式下两款模型准确率大幅下降,说明它们对物理文献的内化程度远不及顶级模型。
TheoPhysEval 的结论是否会被高估?
存在若干需要谨慎解读的因素。首先,所有模型评测均来自构建该基准的研究团队自行运行,不排除评测环境对 OpenAI 和 Anthropic 产品有所偏向。其次,基准题目来自参与研究的物理学家,可能存在领域偏好偏差。最关键的”标准答案被推翻”事件同时表明,现有物理基准可能系统性低估了前沿模型——这意味着 TheoPhysEval 的 98% 同样可能存在另一方向的高估风险。
小结
TheoPhysEval 给出的 98% 不是一个终点,而是对 AI 科研能力的一次精准刻度:它证明了 AI 可以在顶级物理学家设定的边界内几乎完美地执行计算,但它还没有越过那条边界。标准答案被推翻这件事本身最有价值——它提示我们,AI 在科研中的角色正在从”辅助工具”向”独立验证者”演变。当一台平均成本不足 3 美元的 AI 可以发现专家解法中的错误时,科研协作的模式将不可避免地被重新定义。
延伸阅读
- FBI逮捕OpenAI工程师:沙特籍员工在高管会议室安装窃听器始末2 天前
- OpenAI首份青少年使用报告:日均使用不足15分钟,连续超3小时用户不到2%1 周前
- GPT-6 Astra联手数学家攻克57年难题:N≤20圆盘装箱问题如何被AI证明4 天前
- OpenAI Code Studio 发布:动动嘴就能造 Game Boy 游戏2 周前
继续读
同一批更新里这几篇值得一看:
