研究发现用AI辅助决策的人自信心爆棚但正确率下滑，而且不知道自己在变蠢

2 months ago AI笔记

有个研究最近发了，找了3132个人做了五项实验，结果挺让人不安的。

过程很简单：给一组人看GPT-5.5等大模型的回答，让他们继续回答问题；另一组没有AI辅助自己答。结果有AI那组人变得特别自信，但答案质量反而更差。尤其是涉及冷门知识的问题，没有AI的时候有36%到44%的人会放弃作答，说「我不知道」；有了AI之后这个比例掉到了3%到6%。

换句话说，AI不是帮你找到正确答案，而是让你放弃承认自己不知道。大多数人不会察觉自己正在变蠢，过度自信本身就会掩盖这个问题。这个研究给AI助手厂商提了个醒：功能越强，可能越需要设计「不信任」机制。

实验是怎么设计的

研究招募了 3132 名参与者，做了五项实验。基本范式是分组答题，一组先看大模型的回答再作答，另一组完全不借助 AI。测量三个指标，答案准确率、参与者对自己答案的自信程度，以及在不确定时主动说「我不知道」的比例。

把自信度和准确率分开测是关键设计。如果只测准确率，得到的是能力变化；把自信度放在一起测，才能看出「感觉自己变强了」和「实际变强了」之间的距离。

「不知道自己不知道」是怎么发生的

大模型输出的特点是流畅。语句通顺、结构完整、语气笃定，这种表达形式本身就会被大脑当成可信信号。读到一段自洽的解释，人的怀疑阈值会自然下降，很少再去追问信息来源。

更隐蔽的是自我评估失准。借助 AI 答对一道题之后，参与者倾向于把这份功劳算进自己的能力，而不是工具的能力。等到脱离 AI 单独判断时，这份被高估的自信还在，误差就出现了。

36% 到 6% 这个变化意味着什么

在没有 AI 辅助时，面对冷门知识题，36% 到 44% 的人会坦承自己不知道。这个数字代表的是健康的认知边界感，知道自己的知识范围在哪。有了 AI 之后，这个比例掉到 3% 到 6%，几乎所有人都会给出答案。

关键问题是，答案质量并没有同步提升。弃答率下降不等于能力提升，更可能是把「我不确定」换成了「听起来很确定」。对一个组织来说，决策质量取决于那些本该被标记为不确定的判断有没有被正确标记。

对 AI 产品设计的启示

第一是显式表达不确定性。模型心里没底的时候，输出里应该有清晰信号，而不是用同样笃定的语气糊过去。第二是强度匹配，简单问题给直接答案，复杂或冷门问题先给判断依据再给结论。第三是强制核对，在医疗、法律、财务这类高代价场景，让用户确认关键事实来源。第四是保留「我不知道」，把弃答当成合格输出而不是失败输出。

这些设计不增加模型能力，但能显著降低误用风险。

常见问题

是不是意味着不该用 AI 辅助决策？不是。研究指出的是过度依赖带来的自我评估偏差，把 AI 的产出当作待验证的初稿、而不是最终答案，风险会大幅下降。

为什么冷门知识题更容易出问题？训练语料里这类内容的密度低，模型更容易泛化出一个看似合理的答案，同时表达上依然自信，用户更难分辨。

怎么自查有没有被带偏？看两件事，离开 AI 之后还能不能复述推理过程，以及最近一次说「我不确定」是什么时候。后者间隔越长，越值得警惕。

这项研究的边界在哪

样本是三千余人，实验环境是标准化的答题任务，和真实工作中的决策场景有差距。真实场景里，人往往有更多时间核对、有同事交叉验证，也有更强的动机去追问依据，偏差未必像实验室里那么明显。

另外研究测的是短期效应，长期使用会不会形成新的判断习惯，或者反过来训练出更强的核查意识，目前还没有答案。结论可以用来说明风险存在，不宜直接推导成「用 AI 会变笨」这种简单判断。

放到团队里该怎么用

个人的习惯容易改，团队的习惯难改，因为团队靠流程固化管理预期。可行的做法是在流程里加一道明确的核对环节，把 AI 产出定位成初稿，指定由谁验证关键事实，验证记录留痕。这样既不放弃效率，也不把风险全部压在个人判断上。

更细致的做法是做场景分级。事实检索、文本润色这类低风险任务可以直接用，涉及对外承诺、财务口径、法律判断的高风险场景则要求二次确认。分级标准写进团队规范，比每次靠自觉靠谱得多。

小结

这项研究最实用的地方在于，它把问题从「AI 准不准」转向了「人还知不知道自己在不确定」。前者靠模型迭代解决，后者只能靠使用习惯和产品设计去补。对长期依赖 AI 完成工作的人来说，后者才是真正需要警惕的那一半。

相关阅读

延伸阅读

AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。

继续读

往下这几篇值得接着看：

想快速查定义？对应的词条在这里：

  • GPT-5词条 · AI 自学笔记

Related News

全部文章归档与模型专题