Anthropic 工程师警告 AI 依赖:3 层状态走向认知投降

11 月 4 日,Anthropic Claude Code 团队工程师、前谷歌技术高管 Addy Osmani 在 X 上发表长文《当 AI 智能体完成工作时,如何保持批判性思维》,把人类使用 AI 的状态分成三个层次,并给出警告性结论:随着模型越来越准,人类反而更难保持警惕。

认知卸载、推迟判断、认知投降

Osmani 曾在谷歌工作超过 14 年,负责 Chrome 开发者体验与谷歌云 AI 相关业务。他把三个层次定义为:认知卸载是把任务交给 AI 完成,但仍对结果认真负责地检查;推迟判断是默认不再把 AI 输出视为需要验证的结果,直接作为下一步工作的依据;认知投降则是把 AI 输出当成自己的判断,用户不再认为有必要检查。他强调这种转变不是突然发生的,而是逐渐形成的:认真读第一份报告,快速浏览第二份,第三份只看大纲,最后被问到某个结论时发现自己根本讲不清逻辑。

“认知投降”一词最早由宾夕法尼亚大学沃顿商学院的 Steven Shaw 和 Gideon Nave 提出,他们在《思考——快速、缓慢与人工智能》一文中描述了这一现象。Osmani 把它与”认知债务”联系起来:AI 能生成大量代码、测试也可能全部通过,但团队对系统架构的理解在持续减少,直到某天需要改动时,没有人真正理解某段代码的工作原理。

编排税与监督悖论

Osmani 认为 AI 生成的提速与人类愿意认真审核并为之负责的速度之间存在差距,他称之为”编排税”,继续增加 Agent 数量并不能解决问题,团队应该改进自动验证机制或降低任务生成速度。他还提出一个实践要求:验收 AI 交付的成果,标准应该是实际测试结果、运行日志、截图这类可验证的证据,而不是 AI 生成的一段看起来合理的总结。

最后是”监督悖论”:监督 Claude 需要具备编程能力,但过度使用 AI 又可能让这些能力退化。他的建议是每周尝试在不用 AI 的情况下写一些代码,每个月重新审视自己已经停止练习的技能。他的结论并不悲观:低错误成本的任务完全可以交给 AI,但涉及投资、职业选择、产品安全或影响他人的重大决定时,人类仍应保留关键判断权。相关讨论与AI 安全哲学的正面对撞属于同一条脉络,只是切入角度从模型能力换成了人的判断力。