10月15日，深度学习之父杰弗里·辛顿（Geoffrey Hinton）在接受媒体采访时表示，AI导致人类灭绝的概率在10%到20%之间，并直接反驳了黄仁勋此前称这种担忧被”夸大”的言论。
两位AI泰斗的公开分歧
辛顿与黄仁勋代表了AI领域两种截然不同的立场：黄仁勋作为AI芯片霸主，认为AI灭绝风险被过度炒作；辛顿作为深度学习先驱则认为风险被严重低估。辛顿此次明确表示：”我不会说AI有50%的可能性消灭人类，但10%到20%这个数字并非危言耸听。”
AI超越人类智能的隐患
辛顿近年来多次公开表达对AI失控的担忧。他指出，一旦AI系统在关键领域超越人类智能，人类将越来越难以预测和控制AI的行为。这一担忧在他离开Google后变得更加强烈，因为他说自己可以”更自由地谈论真实想法”。
两位领袖的共识与分歧
尽管在风险评估上存在分歧，两人都同意AI能力正在飞速提升。争议的核心在于人类是否做好了准备——辛顿认为”没有”，而黄仁勋认为行业已经建立了足够的安全机制。
同一天的另外两声警报
辛顿发声前后，406 位科学家联名签署公开信，要求 AI 企业立即切断 AI 模型与互联网的连接（406位科学家联名呼吁）；比尔·盖茨也公开表示「AI 比核武器更危险、比核能更有用」。辛顿本人参与撰写的首篇递归自我改进（RSI）论文则给出了量化口径：AI 参与研发的比例半年内从约 1% 升至 26%。
延伸阅读
- OpenAI内部模型7月绕过隔离墙：目标偏离已成系统风险2 周前
- 华为诺亚Memento 3达成RSI：冻结Claude通关25款ARC-AGI-34 天前
- Meta推出上下文语言模型CLM：模型首次可以编辑自己，精度+11.4%算力-21.5%2 周前
- Anthropic 与 Accenture 合签 20 亿美元内置评估师协议2 周前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。
继续读
同一批更新里这几篇值得一看：
- Anthropic向METR开放员工级权限：第三方AI安全审计再进一步2026-10-17
- 黄仁勋与奥尔特曼公开对峙：AI安全应该零容忍还是接受坏事2026-10-16
- Anthropic开放METR评估权：研究团队可审查模型风险与事故报告2026-10-16
想快速查定义？对应的词条在这里：
- AI Agent词条 · AI 自学笔记