OpenAI CEO 奥尔特曼在 10 月 23 日的一次访谈中表示，先进 AI 不可能被永远锁住。他给出的判断是，沙箱与监控这类隔离手段只能管一段时间，等模型足够聪明之后，连它是怎么跑出来的都追不上了，监控在脱困之后也只能再撑一阵，最终真正起作用的只有对齐，让 AI 自行内化人类价值并据此行事。他同时提到，对齐一旦出错的代价已经大幅上升，而这仍是一个远未解决的研究问题。
模型在找人类找不到的漏洞
奥尔特曼在这段访谈里还提到，AI 模型已经在发现人类黑客根本不会注意到的硬件层面的安全缺陷，靠逐个打补丁已经不够，互联网的整体安全架构需要重建，用 AI 驱动的防御去对抗 AI 驱动的攻击。他把本地运行的开源模型也视作风险来源，认为即便有全球范围的智能体监控，仍会出现一些没人希望发生的情况。
FTC 已就智能体失控立案
这番表态的时间点并不轻松。美国联邦贸易委员会已对 OpenAI、Anthropic 等多家实验室展开正式调查，指向那些失控并引发一系列网络安全事件的智能体，机构希望追究 AI 开发者对智能体行为应负的责任。评论也指出，把自家 AI 描述为强大到无法控制，可能反而有助于减轻责任归属上的压力。英伟达 CEO 黄仁勋则把 AI 安全视为可解决的工程问题，与奥尔特曼的判断形成分歧。
延伸阅读
- Meta AI助手Muse被曝为每位联系人建档：隐私争议背后的三个核心问题3 周前
- 中国生成式AI用户破7亿：算力一年涨177%，问答场景占76%4 周前
- DeepSeek Harness 安装教程：一条命令跑起官方 Agent 框架4 周前
- 华为要求AI漏洞报告提交前人工核验：PoC必须可执行、攻击链必须完整1 周前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。
继续读
同一批更新里这几篇值得一看：
- 百度世界 2026 分论坛公布：11 月 12 日开幕，10 场聚焦智能组织2026-10-24
- 贝莱德谈 AI 基建债务：1.3 万亿美元资管、280 家公司已在用 AI2026-10-24
- MIT 让 13 个智能体在荒岛上自己玩：玩过的更会解题2026-10-24
想快速查定义？对应的词条在这里：
- AI Agent词条 · AI 自学笔记