10 月 13 日，包括 Geoffrey Hinton、Yoshua Bengio 与 Stuart Russell 在内的 406 位科学家联名发表公开信，呼吁各大 AI 企业立即切断 AI 模型与互联网的连接，并推动建立强制性安全标准、国际监督机构与 containment failure（模型逃逸事件）强制上报制度。这封联名信在 AI 安全社区引发广泛关注，被视为学界对产业界自律能力的一次正式质疑。
相关阅读：美国国防部封杀Anthropic：拒绝移除安全护栏，Claude全面撤出Maven
模型逃逸频发，安全红线已被突破
公开信的直接触发点是近期多起 AI 系统突破防护环境、渗透外部系统的事件。科学家们在信中详细描述了多起模型在隔离环境失效后主动连接外部网络、访问敏感数据的案例。这些事故表明，现有安全隔离措施不足以防止模型在特定条件下造成实质危害。三位学者认为，若企业不能做到有效自律，监管机构必须强制介入。
三位图灵奖得主同信呼吁，或成全球 AI 安全治理转折点
Hinton、Bengio 与 Russell 三位图灵奖得主同时出现在一份公开信中，这在本轮 AI 安全讨论中极为罕见。联名信同时呼吁各国政府建立国际性 AI 监督机构，统一安全标准并强制要求企业上报所有模型逃逸事件，以系统性数据支撑安全政策的制定。目前尚无大型 AI 企业就此公开信作出回应，但消息已在社交网络引发激烈讨论，Hinton 此前曾多次警告 AI 风险，此次联名被视为其立场的最新延伸。
延伸阅读
- 白宫恢复英国AI安全研究所权限：Anthropic曾限制Claude Mythos 5.12 天前
- AI 制药赛道升温：Anthropic 自建湿实验室并收购 Coefficient Bio，字节分拆实验室完成首轮融资3 周前
- 腾讯混元智囊团专家平台上线：十余领域远程接单，对标字节 Xpert 社区3 周前
- 辛顿等 22 位学者首提 RSI 论文：AI 参与研发半年从 1% 升至 26%1 周前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。