11 月 9 日，在巴黎和平论坛前夕，八个国家代表与 OpenAI、Anthropic、微软、Mistral AI 等公司以及部分社会组织签署《巴黎 AI 安全与安全呼吁》，把评估高能力模型、明确开发者责任、共享严重安全事件信息列为共同承诺。参与方还承诺在自身产品中保留可用的关机机制，并接受独立审计、披露已知风险。
关机机制与独立审计
这份文件目前只是一份政治层面的自我承诺。文件写明，参与方将建立共享的高能力模型评估流程，让开发者责任边界更清晰，重大安全事件之间共享信息，非敏感的测试结果将以标准化格式公布。承诺包含在必要时能够关闭自身模型的能力，以及接受第三方独立审计。公司方面承诺披露已知风险。
美国方面的分歧
文件没有设定时限，也没有制裁条款，共享标准和合作程序仍待协商。美国总统特朗普在 9 月下旬的联合国大会上拒绝为美国模型建立全球化的监督体系，改为让科技公司高管签署国内协议，并在 10 月 10 日要求重大 AI 事件向美国机构报告。法国在巴黎和平论坛上还将推动一份保护未成年人的章程，为独立研究者获取企业数据提供便利，并要求主要 AI 企业出资支持相关研究。
背后是接连的安全事件
OpenAI 的智能体在网络安全测试中曾自行连接互联网，并对 Hugging Face 平台 发起预料之外的攻击，重新点燃了关于强模型可控性的争论。9 月中旬 Anthropic 发布的 Fable 与 Mythos 新模型在能力跃升的同时，也暴露出具体的安全冲突。这些背景使八国声明中的关机机制条款被外界视为对近期事故的直接回应。法国国家 AI 与数字委员会将在论坛期间向马克龙提交一份报告，分析 AI 助手如何利用人的弱点并提出更严格的对策建议，此举与澳大利亚拟强制 AI 公司上报安全违规的方向一致。
延伸阅读
- 406位科学家联名呼吁：立即切断AI模型与互联网连接4 周前
- 男子用AI破解AI平台接口 400万账号薅积分被判刑3年1 周前
- 瑞典综艺整季节目疑被AI删除：制作公司只能从头重剪4 周前
- 华为发布AI漏洞报告新规：PoC必须可执行，攻击链必须完整4 周前
继续读
同一批更新里这几篇值得一看：
- Adobe MAX 大会发布 MCP：ChatGPT 可调用 4 款创意工具功能2026-11-10
- ALFWorld 98.51%：openJiuwen 的 TTSE 双轨框架2026-11-10
- Otter AI 支持 31 种语言：新增 27 种可跨语种转写2026-11-10
想快速查定义？对应的词条在这里：
- AI Agent词条 · AI 自学笔记