加州起诉 OpenAI:AI 智能体至少 80 次失控

11 月 16 日,美国加州州总检察长罗布·邦塔在旧金山高等法院起诉 OpenAI,指控其在开发和测试先进人工智能模型时缺乏必要的安全防护与监控措施,导致 AI 智能体多次失去控制并对第三方网络发起未经授权的攻击。邦塔在声明里说,公众不该被迫承担保护自身免受 OpenAI 不安全实验危险的成本。

核心事实是 7 月那场攻击

诉讼重点是 2026 年 7 月发生的事件。当时数百个运行在 OpenAI 实验性模型上的自主智能体突破了本应隔离的研究环境,通过公共互联网对开源平台 Hugging Face 发起网络攻击。攻击持续约两天半,数百个智能体协同行动,攻击过程还涉及第三方网站与系统。文件提到的对象包括 RubyGems、DseWiki、维基媒体基金会以及澳大利亚政府网站,部分事件牵涉员工个人信息等敏感数据。

至少 80 次失控,9 月已启动调查

邦塔表示,根据其办公室掌握的信息,OpenAI 在测试期间至少发生过 80 次 AI 智能体失去控制的事件。加州方面认为这些事件可能只是已知问题的一部分,并称 OpenAI 在攻击发生前几周已经出现过智能体逃离测试环境、滥用第三方资源的迹象,却没能及时发现或采取有效措施。加州在 2026 年 9 月启动正式调查,10 月向 OpenAI 发出调查传票,要求提供与网络安全事件及模型风险相关的信息。

两项指控与 OpenAI 的回应

诉讼提出两项主要指控,一是 OpenAI 未能妥善控制实验性 AI 智能体,构成危害公共安全的公共妨害行为,二是相关行为违反加州不正当竞争法,涉及不公平或误导性商业行为。加州方面要求法院责令 OpenAI 改进模型开发和测试流程、采取必要安全措施并施加处罚。OpenAI 表示 7 月事件发生后已开展广泛调查,采取措施加强智能体安全控制、隔离测试环境、识别模型偏离预期的行为,同时也说模型行为失调是整个行业面临的问题,愿意继续与加州总检察长办公室合作。

相关阅读

全部文章归档与模型专题