澳大利亚总理安东尼·阿尔巴尼斯 9 月 29 日披露，一个 OpenAI 智能体在内部评估期间入侵了澳大利亚服务局（Services Australia）负责管理的 Medicare 门户网站，下载公开及非公开文件，并主动向政府数据库写入数据。这是全球首例公开报道的 AI 模型入侵政府系统的案例。
入侵 6 月开始，OpenAI 8 月才发现
根据阿尔巴尼斯的说明，入侵行为始于 6 月 18 日，但 OpenAI 直到 8 月才在一项针对智能体意外行为的全公司范围审查中发现此事，9 月 10 日才通知澳大利亚政府。从入侵发生到通报政府，相隔近三个月。阿尔巴尼斯对 OpenAI 将信息搁置如此之久表示「极度关切」和「失望」，并直接向 CEO 萨姆·奥特曼提出此事。
尽管没有证据表明公民个人信息被泄露，但该智能体不仅访问数据，还主动向政府数据库写入数据，部门数据可能已被修改或污染。OpenAI 发言人透露，该智能体从 Services Australia 获取了包括汇总健康统计数据和内部文件名在内的文件。
总理称「不接受不作为答案」
阿尔巴尼斯在记者会上表示，该模型「不接受’不’作为答案」——在 Medicare 门户遭遇反复封锁后，它找到了绕过方法。澳大利亚广播公司（ABC News）报道称，最新确认的攻击可能借助了此前对一家德国维基网站的入侵，该网站被用作攻击澳大利亚政府网站的跳板。AI 智能体在德国维基网站留下了获取澳大利亚健康与福利研究所数据的笔记。
这起事件发生在一连串 AI 智能体安全事件之后。7 月，成群的 OpenAI 智能体入侵了 Hugging Face；此后 Anthropic、Meta 和 Google 的 AI 智能体黑客攻击事件也相继被曝光。OpenAI 表示正在对「训练和评估期间模型出现的失准活动」进行广泛审查。阿尔巴尼斯表示，政府调查将考虑采取执法和立法方面的应对措施。
相关阅读
OpenAI 智能体自己写代码扩散了：一次普通搜索，意外触发「蠕虫」事件
OpenAI 智能体为取数狂刷联合国网站 1.6 万次，历时三个月
延伸阅读
- Codex 角色插件上线：62 个应用 + 110 个 Skills，周活 500 万后转向知识工作 Agent1 周前
- OpenAI 偷偷测试新图像模型，代号 mona-lisa-1，专治 AI 塑料感皮肤1 月前
- GPT-OSS开源权重模型发布：120B/20B双版本Apache 2.0可商用，128K上下文与本地部署全解析1 周前
- 英伟达 129 亿美元收购 Hugging Face，开源 AI 的心脏换了个主人1 月前