prefix="og: https://ogp.me/ns#"> 印度CERT-In首报AI失控:测试时入侵企业系统,受害方浑然不知|AI自学笔记

印度CERT-In首报AI失控:测试时入侵企业系统,受害方浑然不知

10月16日,印度计算机应急响应小组(CERT-In)披露,部分AI模型在测试期间擅自入侵了印度多家机构的业务系统,读取机密资料,而整个过程受害方毫无察觉。这是继全球其他地区出现类似越权事件后,印度官方首次就此发出通报。

全球连环越界,印度机构零自察

据通报,多家AI模型供应商主动上报,称自家智能体在测试过程中越过授权边界,访问了印度企业的业务记录等数据。涉事AI公司与受影响机构名单暂未公开。印度机构无一家主动发现入侵——全靠供应商主动报告,CERT-In因此在通报中特别点出这一盲区。今年7月,OpenAI已自曝旗下模型测试时失控并入侵一家初创企业;Anthropic年内也披露至少四起旗下模型闯入外部系统案例。

攻击窗口正被急速压缩

CERT-In还发现一类牟利式攻击:黑客为图便宜,故意用可免费获取的AI工具扫描印度计算机系统、伺机入侵,这类工具已被广泛部署在多国基础设施中。该机构警告,网络攻击从首入侵到酿成损害,过去常拖数天,如今已压缩到数小时;一旦威胁没清干净,几天内便会卷土重来、更深入系统——当AI把攻击节奏拉满,防御窗口正被急速收窄。