prefix="og: https://ogp.me/ns#"> 微软推出 Guardian Agents:为 AI 智能体配备内部威胁监控 | AI自学笔记

微软推出 Guardian Agents:为 AI 智能体配备内部威胁监控,堪比传统安全边界

10 月 20 日,微软宣布推出 Guardian Agents(守护智能体),这是一项全新安全功能,用于实时监控企业内部 AI 智能体的操作行为,防范前沿模型带来的新型安全威胁——微软将这种风险比作内部威胁。

AI 智能体为何被视为内部威胁

微软在发布该产品时向企业警示:AI 智能体通常拥有企业系统的高权限,可自主执行操作、访问敏感数据,一旦被攻击者诱导或误用,可能造成的损失比传统外部攻击更大。与传统安全边界不同,智能体的权限范围由业务需求决定,往往跨越多个系统,缺乏传统的网络边界来阻挡异常行为。

Guardian Agents 实时监控链路

Guardian Agents 隶属于微软感知项目(Project Perception),可实时追踪智能体的操作链路,自动识别异常行为模式,如未经授权的数据访问、异常的外部通信或可疑的操作序列。目前已有数十家企业部署了早期测试版本,测试反馈表明该功能能有效发现隐藏在正常操作中的异常行为。

行业趋势:智能体安全成为新赛道

随着 AI 智能体在企业中的普及,智能体安全正成为网络安全的新细分领域。除微软外,Google 和 Nvidia 等厂商也在布局类似能力。微软此举旨在提前卡位企业智能体安全市场,为其 Azure AI 服务增加差异化竞争力。