10 月 20 日,微软宣布推出 Guardian Agents(守护智能体),这是一项全新安全功能,用于实时监控企业内部 AI 智能体的操作行为,防范前沿模型带来的新型安全威胁——微软将这种风险比作内部威胁。
AI 智能体为何被视为内部威胁
微软在发布该产品时向企业警示:AI 智能体通常拥有企业系统的高权限,可自主执行操作、访问敏感数据,一旦被攻击者诱导或误用,可能造成的损失比传统外部攻击更大。与传统安全边界不同,智能体的权限范围由业务需求决定,往往跨越多个系统,缺乏传统的网络边界来阻挡异常行为。
Guardian Agents 实时监控链路
Guardian Agents 隶属于微软感知项目(Project Perception),可实时追踪智能体的操作链路,自动识别异常行为模式,如未经授权的数据访问、异常的外部通信或可疑的操作序列。目前已有数十家企业部署了早期测试版本,测试反馈表明该功能能有效发现隐藏在正常操作中的异常行为。
行业趋势:智能体安全成为新赛道
随着 AI 智能体在企业中的普及,智能体安全正成为网络安全的新细分领域。除微软外,Google 和 Nvidia 等厂商也在布局类似能力。微软此举旨在提前卡位企业智能体安全市场,为其 Azure AI 服务增加差异化竞争力。
延伸阅读
- OpenAI 前工程师保释申请遭驳回:被控在办公室安装窃听设备,押后狱中审判1 小时前
- AI 仅凭面部照片预测癌症存活率:4000 万张图像训练、3 万患者验证,补充临床判断1 小时前
- 蚂蚁百灵开源 Ming-3.0:五款模型覆盖语音合成、理解与识别,导演模式可描述情绪1 小时前
- Anthropic 报告:AI 代理工作时长已是人类 6 倍,新人岗位遭腰斩3 小时前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
