微软 Teams 开放深度伪造检测 API:置信度 0.0 到 1.0,11 月中旬上线

第三方检测机器人进会

据科技媒体 Windows Latest 10 月 25 日报道,微软 Teams 将允许组织接入已认证的第三方工具,扫描会议中的音视频内容,判断是否存在深度伪造。功能定于 11 月中旬在 Teams 桌面版、Mac 版和网页版逐步推出。微软说明检测由外部提供商完成,Teams 只负责展示警告弹窗并提供操作选项。

接口细节已出现在微软的 Graph 文档里,名字是 reportSyntheticMedia,目前是测试版。流程是:经认证的检测机器人必须先获准加入通话,再由组织管理员授予 Calls.ReportSyntheticMedia.All 权限。机器人会对参会者做标记,输出介于 0.0 到 1.0 之间的置信度评分,以及低、中、高三个等级判断。它给出的是一组可排序的信号,而非单一结论,方便管理员按自己的阈值决定是否干预。

合规说明里的那句话最关键

微软在合规性说明中提到,第三方服务提供商可能会分析会议中的音频和视频信号,因此管理员在启用前应当审查其服务条款和数据处理方式。责任划得很清楚:内容是否流出、流出到哪里由管理员把关,微软只提供接入的管道。

深度伪造在会议场景里的风险和公开传播场景不一样。伪造参会者的伤害范围通常局限在一次决策、一次授信或一次内部宣讲,传播链条短但信任度高,被冒用者往往在管理层。证据链在法律层面也一直有争议,微软 MAI-DxO 诊断智能体那类系统之所以要给出精确到小数点后一位的准确率,也是因为同样的信任链条问题。

从检测到拦截还有距离

开放 API 只是第一步。机器人要在会议进行中实时分析音视频,误报率、延迟、带宽受限下能否稳定运行,都是落地的实际约束。会议室网络、参会者数量、多语言口音都会影响识别效果,频繁误报的检测器最终会被关掉。还有个连带效应:把 Calls.ReportSyntheticMedia.All 授予第三方机器人,等于让对方拿到会议音视频的读取能力,认证环节能筛掉多少问题目前没有可查标准。

不过方向已经清楚。会议软件此前只能提供录制与转写这类基础能力,现在开始把内容真实性判断交给生态方。这个接口开放后,能不能催生一批成熟的检测服务,还需要观察。