Anthropic 开源 FlashProve:11 月 3 日发布模型指纹规范

11 月 3 日,TechCrunch 报道,Anthropic 正在研发一套叫 FlashProve 的系统,目标是让任何人都能验证一条 AI 回答确实出自它所声称的那个模型。

像邮件签名一样验证出处

这个思路的直接参照物是密码学邮件签名,收件人可以确认一封邮件真的来自它标明的发件人。FlashProve 试图解决的是模型版的同类问题,即防止有人把一个模型伪装成另一个模型,甚至伪装成制造它的实验室自己。Anthropic 认为这套机制需要能扛住这类冒充尝试,包括冒名者本身就是模型开发方的情形。

另一个用途是核实第三方关于任务由谁完成的声明。开发者可以声称自己的软件库已被前沿网络安全模型扫描过,企业可以声称某个流程由某个高能力模型执行,FlashProve 提供的验证方式让这类说法可以独立核查,而不只依赖双方的信誉。

公开指纹,不公开权重

这套机制要防住 2 类冒充,一类是把便宜模型伪装成昂贵模型来压低成本,另一类是把某个模型伪装成另一家实验室自己产出的模型。系统要求各 AI 实验室在发布模型时公开一份该模型的指纹,这份指纹之后可以与具体输出做匹配并进行密码学验证。关键点在于指纹不会暴露模型权重或内部数值,因此既能证明出处,又不泄露模型本身。

随公告一同发布的是详细的技术规范和若干系统组成部分的可运行代码,以开源许可放在 GitHub 上。研究仍在进行中,研究人员在公告里写明,这篇研究贴文意在分享阶段性进展而非一份完成的研究议程,并明确表示希望其他人拿走已有成果继续改进。

模型身份证明解决的是智能体时代的一个具体痛点。当 AI 隐形水印验证模型出处这类攻防出现之后,能证明某个回答来自哪个模型,本身就成了安全链路上的一个环节。