11 月 3 日,TechCrunch 报道,Anthropic 正在研发一套叫 FlashProve 的系统,目标是让任何人都能验证一条 AI 回答确实出自它所声称的那个模型。
像邮件签名一样验证出处
这个思路的直接参照物是密码学邮件签名,收件人可以确认一封邮件真的来自它标明的发件人。FlashProve 试图解决的是模型版的同类问题,即防止有人把一个模型伪装成另一个模型,甚至伪装成制造它的实验室自己。Anthropic 认为这套机制需要能扛住这类冒充尝试,包括冒名者本身就是模型开发方的情形。
另一个用途是核实第三方关于任务由谁完成的声明。开发者可以声称自己的软件库已被前沿网络安全模型扫描过,企业可以声称某个流程由某个高能力模型执行,FlashProve 提供的验证方式让这类说法可以独立核查,而不只依赖双方的信誉。
公开指纹,不公开权重
这套机制要防住 2 类冒充,一类是把便宜模型伪装成昂贵模型来压低成本,另一类是把某个模型伪装成另一家实验室自己产出的模型。系统要求各 AI 实验室在发布模型时公开一份该模型的指纹,这份指纹之后可以与具体输出做匹配并进行密码学验证。关键点在于指纹不会暴露模型权重或内部数值,因此既能证明出处,又不泄露模型本身。
随公告一同发布的是详细的技术规范和若干系统组成部分的可运行代码,以开源许可放在 GitHub 上。研究仍在进行中,研究人员在公告里写明,这篇研究贴文意在分享阶段性进展而非一份完成的研究议程,并明确表示希望其他人拿走已有成果继续改进。
模型身份证明解决的是智能体时代的一个具体痛点。当 AI 隐形水印验证模型出处这类攻防出现之后,能证明某个回答来自哪个模型,本身就成了安全链路上的一个环节。
延伸阅读
- Amazon Nova Act 浏览器智能体解析:ScreenSpot WebText 登顶,SDK 开放可自建网页自动化1 月前
- Anthropic Opus 5.5发布:追平Fable 5.1,成本比上代低40%4 周前
- Claude Sonnet 5.5 发布:比 Sonnet 5 快 30%、便宜 30%1 月前
- Anthropic封停1140万账号:申诉翻盘率仅4.2%,11月12日禁虐待Claude3 周前
AI 自学笔记 每天更新 AI 前沿动态,订阅 RSS,或按 Ctrl/⌘+D 收藏本站,明天见。
继续读
同一批更新里这几篇值得一看:
- Anthropic 线程机制 首字延迟降 35%2026-11-04
- Anthropic IPO 估值预期降至 1.5 万亿:较 2 万亿缩水 23%2026-11-03
- Anthropic NRR 达 900%:年付 10 万美元客户 1.19 万家2026-11-03
想快速查定义?对应的词条在这里:
- Anthropic词条 · AI 自学笔记
