腾讯姚顺雨警告 AI 生物武器:开源闭源都挡不住

11 月 9 日,据南华早报报道,腾讯首席 AI 科学家姚顺雨表示,AI 很快将具备开发生物武器的能力,而完全开源或完全闭源这两条路都无法单独解决这个问题。在开源与闭源之争里,这位此前任职 OpenAI 的研究者主张走中间路线,认为开源与闭源的组合可以让各方都能把技术用于防御。但他同时指出,在生物领域,进攻能力与防御能力比网络安全更难分离。AI 安全哲学的正面碰撞一文记录了产业内部另一种分歧路径。

生物领域为什么更难切割

网络安全里,攻与防的边界相对清晰,检测到攻击特征就可以做拦截与隔离。生物领域的门槛则不在工具本身,而在知识本身的可迁移性。一段关于蛋白质的分析、一套关于受体结合位点的推理,其攻防两用的性质难以通过产品形态来隔离。姚顺雨的判断是,既然中美模型之间的能力差距并不大,整个行业就应当谨慎推进,而不是等某个临界点被越过之后再补救。

开放模型在真实攻击里的角色

他以 Hugging Face 的一次黑客事件举例。当 Claude 这类闭源美国模型因为安全过滤拒绝分析攻击命令时,平台转而使用中国开源模型 GLM-5.2 来解析日志。Hugging Face 的报告支持这个例子,但也指出了它的边界:GLM-5.2 只用在取证分析环节,真正的攻击被拦下,靠的是安全团队修补被利用的漏洞、重建受影响服务器并轮换凭据,平台也强调这次事件不能当作反对托管模型安全过滤的理由。这个例子恰好说明开源模型在防守侧同样能顶上去。

闭源派的理由与姚顺雨的回应

姚顺雨承认 Anthropic 等美国公司针对闭源模型给出了有力论据,但他依然看到了开放模型的明显优势。7 月,英伟达牵头的反对过早限制开放模型的联署信里,Anthropic 是唯一没有签署的主要 AI 实验室,CEO Dario Amodei 对此的反对理由也已多次公开表达。姚顺雨的立场与这批人不同,他并不主张把模型关起来,而是认为混用开源与闭源才是更现实的选择。真正的问题从来不是开关本身,而是能力差距缩小之后,行业有没有足够快的自查机制。