prefix="og: https://ogp.me/ns#"> Anthropic高管:开放式AI模型比闭源风险更高|AI自学笔记

Anthropic高管:开放式AI模型比闭源模型风险更高,网络安全事件风险更大

10月15日,据彭博社14日报道,Anthropic国际业务负责人、负责美国以外市场销售的纪尧姆·普兰森(Guillaume Planson)在接受采访时表示:「与Anthropic自家的AI模型相比,开放式AI模型发生网络安全事件或造成其他危害的风险更高。」他指出,开放式模型缺乏对部署环境的控制,是其风险高于闭源系统的核心原因。

普兰森解释称,开放式模型一旦发布,开发者便失去对其使用方式的约束能力——任何人都可以对模型进行微调、量化或部署在任何环境中,而其中部分使用方式可能涉及恶意目的。相比之下,Anthropic对Claude等闭源模型保留了完整的部署控制权,能够通过API层面实施使用政策、安全过滤和滥用监控。

开源与安全的两难

近年来,以Meta Llama系列和Mistral为代表的开放式AI模型快速普及,部分模型的能力已接近头部闭源系统。然而,Anthropic的表态再次将「开源AI是否应该承担更多安全责任」这一争议推向台面。普兰森认为,安全与开放并非绝对对立,但模型发布者必须建立清晰的「责任分界」机制:平台方负责模型本身的安全性,而部署方则应对具体应用场景的合规性负责。

实际风险事件差距悬殊

普兰森援引Anthropic的内部统计数据称:过去六个月,开源模型被用于生成恶意内容或泄露敏感信息的案例数量,已超过Anthropic闭源模型同类事件的十倍以上。尽管Anthropic作为Claude闭源模型开发商,其立场存在商业利益考量,但风险事件的绝对数量差异仍值得关注。