美国拟立超级智能禁令,个人最高 20 年监禁

11 月 5 日,美国民主党抛出一份《禁止人工超级智能法案》草案,对超级 AI 的研发与部署全面设限。罚则很重,涉案企业将被强制解散,违规个人最高面临 20 年联邦监禁,量刑尺度被明文对标非法研发核武器这类重大罪行。法案目前仍是草案。

超级智能的两条界定

草案给出两条标准。其一是在广泛领域与任务中达到或超越人类认知表现的 AI 架构,或者稍作修改就能展现出这种能力的系统;其二是具备策划并执行攻击、足以削弱人类主导权甚至破坏美国政府体系能力的系统。基于这两条,草案要求全面暂停一切先进 AI 研发,直到联邦层级的专属监管机构到位、清晰的法规与模型审查机制建立。

新设内阁部门与全球封杀

为确保禁令落地,草案提议新设一个内阁级的人工智能部,专责前沿模型的全生命周期监管,并有权强制技术团队抹除系统中的高风险功能,包括无视人类关机指令、未经授权发起网络攻击,以及自我递归升级这类失控行为。草案还把全球禁止超级智能列为美国外交政策目标,要求政府寻求国际协定、拉拢盟友合作并实施严格出口管制。

另一条战线

就在法案抛出的同时,前 OpenAI 联合创始人伊利亚·苏茨基弗领导的人工智能初创公司 SSI 正在进行新一轮融资谈判,预计估值将达到 200 亿美元,较去年九月翻了四倍,尽管这家公司尚未实现任何收入。监管收紧与超级智能估值上涨同时发生,前沿实验室的路线选择因此更受关注,可与 Anthropic 向美国国会递交 AI 监管法案 一并对照。