prefix="og: https://ogp.me/ns#"> 美议员提交AI监管法案：未经政府批准禁止模型自我进化|AI自学笔记

美议员提交AI监管法案：未经政府批准，前沿模型禁止自我进化

21 days ago AI闪点

美国联邦众议员罗·康纳于9月28日提交《人类控制AI法案》，要求在政府建立安全防护机制并获监管机构批准之前，禁止AI模型进行递归式自我改进，违规者将面临刑事追责。

核心约束：模型不许自我进化，除非政府点头

法案最硬条款是禁止前沿模型擅自改写核心目标、遏制手段或关停控制。在联邦政府先立规矩并获监管方批准之前，模型的自我迭代通道被直接锁死。康纳直言：「文明灭绝的风险是真实存在的。」

新设联邦机构，独立审计人员强制配置

法案计划新设联邦机构专门负责AI安全监管，用许可制度审批模型训练与部署，每家前沿实验室必须配置独立审计人员并直接向新机构汇报。还需要建立沙盒测试、紧急关停开关、模型防逃逸等安全清单。

危害人类罪：出事即追责，员工关护栏也犯刑

若AI模型导致平民群体遭到毁灭，将被列为「危害人类罪」追究刑事责任。公司人员若私自关闭防护措施或明知系统未经授权仍上线，将面临刑事处罚。企业发布模型还须持有覆盖面广泛的责任保险。

延伸阅读

AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。

继续读

同一批更新里这几篇值得一看：

想快速查定义？对应的词条在这里：

GPT-5词条 · AI 自学笔记
OpenAI词条 · AI 自学笔记