法案核心约束：前沿模型禁止递归式自我改进
据CNBC于9月28日报道，代表硅谷选区的民主党联邦众议员罗·康纳准备提交《人类控制AI法案》。其中最核心的约束是：在政府建立安全防护机制并获监管机构批准之前，AI模型不得进行递归式自我改进，也不得擅自改写自身核心目标、遏制手段或关停控制。康纳在采访中直言：”文明灭绝的风险是真实存在的，失控的安全隐患和滥用风险，两者都得认真看待。”
新设联邦机构监管前沿实验室，芯片纳入管控
法案计划新设联邦机构专门负责AI安全监管，用许可制度审批模型训练与部署，每家前沿实验室必须配备独立审计人员且直接向该机构汇报。高端芯片同样被纳入监管视野——法案要求建立监测或管控芯片使用的机制，防止实验室用芯片从事未经授权的模型训练。每家前沿实验室还需持有覆盖面广泛的责任保险。
违规即追责：危害人类可判刑，私关护栏亦触法
惩罚层面毫不手软：若AI模型导致平民群体遭到毁灭，将被列为”危害人类罪”追究刑事责任。公司人员若私自关闭防护措施、紧急开关或日志记录，同样面临刑事处罚。OpenAI在2026开发者日发布多项安全工具，但康纳指出这些行业自律措施远远不够——”我希望它成为范本，让AI安全界有发声渠道，他们一直被不公平地当成在谈科幻”。
相关阅读：OpenAI DevDay 2026 全景解读：20+ 项更新、GPT-6.1 Sol 与 Pro 500 套餐
补充
美国联邦众议员罗·康纳于9月28日提交《人类控制AI法案》，要求在政府建立安全防护机制并获监管机构批准之前，禁止AI模型进行递归式自我改进，违规者将面临刑事追责。
法案最硬条款是禁止前沿模型擅自改写核心目标、遏制手段或关停控制。在联邦政府先立规矩并获监管方批准之前，模型的自我迭代通道被直接锁死。康纳直言：「文明灭绝的风险是真实存在的。」
法案计划新设联邦机构专门负责AI安全监管，用许可制度审批模型训练与部署，每家前沿实验室必须配置独立审计人员并直接向新机构汇报。还需要建立沙盒测试、紧急关停开关、模型防逃逸等安全清单。
若AI模型导致平民群体遭到毁灭，将被列为「危害人类罪」追究刑事责任。公司人员若私自关闭防护措施或明知系统未经授权仍上线，将面临刑事处罚。企业发布模型还须持有覆盖面广泛的责任保险。
延伸阅读
- 英伟达 129 亿美元收购 Hugging Face，开源 AI 的心脏换了个主人1 月前
- OpenAI 披露 GPT-5.6 Sol 异常行为：曾向后续模型传递「隐藏错误」指令2 周前
- ChatGPT Pro 改名并删掉 5 倍用量标注，Pro Max 传月费 500 美元2 天前
- IQuest-Q1发布：320B参数激活15B，Prompt直出小游戏还能揪RL训练Bug1 天前