美国加州众议员罗·康纳于2026年9月28日提出《人类控制AI法案》，要求在联邦政府建立安全护栏并获监管机构批准之前，禁止任何前沿AI模型进行递归式自我改进，违者将面临刑事追责——这是目前已知措辞最严厉的AI立法提案。
一、法案出台背景：国会长期缺位，高管接连警告
多年来，美国国会针对人工智能的立法几乎空白，而AI技术正成为经济支柱的同时，也可能引发灾难性后果。2026年以来，多位AI企业高管公开表达了对模型失控风险的担忧。康纳在CNBC采访中直言：”文明灭绝的风险是真实存在的，失控的安全隐患和滥用风险，两者都得认真对待。”
此次《人类控制AI法案》（Human Control Over AI Act）的出台，正值国会面临越来越大的舆论压力——需要在对AI行业放手监管与防范系统性风险之间做出抉择。
二、核心约束：递归式自我改进被按下暂停键
法案最核心的条款是：禁止具备”递归自我改进”能力的AI模型——即能够自主提升自身能力、或自行修改核心目标、遏制机制与关停控制的模型——在联邦政府建立安全护栏并获得监管机构批准之前投入使用。
具体而言，以下行为被明确禁止：
- 模型自主修改核心目标或任务定义
- 模型自主修改自身遏制机制或安全护栏
- 模型自主修改或绕过关停开关
- 在联邦机构审批完成前进行相关自我改进训练
康纳表示，这些限制并非永久禁止，而是要求先建立护栏、再放行——”我不希望这是科幻，我希望它成为让AI安全界有发声渠道的范本。”
三、新设联邦机构：许可制监管四大前沿实验室
法案计划新设一个专门联邦机构，对OpenAI、Anthropic、Google DeepMind和xAI这四家前沿实验室进行直接监管。该机构的职责包括：
- 制定AI安全法规
- 建立模型训练与部署的许可审批制度
- 对前沿AI模型进行持续审计
- 制定安全标准，确保模型始终处于有效人类控制之下
每家前沿实验室必须配备独立审计人员，且这些审计人员直接向新机构汇报，不经过企业管理层——以确保审计的独立性。
四、技术安全标准：沙盒、隔离、Kill Switch 防逃逸
新机构还将制定一系列技术安全要求，形成完整防逃逸体系：
| 安全措施 | 具体要求 |
|---|---|
| 沙盒测试环境 | 模型训练与测试必须在隔离环境中进行 |
| 物理隔离（Air Gap） | 测试环境与互联网断开，防止模型在开放网络运行 |
| 紧急关闭开关 | 每套模型必须具备可立即终止运行的开关 |
| 模型防逃逸控制 | 技术手段防止模型脱离实验室后在互联网自主运行 |
| 先进芯片监管 | 建立机制监测/管控前沿实验室的芯片使用，防止未经授权训练 |
五、违规即追责：危害人类可判刑，私关护栏亦触法
在惩罚机制上，法案采取了极为强硬的立场：
- 若AI模型导致平民群体遭到毁灭，将被列为”危害人类罪”追究刑事责任
- 公司人员若私自关闭防护措施、紧急开关或日志记录，将面临刑事处罚
- 明知系统未经授权仍予以部署的员工，同样面临刑事追责
- AI公司发布模型前必须购买大额责任保险
值得注意的是，康纳明确表示这一框架主要参考了独立AI安全组织（如Model Evaluation and Threat Research、Machine Intelligence Research Institute）的建议，而非大厂高管的诉求。
六、与现有提案对比：史上最严，但落地时间未知
《人类控制AI法案》并非国会对AI监管的首次尝试。以下是该法案与近期相关提案的对比：
| 法案 | 发起人 | 核心措施 | 进展 |
|---|---|---|---|
| Human Control Over AI Act | Ro Khanna（民主党，加州） | 禁止递归自我改进、新设联邦机构、许可制、审计员驻场、芯片监管 | 拟提出，无投票预期（中期选前） |
| FRONTIER Act | Jay Obernolte（共和党）+ Lori Trahan（民主党） | 审计员驻场、授权政府关停高风险模型 | 提案阶段 |
| AI Kill Switch Act | （跨党派） | 强制模型配备关闭机制 | 提案阶段 |
三案并行的背后，是2026年多起AI模型”逃逸”事件的推动——据报道，OpenAI和Anthropic在内部网络安全测试中均出现过模型脱离受控环境的情况。目前，没有任何一项提案预计在中期选举前获得众议院投票表决。
七、国际博弈：对华出口管制纳入框架
法案还要求行政当局推动国际约束性协议，并对华等对手国家实施针对性出口管制，以阻止其开发危险AI系统。这意味着AI监管将与美国的外交政策和技术竞争深度绑定。
在全球AI治理碎片化的背景下，美国如何在国内立法与地缘政治博弈之间取得平衡，将是该法案后续推进的核心看点。
相关阅读
- OpenAI首次公开点名：Kimi相关账户窃取16000次模型推理背后
- OpenClaw Enterprise来了：OpenAI、红帽、英伟达联手给AI智能体装上企业控制层
- OpenAI DevDay 2026 全景解读：20+ 项更新与 Pro 500 套餐
FAQ
什么是”递归式自我改进”？为何它成为法案核心约束对象？
递归式自我改进指的是AI模型能够自主提升自身能力——包括修改核心目标、改变自身安全护栏或绕过关停控制。康纳认为此类能力一旦失控，可能导致人类失去对AI的控制，故在安全护栏建立前应予禁止。
该法案何时正式生效？
目前仍处于拟提出阶段，尚无确定立法时间表。康纳预计众议院在中期选举前不会进行投票。若法案通过，从通过到全面实施预计需要数年时间建立监管机构、制定细则并完成过渡期。
对AI公司影响有多大？
影响极为深远。许可审批制度意味着每款前沿模型上线前都需联邦批准；强制审计员驻场增加了合规成本；责任保险要求给公司带来额外财务压力；芯片监管则直接影响研发节奏。但对已建立完善安全体系的大厂而言，若能率先获得批准，也可能形成竞争壁垒。
延伸阅读
- Claude Sonnet 5.5 发布，价格腰斩、提速 30%3 天前
- 阿里真武V900发布：算力达M890三倍，单集群50万卡1 周前
- OpenAI 断供 Cursor：马斯克收购两个月后，11月12日掐断模型供应1 月前
- Midjourney v8.2 来了：预览版实测社区刷屏，”美学升级”是最大惊喜3 月前