人工智能企业Anthropic近日对旗下AI助手Claude的使用政策进行了全面修订，新规将于2026年11月12日正式生效。此次修订最引人关注的变化，是在条款中首次加入了禁止「持续且不必要的虐待或残忍行为」的明确限制，被外界视为AI行业人机伦理治理的重要里程碑。
执行机制以终止对话为主
根据官方说明，该规则主要针对用户在没有明确目的、反复对模型实施残忍对待的情况。Anthropic表示目前的处理方式主要为终止对话，不过尚未明确未来是否会引入封禁用户账号等更进一步的惩罚措施。公司同时强调，日常抱怨、质疑、含有黑暗主题的文学创作，以及合规的模型安全测试与研究均不在此列。
武器禁令升级，覆盖无人机与自主车辆
除规范人机交互行为外，Anthropic还对多项核心领域的禁令进行了扩容：武器禁令明确涵盖使武器正常运转的软件与组件，以及武装无人机和其他自主车辆的开发行为；监控条款严禁未经同意追踪个人，也不得用于执法与刑事司法程序中的调查与起诉对象；物理硬件安全方面，规定AI连接自主物理硬件时必须有合格操作人员在现场观察，并在必要时能够随时停止设备运行。
相关阅读：美国地方媒体诉微软OpenAI版权案：6家出版商索赔数十亿
延伸阅读
- Runway 发布 Solaris：把软件界面当视频实时生成，不用一行代码1 月前
- Anthropic扩大CVP：分级access tiers，129000个已验漏洞2 天前
- Claude Opus 5.5 内测曝光：跳过 5.2 连升两级，输入 4 美元输出 20 美元，缓存读取降至 0.2 美元3 周前
- WordPress 7.1.3紧急修补7个漏洞：Anthropic贡献其中3个1 天前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。