教皇利奥 5 月通谕后呼吁联合国禁止致命自主武器

10 月 30 日，教皇利奥十四世在周五的教宗方济各讲道中表示，人工智能系统应当被解除武装，人类有责任引导、改变并在必要时拒绝它的应用，并呼吁联合国成员国在将于下月于日内瓦举行的会议上采取具体步骤，推动禁止致命自主武器。

机器是工具不是主体

这次表态延续了他今年 5 月发布的第一份主要通谕，其中重点讨论了在人工智能时代如何保障人的尊严。利奥在讲道中援引通谕的立场，强调机器是工具而非主体，并警告向 AI 系统授予权利或法律人格可能带来的危险。他同时指出，涉及人的生命、自由与武力使用的决定，必须始终置于有效、知情且负责任的人类监督之下。

与两年前方济各的表态一脉相承

2024 年，教皇方济各曾呼吁禁止自主武器，称任何机器都不应被允许选择夺取人的生命。AI 已经成为利奥频繁谈论的话题，他解释自己选择这个名字正是因为必须直面这项技术的推进速度，其前任利奥十三世在任时正值工业革命前沿，教会在那次技术变革中扮演了重要角色。

落到问责机制上

讲道的最后一部分落在国际治理，利奥呼吁国际机构通过共同标准、独立监督与清晰的问责机制来保护公共利益，让涉及 AI 开发与使用的决策能够被审查、被质疑，并在造成损害时获得相应补救。这些主张与产业界对外部监督的呼应同期发生，站内 Anthropic 致信纽森：15 日建议法院有权阻止高风险 AI 模型 记录了另一条从企业侧出发的路径。

这条路线在产业界的政策博弈中同样显现，AI 治理正从企业自律走向国家与联合国层面的讨论，站内 Anthropic 递交美国国会 AI 监管法案 记录了企业侧的另一条路径。