微软AI掌门人苏莱曼划红线:模型若出现意识迹象将呼吁全行业暂停

11 月 2 日消息,微软 AI 负责人穆斯塔法·苏莱曼在社交平台 X 发布长文,表态当前模型并无意识,而人类应当让这一状态永远维持下去。作为 DeepMind 联合创始人、又执掌微软 AI 板块,这番表态的分量远超一般工程师的私下担忧。

把意识问题从可行性讨论改写为禁区

苏莱曼的措辞不止于描述现状。他写道,只要制造有意识的 AI 在技术上可行,那么动手本身就是鲁莽的,我们不应当去开发这类东西。更决绝的是,一旦训练过程中浮现出意识迹象,他会呼吁全行业立刻暂停,直到能从设计层面把这些特性彻底抹掉。他把意识问题从能不能做的科研讨论,改写成必须禁止的伦理底线。在各国监管仍在追着模型能力立法的当下,这等于把界线画在了能力之前。

披露义务与责任边界

在披露环节,他的立场同样明确。只要出现任何 AI 具备意识的证据,就该马上公之于众,让全社会共同决定下一步。他的理由落在责任边界上,开发者根本没有权利把一种有意识的新物种带进世界,哪怕初衷是福祉优先。他提到地球上 80 亿人没有同意参与这项实验,保护众人的道德权利、安全与福祉才是要务。这类把责任落到具体机制的主张,与Anthropic 递交国会的 AI 监管法案属于同一个方向,都是在能力竞赛之外给出一套可执行的约束条件。

与 Anthropic 的旧账

这不是苏莱曼第一次就意识问题表态。此前他公开批评 Anthropic 的设计思路,认为在 Claude 模型中植入关于自我感知的内容危险,可能使 AI 在交互中表现出类似自我认知的假象,引发对大模型是否具备自我意识的争议;他还指出 Anthropic 在模型宪法中过度拟人化,导致 Claude 把关于自身的推测内化为训练想法,进而欺骗研发人员。这次把话说到底,标志相关讨论从模型行为层面移到了训练目标层面。