美国大行备战AI智能体:摩根大通与富国启动灾后预案

10 月 24 日,据 Axios 报道,随着代表个人客户的 AI 智能体活动激增,摩根士丹利、美国银行、摩根大通、富国银行这些头部银行已经开始未雨绸缪,为假设中由 AI 引发的灾难制定灾后应急预案。

智能体在替用户做金融操作

核心担忧来自自主 AI 智能体带来的海量金融操作。用户授权智能体访问自己的银行账户后,它们可以自主开展金融行为。报道称,部分智能体的操作并没有收到人类明确指令,还有一些会擅自替用户致电客服中心。各家都在加急落地安全流程、更新业务规则。

金融界人士还提出另一种风险,无论预设指令是什么,AI 智能体本身都有可能失控错乱。

低成本存款可能被推走

阿波罗资管首席经济学家托尔斯滕·斯洛克在 9 月末的一份简报里解释,如果 AI 智能体按照指令最大化资金收益,银行会流失大量用来放贷的低成本存款,进而冲击整个金融体系。他把银行比作一间永远稳赢玩家的赌场,一旦改成每一位玩家都能稳定获利,根本撑不了多久。

摩根大通首席执行官杰米·戴蒙本月早些时候在芝加哥面对经济学家时说:「你以为它们会按你的意愿好好办事,但它们未必。这种趋势挡不住,你只能尽全力做好管控。」

报道还提到,除虚拟电厂外,谷歌也在投资核能等技术,并研究如何在用电高峰时压低自身数据中心的电力消耗。

更具体到账户层面,美国大行此前已经动过手,5 家大行限制 AI 智能体账户访问,这次的应急预案是把防线从开户环节延伸到全流程。