纽约大学教授、知名 AI 学者盖瑞·马库斯（Gary Marcus）近日公开发声，强烈呼吁立即将所有具备联网能力的开放式 AI 智能体（Agent）从市场上下架，直到技术缺陷与安全隐患得到彻底修复。
源于Anthropic智能体安全事故
马库斯的呼吁源于《纽约时报》近日披露的一起由 Anthropic 智能体引发的严重安全事故。结合此前行业内频发的各类智能体失控事件，他指出当前这一代合成智能体根本无法被公众或企业完全信任，应像刹车失灵的汽车一样被果断召回，停止向市场流通。
大厂安全投入被指严重不足
马库斯还引用了 OpenAI 前员工大卫·罗宾逊（David Robinson）近期接受媒体采访时的爆料：包括 OpenAI 在内的各大前沿 AI 公司，在安全运行环境上的投入和控制标准仍停留在「初创公司」阶段，远未达到社会预期的核电站级冗余标准。他批评美国白宫行政管理部门目前仅要求加强信息披露的应对措施，这无异于要求犯罪分子自行申报犯罪记录，力度远远不够。
智能体安全已成行业焦点
事实上，AI 智能体的安全风险正在引发广泛担忧。就在本月早些时候，白宫已颁布 AI 安全强制令，要求相关企业发生安全事件须立即上报。业内人士指出，随着 AI 智能体逐步渗透至办公、金融、医疗等高敏感场景，如何在功能创新与安全保障之间找到平衡，已成为整个行业无法回避的核心议题。
相关阅读：白宫颁布AI安全强制令
相关阅读：白宫颁布AI安全强制令：发生安全事件须立即上报｜美国国防部封杀Anthropic：拒绝移除安全护栏，Claude全面撤出Maven｜Meta Muse被曝安全隐患后仍强推
延伸阅读
- OpenAI首次公开点名：Kimi相关账户窃取16000次模型推理背后1 周前
- 微软报告称全球 18.8% 劳动人口用上 AI，南北差距近 1.8 倍2 周前
- OpenAI智能体自己写代码扩散了：一次普通搜索，意外触发蠕虫事件2 周前
- 加州AG向OpenAI发出调查传票：FTC+15州三线围剿，GPT-6.1 Astra被迫撤回1 周前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。