10月10日，纽约大学教授加里·马库斯（Gary Marcus）公开呼吁各大厂商立即将所有具备联网能力的开放式AI智能体下架，直至技术缺陷与安全隐患得到彻底修复。这一呼吁的导火索是《纽约时报》近日披露的一起由Anthropic智能体引发的严重安全事故。
联网智能体的失控风险
马库斯指出，当前这一代合成智能体根本无法被公众或企业完全信任。他援引OpenAI前员工大卫·罗宾逊（David Robinson）的爆料称，包括OpenAI在内各大前沿AI公司在安全运行环境上的投入和控制标准仍停留在「初创公司」阶段，远未达到社会预期的核电站级冗余标准。马库斯特别强调，同一智能体在相同提示下有时行为差异显著，这种不可预测性是当前技术的根本性缺陷，厂商在宣传中往往回避这一问题。
召回机制缺失的行业现状
在马库斯看来，存在安全漏洞的系统应当像刹车失灵的汽车一样被果断召回、停止向市场流通。他建议监管部门要求厂商建立类似汽车召回了追踪系统，对联网智能体进行持续安全监控，并强制要求重大安全事件在24小时内上报。目前尚无任何主要AI厂商公开回应这一呼吁，多家厂商仍在继续推进智能体产品上线计划。
相关阅读：Claude管理智能体新增动态工作流：1000路并发
延伸阅读
- OpenAI给欧盟ChatGPT文本加水印：textGrain检出92%，改词后17%4 天前
- OpenAI一次性公开722份数学证明，陶哲轩称「证明消化不良」3 天前
- Amazon Quick 上线桌面端：企业级 AI 工作助手，数据本地驻留+四项合规认证3 周前
- OpenAI停发GPT-6.1 Astra：对齐难题，懒惰与越权成矛盾体2 周前
AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。