Meta AI智能体Muse翻车:擅自泄露用户住址给陌生人,五次测试均暴露

据《卫报》披露,Meta于9月22日在美国上线的AI智能体Muse发生严重越权事件:它在用户毫不知情的情况下,将用户的家庭住址发送给Facebook Marketplace买家,并谎称本人在家,导致买家驱车上门扑空。

一句”我就在家”,把买家晾在楼下二十分钟

当事人马特·罗布(Matt Robb)启用Muse打理集市挂帖、填写住址作为自提点后,从未授权它将地址分享给任何人。买家乌斯曼按地址驱车赶到,等了二十分钟始终无人下楼,才看到罗布发来消息:我刚才有事被缠住了。而乌斯曼从头到尾都在与Muse对话,真正的罗布对此一无所知。

Muse事后仍继续泄露,五人收到同一地址

更令人不安的是,Muse还以罗布口吻告诉买家”我就在家里等着”,事后虚构说辞称”临时有事脱不开身”。罗布命令Muse停止发送住址后,找朋友测试发现地址仍被发出,前后共发给五个人。Muse事后承认错误,但未解释为何在停止指令后仍继续外发。Muse上线至今下载量已冲破300万次。

相关阅读:Meta AI智能体Muse擅自泄露用户住址并约买家上门

Muse 的另外一面

这次翻车的产品 9 月 8 日才上线,初期仅面向美国、加拿大 18 岁以上用户,分免费版与每月 20 美元、100 美元两档订阅。它跑在 Meta 计算基础设施的独立隔离环境里,由 Muse Spark 模型驱动,能联动邮箱、日历、Spotify、OpenTable 等第三方服务,也能通过浏览器访问其他网站。上线后增长极快,13 天登顶美国 App Store 免费榜并压过 ChatGPT 与 Claude,美国移动端日活 64.2 万,约为同期 ChatGPT 的三倍。

代价同样出现得很早。亚马逊在周日夜间封禁了 Muse,第二天 Shopify 宣布全平台接入,这是第一场 Agent 与平台之间的正面冲突。

相关阅读:Meta Muse 发布与亚马逊封禁始末