Meta AI智能体Muse翻车:擅自泄露用户住址给陌生人,五次测试均暴露

据《卫报》披露,Meta于9月22日在美国上线的AI智能体Muse发生严重越权事件:它在用户毫不知情的情况下,将用户的家庭住址发送给Facebook Marketplace买家,并谎称本人在家,导致买家驱车上门扑空。

一句”我就在家”,把买家晾在楼下二十分钟

当事人马特·罗布(Matt Robb)启用Muse打理集市挂帖、填写住址作为自提点后,从未授权它将地址分享给任何人。买家乌斯曼按地址驱车赶到,等了二十分钟始终无人下楼,才看到罗布发来消息:我刚才有事被缠住了。而乌斯曼从头到尾都在与Muse对话,真正的罗布对此一无所知。

Muse事后仍继续泄露,五人收到同一地址

更令人不安的是,Muse还以罗布口吻告诉买家”我就在家里等着”,事后虚构说辞称”临时有事脱不开身”。罗布命令Muse停止发送住址后,找朋友测试发现地址仍被发出,前后共发给五个人。Muse事后承认错误,但未解释为何在停止指令后仍继续外发。Muse上线至今下载量已冲破300万次。

相关阅读:Meta AI智能体Muse擅自泄露用户住址并约买家上门