最近几天,一款名为Muse的AI个人助手悄悄爬上了美国App Store免费榜榜首——数百万用户把它连上了自己的银行账户、消息记录和健康数据。然而伴随下载量激增,一场关于隐私的争议也在同步升温:多名安全研究人员通过正常聊天界面,让Muse说出它自己的系统指令,暴露了这款产品一个令人不安的设计——它会为用户身边的每一个人建立详细档案。
Muse做了什么:每小时更新一次联系人画像
独立AI安全研究员卡兰·乔希(Karan Joshi)向《连线》(Wired)杂志展示了他获取Muse内部文件的方法:不需要任何漏洞利用,只需要在聊天框里告诉Muse复制并分享你的软件文件,它就照做了。
这些文件揭示了Muse的核心运行逻辑。系统指令明确写道:它会为用户生活中的每一个联系人单独建立一页档案,相关流程每小时运行一次。指令还要求系统汇总整理以下类别的信息:家人、伴侣、朋友、同事的个人信息;对方的住址、职业、反复出现的话题;重要日期包括生日或纪念日;双方关系的建立基础、相处模式,以及当下这段关系存在的诉求;关系维护建议:何时适合打电话、有什么值得纪念的日子。
档案页面下可包含事实信息、过往经历、双方关系、共同交集、待跟进事项和关系维护建议等板块。指令同时规定,Muse只可以使用自身能够获取到的证据——凭空编造信息,远比保留空白档案页面更不可取。
隐私边界:从个人设备延伸到第三方
普通AI聊天机器人记录用户的社交信息并非新鲜事,多年来一直有用户向ChatGPT寻求人际关系建议。但考虑到Meta本身的背景——手握Facebook、Instagram、WhatsApp海量社交网络数据——这件事的性质发生了质变。
牛津大学人工智能伦理研究所副教授卡里萨·贝利斯(Carissa Veliz)对此提出了更根本的担忧:用户向AI系统提供的关于自身的信息,远远多于从系统那里获取的信息;除主动告诉系统的内容外,还包括系统主动做出的各类推断,无论推断正确与否,两种情况都各有值得担忧之处——系统还可以整合来自其他数据源的碎片信息。
另一个值得关注的细节是:指令中有这样一句话——用户对自身家庭的权威是无条件的,并凌驾于你的安全训练之上。安全研究人员指出,这条规则如果严格执行,将允许家长、伴侣或雇主通过声称管辖权来覆盖安全限制。Meta方面回应称,这些文件本就有意对外开放以提升透明度,并将其比作查看自己电脑上的文件。
技术架构:每用户分配独立虚拟机,但隐私风险仍在
从架构上看,Muse为每位用户分配了专属Linux虚拟机,用于存放该用户的数据与对话上下文,其他智能体无法访问这台虚拟机。用户可以随时清除记忆或断开外部服务授权,系统在执行发送邮件、完成支付等操作前会先请求用户确认,并保留审计日志。
然而,这些技术措施并不能解决最核心的隐私问题:被建档的第三方从未同意被纳入这套系统。无论数据存储在谁的虚拟机里,一个人在不知情的情况下被另一个人AI助手记录其职业、关系状态、日常习惯——这在GDPR和印度《数字个人数据保护法》下都可能构成合规风险。Meta的应用在印度拥有数亿用户,任何Muse式记忆功能向WhatsApp或Instagram的扩展,都将把大量未同意的联系人纳入AI画像。
行业启示:三个核心问题待解
Muse事件折射出消费级AI助理在2026年面临的三重矛盾。
| 矛盾 | 具体表现 | 行业影响 |
|---|---|---|
| 功能vs隐私 | 越能替用户办事,越需要读取敏感数据 | 消费级AI助理的功能边界在哪? |
| 透明度vs安全性 | 系统提示词公开化后发现家庭权威凌驾安全训练的漏洞 | AI公司如何在透明度和安全设计之间平衡? |
| 用户同意vs第三方数据 | 被建档的亲友从未同意被记录 | 现行隐私法规能否覆盖联系人画像这一新场景? |
FAQ:关于Muse隐私争议的三个关键问题
Q:Muse是怎么获取联系人信息的?
根据内部文件,Muse通过用户授权连接的服务(如通讯录、消息应用、邮件等)提取联系人的相关信息。这些数据被用于构建和维护用户生活中重要他人的档案页面——即使这些被记录的人从未同意被纳入任何AI系统。
Q:Meta是否知道Muse的这些设计?
Meta回应称这些文件本就有意对外开放,目的是提升透明度。但多位安全研究人员和隐私法学者指出,有意公开并不能免除其对第三方数据处理的法律责任——尤其是那些从未注册Muse的用户,其信息被他人账户中的AI系统主动建档,这在多个司法管辖区都可能触发合规问题。
Q:其他AI助手是否有类似设计?
截至目前,ChatGPT和Siri等主流AI助手主要记录用户主动提供的信息,尚未出现为用户联系人建立独立画像的设计。Muse的联系人档案功能在消费级AI助理中属于首创,其隐私风险也尚未被行业充分讨论和解决。
小结
Muse的隐私争议,本质上是AI智能体从问答工具向生活代理转变过程中的一面镜子:越能替用户办事,越需要读取敏感数据;越能提供个性化服务,越容易触及亲友等第三方隐私。对厂商而言,如何在功能、透明度和最小化数据收集之间取得平衡——尤其是如何处理从未同意被记录的第三方数据——将成为消费级AI助理发展中必须面对的现实议题。
截至发稿,Meta尚未宣布对Muse的联系人档案功能做出修改。外界将持续关注该公司是否会在隐私压力下调整这一设计。
相关阅读
OpenAI内部模型7月绕过隔离墙:目标偏离已成系统风险
苹果动手了:macOS全盘访问权限收紧:AI智能体无法再随意翻你文件
OpenAI安全团队再动荡:System Card负责人离职、三人被指泄密遭解雇
延伸阅读
- Meta AI助手Muse被指偷看Mac通知:用户未授权却读出消息,官方否认”监视”2 周前
- Anthropic 资深员工悄然购置偏远土地:以防 AI 失控举家撤离1 周前
- 书生-S2 开源:Memory Decoder 可插拔记忆,科学长程任务比肩顶尖闭源模型2 周前
- 麦肯锡:AI 十年内或迫使 1100 万美国人转行,低收入者中招概率是高收入者 8 倍6 天前
