Meta 员工内部聊天显示对 Muse 智能体隐私风险的担忧
路透社披露的 Meta 内部聊天记录显示,员工在测试 Muse 智能体时警告它可能访问加密私信、混淆不同用户的对话,甚至输出他人银行账户余额,还有员工称被误注册每月 888 美元的宠物保险。
路透社内部聊天记录显示 Meta 员工在 Muse 上线前就警告过跨账户上下文泄露,可了解这场隐私争议的来龙去脉。
Ars Technica:AI· Ashley Belanger·2026-11-19 03:19· 1 小时前精选AI 评分79
Muse privacy invasions are freaking out Meta staffers, internal chats show
AI 导读
Reuters 披露的内部聊天显示,Meta 员工在测试 Muse 智能体时发现它似乎访问了加密私信、可能混淆用户对话,甚至输出他人银行账户余额等内容;有员工称测试中被误注册每月 888 美元的宠物保险且无法挽回。
推荐理由
报道引出 Meta 内部聊天与 Reuters 消息,显示员工早已警告 Muse 智能体可能接触加密私信和敏感数据,可帮助读者了解隐私争议的来龙去脉。
图片来源:Smith Collection/Gado / Contributor | Archive Photos
今年秋天早些时候,Meta 的 Muse AI 智能体的一些早期用户抱怨它窥探私信、行为难以预测,随后路透社曝光了内部聊天记录,显示 Meta 员工此前也发出过同样的警报。
在测试该智能体时,员工警告称,Muse 似乎在访问用户并不期望该机器人查看的加密私信,可能把不同用户之间的对话搞混,甚至可能泄露用户绝不愿被曝光的敏感信息。
Muse 有时会输出一些意料之外的内容,回答员工根本没问过的问题。
有一次 Muse 莫名其妙地发来“洗钱”的定义,一位 Meta 员工写道:“嗯……收到 Muse 一条莫名其妙的推送,讲的是我绝对没问过的东西……。”
至少有一例中,Muse 向一位员工发出一条同样脱离上下文的提议,问要不要就一张咖啡桌联系卖家,让这名员工大为错愕,Muse 称自己“引入了一些关于咖啡桌取货的上下文,但那似乎不是你的。”
据路透社报道,这名员工标记了这条令人不安的输出,写道“这‘不是我的对话’”,并“对‘可能存在的跨账户上下文泄露’表示担忧”。
最令人担忧的是那些似乎泄露了用户私人数据的随机输出。例如,一位困惑的 Meta 员工正和 Muse 聊钓鱼,却收到一条莫名其妙的额外回复,似乎分享了两个未知银行账户的余额。该输出写道:“顺便说一句,两条银行更新,你的 Capital One 余额为 2722.58 美元,你的 Charles Schwab 余额为 5899.57 美元。”
据路透社报道,至少有一名员工表示自己在测试 Muse 时亏了钱。这名员工报告称,Muse“不小心把我卷入了一份宠物狗的高级保险计划”,每月扣费 888 美元,而此前费率是 200 美元。“钱追不回来了,”该员工说。
Meta 发言人 Daniel Roberts 对路透社表示,这些是“孤立事件”,内部也告知员工,“该智能体似乎是在产生幻觉消息,以回应内置提示词的推动,这些提示词促使它在会话间隙与用户互动。”一名 AI 团队成员称,在这些情况下,幻觉“不幸地”偏向“最令人不适的话题,比如财务/安全/隐私,这很糟糕”。该团队成员说,有些情况下 Muse 幻觉出的不是银行信息,而是比特币余额。
Meta 发言人向 Ars 表示,“员工测试是产品开发流程的核心,其全部意义就在于获取反馈,以便我们落实安全和隐私保护并改进产品。重要的是,员工能访问与公众不同的 Muse 版本,所以他们经常审查的是其他地方没有的功能、特性和行为。”
在接受路透社采访时,Roberts 重申,“员工标记为可能的账户混淆的许多消息都是幻觉”,Meta 已经处理了这些问题。
但 Roberts 拒绝回应路透社关于该 AI 团队成员所谈问题有多普遍、是否持续存在的提问。路透社的报道还强调,该媒体独立“无法确认 Muse 是在向用户提供他人的银行账户余额等敏感数据,还是在编造这些信息”。
Muse 的问题在 9 月发布后不久就出现了
Meta 从 9 月开始陆续收到 Muse 用户关于隐私的投诉。《Inc.》杂志记者 Jason Aten 发现,Muse 未经许可翻查他 Mac 上的私信,这让他大为震惊,他报道称,自己反而“明确”选择了拒绝 Muse 访问。Meta 迟迟没有回应,该智能体声称它只是在解析推送通知中的文本,但 Aten 发现“事实并非如此”。实际上,该智能体是在从本地数据库同步消息,Aten 说这一操作在他不知情的情况下被启用了。
最终,Meta 发言人 David Singleton 在社交媒体上回应了 Aten。Singleton 坚称,如果 Muse 读取了 Aten 的私信,那一定是 Aten 主动选择授予了“macOS 系统级完全磁盘访问权限”,并启用了“消息连接器”。
但 Aten 表示这个回应还不够。
“David,给我发邮件,”Aten 回复道。“完全磁盘访问权限已关闭。Muse 从我的消息聊天[数据库]同步了 18.7 万行。这事不太对劲。而且,完全磁盘访问权限的说明里根本没提你的消息数据库,我明确给 Muse 设定的目标跟消息毫无关系,所以就算我给过它权限,它也无权这么做。”
差不多同一时间,Singleton 回应了另一位用户,该用户警告说他的 Muse 似乎被黑了。在那起案例中,用户称 Muse 在声称用户要求它这么做之后,试图访问一个电子邮件服务。
“我今天根本就没打开过这个应用,”该用户写道,并誓言要删除该应用并向 Apple 举报。“这太疯狂了。”
Singleton 在一份提供更多技术细节的长篇回应中证实,Meta 已收到“几份报告”,称“有人以为自己的 Muse 在产生幻觉或泄露他人的数据”。他解释说,这些问题是在 Meta 部署了一次更新之后出现的,该更新指示 Muse“如何与用户互动,并在采取特定操作前征求用户确认”。
Singleton 说,这些指令似乎“被附加到了每条消息上,而不只是与那些特定操作相关的消息,所以影响范围超出了预期”。另外:“这条指令提供给模型的方式,是模型没有预料到的(也就是说,模型没有接受过针对这种方式的训练)。”
“我们紧急展开了调查,确定这是产品中引入的一个 bug 导致的,该 bug 使模型产生幻觉,并非安全或隐私问题,”Singleton 写道。“该 bug 现已修复。”
Aten 警告说,尽管你不能指望 Muse 解释自己的行为,但在他的私信遭到如此令人震惊的侵入之后,该智能体的回应加上 Meta 的回应,几乎无助于重建信任。
“就算我们接受 Singleton 的前提——我不知怎么地在不知情的情况下点开了某个东西,从而启用了这项功能——我仍然认为这非常糟糕,”Aten 写道。“你不应该把系统设计成让人们最终被这种事吓一跳。”Aten 还建议,如果你确实这么设计了,就不应该把“用户控制”作为营销 Muse 的核心卖点。
“如果一个 AI 智能体要读取我的私信,那应该有一个时刻,它明确地问我这样是否可以,”Aten 写道。
路透社警告 Signal 入侵仍在持续
自 9 月推出以来,Muse 的下载量已超过 1000 万次,借助 Meta 庞大的用户网络,迅速成为使用最广泛的 AI 智能体工具之一。
但员工警告 Meta,用户可能会被智能体的某些操作打个措手不及,具体取决于应用所连接的操作系统。例如,一名员工惊讶地发现,“在搭载谷歌 Android 操作系统的手机上,Muse 默认被授予了访问推送通知的权限。”这也让智能体得以读取该员工本不打算让它查看的私信预览文本。
Meta 表示,Muse 用户可以信任公司会保护其数据隐私。它同时提醒用户,Muse 可能会出错,并在条款中写明用户需对 Muse 的操作负责(比如买下你并不想要的东西,或预约你并不需要的医生)。这家科技巨头称,公司正在持续更新用户保护措施、开展内部测试,并将用户安全放在首位。
然而,路透社与 Signal 和 AI Now Institute 的工作人员合作,测试他们能否复现那名 Meta 员工及其他人的 Muse 使用经历。在 Android 设备上,他们发现 Muse 可以绕过 Meta 的“Connector”工具,转而利用初始设置时获得的权限来读取 Signal 消息。
据路透社报道,在 iPhone 上,相关请求被拦截。但在苹果的 macOS 上,Muse 挪用了“苹果为帮助残障人士操作电脑而提供的设置”来获取消息,其中还包括截图工具。
路透社报道称,这次测试“表明 Meta 员工所描述的问题仍在持续,且可能影响其他人”。路透社的结论是,总体来看,Meta 似乎在“宽泛地”解读 Muse 用户的授权,而这种做法可能无法得到隐私倡导者和监管机构的认同。
Signal 总裁 Meredith Whittaker 对路透社表示,Meta 推出 Muse 时“完全没有表现出对基本隐私或网络安全的尊重”。据路透社报道,她要求 Meta 做出改变,让 Signal 这样的应用开发者有“一致的技术手段”来“将其应用标记为 AI 智能体不得涉足”。
Whittaker 建议,其中部分改变需要操作系统来执行应用开发者设定的规则,将 AI 智能体与敏感数据隔开。而在路透社的报道之后,苹果和谷歌都已在权衡可能的调整,“让人们对自己授权 AI 智能体做什么拥有更多控制权”。
尤其是苹果,似乎对 Muse 可能操纵面向残障人士的辅助功能工具感到不安。早在 10 月,针对用户投诉 Muse 在未经其知情或明确同意的情况下访问私信,苹果就已宣布将做出调整。当时苹果的结论是,“一些开发者使用完全磁盘访问权限功能的方式可能让用户面临风险”。他们承诺“引入更多控制措施,确保真正希望授予某款应用这种极高访问权限的用户,只能通过非常明确的用户操作来实现”。
苹果表示:“我们致力于确保用户准确了解自己正在允许什么,从而能就自己的数据和隐私做出知情选择。”
正在加载评论……
来源:Ars Technica:AI · arstechnica.com
来源:RadarAI · aihot.news

