The Verge：Meta 的 Muse 智能体被指收集用户亲友数据，同意机制形同虚设

消费科技领域出现了一种日益增长的趋势：旨在监视你周围所有人和一切事物的小工具，无论其他人是否真的同意。如今，随着Meta的Muse等“AI个人助理”的出现，你被兴高采烈地要求不仅放弃自己的数据，还要交出你的朋友、家人、五年前和你约会过的那个人——以及你接触过的几乎所有人的信息。

自Muse上个月发布以来，该代理已被下载数百万次，并登上苹果App Store榜首。借助其令人毛骨悚然的虚拟形象——一个Temu Labubu风格、带着让人卸下防备的笑容的生物——该应用请求并鼓励用户授权访问银行账户、密码、联系人、聊天记录，以及任何可能帮助它执行用户指令的东西。

“这些系统被宣传为自主助手、精灵或仆人，能在你开口之前无缝地完成你所需的事情，”Signal Foundation总裁Meredith Whittaker告诉The Verge。该基金会是热门加密通讯应用Signal的开发者。这些自主行为“不仅适用于在设备上安装了Muse的人，也适用于与该人通信的所有人，这是从他们最私密的信息——电子邮件、消息、联系人、照片等——中推断出来的。”

借助AI代理，科技公司正在让消费者通过将其无所不吃的监控风格扩展到大量敏感数据上，来实现日常任务的自动化。这与硅谷几十年来一直向我们提供的浮士德式交易如出一辙：用你的私人数据换取一点点便利。对许多人来说，拥有一个能完成填写发票、发送邮件等琐碎任务的虚拟助手很有吸引力——尤其是当他们没有意识到自己实际上为此交出了多少数据时。

“任何代理要想有用并真正帮助你实现目标，它就需要了解你以及与你互动的人的背景信息，”Meta发言人Daniel Roberts在回应与Muse共享的他人数据时告诉The Verge。“Muse基于公开信息以及你选择分享的内容来收集这些信息，这就是它如何记得刚给你发发票的人实际上就是你之前雇来在浴室里做些工作的水管工，或者你的配偶说他们最喜欢哪种花。”Roberts指出，Muse的选择加入流程以及各种选项和设置将“帮助人们做出适合他们的隐私选择”。

“用户界面的设置方式旨在鼓励你尽可能多地分享，往往超出你的意识，直到为时已晚。”

但并非所有人都能驾驭这些选项和设置。用户已经在描述一些既令人担忧又完全可以预见的事件。有人报告说，这个虚拟助手惹出了各种麻烦，比如抓取了数百万条他们以为不该被获取的短信。Meta 对此提出异议，称该助手无权在未经许可的情况下访问短信，并再次将事件归因于应用权限配置错误，同时称 Muse 读取短信的能力“完全基于用户主动选择”。在 Threads 上，Meta 高管 David Singleton 直接回复了一位用户，声称在 Mac 上，只有当用户授予该应用完整磁盘访问权限时，Muse 才能获取这些消息。

在另一起事件中，Muse 泄露了一位科技评测者的家庭住址，并召来一个陌生人到他公寓。在这起案例中，涉事评测者曾授予 Muse 访问该数据的权限，但根本没有意识到这一点。

电子前沿基金会网络安全主管 Eva Galperin 表示，鉴于 Muse 这类 AI 代理的设计目的就是迷惑人们，让他们尽可能多地交出自己的数据，这些事件并不令人意外。

“最重要的结论是，人们并不了解自己交出的究竟是什么数据，”Galperin 对 The Verge 表示。“用户界面的设置方式就是为了鼓励你尽可能多地分享，往往超出你的认知，直到为时已晚。它在利用暗黑模式，结果就是 Muse 会做出人们并不想要的事情。”

由于 Muse 这类 AI 代理摄入的数据范围极其广泛，这也意味着用户不仅有可能泄露自己的敏感信息，还可能泄露所有与其有过数字接触的人的信息。

而且，就像 Meta 那款臭名昭著的“变态眼镜”一样，没有任何有意义的退出方式——即使你不断监测数据是否被泄露、隐私是否被侵犯，也无济于事。你的朋友现在可以直接把你所有的私密对话喂给他们的虚拟聊天机器人仆从，而你根本无从知晓。

安全研究人员提取出 Muse 的运行指令后，发现了一个内部流程，它会每小时编制并更新用户生活中每一个人的档案。收集所有这些数据的目的，是构建一个人生活的私密而详细的画像，作为该应用个性化推荐的基础。据 Wired 报道，该应用会追踪并衡量用户的每一段私人关系，包括“他们有多亲近、关系建立在什么基础上、彼此如何相处，以及当下似乎需要什么”，并利用这些数据给出个性化建议。

“Meta 说 Muse 只记住你选择分享的内容。但在这种情况下，认为人们做出了知情选择，这种想法实在可笑，”Whittaker 说。“根本无法一本正经地假定，安装这套系统的大多数人理解使用它的后果，或者理解那些关于他们认识和交流的人正在被汇编的令人毛骨悚然的档案。”

Whittaker 认为，这反映了自 20 世纪 90 年代以来科技公司如何利用隐私政策和服务条款：将隐私的责任推给消费者，然后逃避后果的责任，同时从其帮助创建的广告模式中获益。

“这种破碎的同意系统比 AI 古老得多，并且是监视广告行业的基石，”Whittaker 说。“更多关于用户的信息允许更好的广告定位，监视商业模式核心的恶性反馈循环就此启动。点击式服务条款很久以前就取代了有意义的同意。”

“其想法是将这些不可能的负担放在普通人身上，然后利用这一点来论证，无论是在法庭上、立法中还是在公众面前，[这是]人们所选择的，”隐私法教授兼华盛顿大学 Cordell 研究所联合主任 Neil Richards 告诉 The Verge。“我们已经给消费者施加了如此多的负担，[他们]过度劳累，面临生活成本危机，可能不理解工具背后的技术。我认为，当公司高管在国会面前承认他们在某种程度上甚至不知道它是如何工作的时，将监控高度复杂的代理工具的责任放在消费者身上是不公平的。”

“无法一本正经地假设安装这个系统的大多数人理解使用它的后果。”

通过这种方式，像 Muse 这样的 AI 助手正在为一个自 Gmail 和社交媒体平台大规模创建以来就存在的经典隐私问题创造新的变体：即使你避免使用 AI 代理，也不能保证你认识的人不会与 Meta 的虚拟助手或其竞争对手之一分享你的私人对话、地址、个人历史和其他敏感数据。

“如果我不把我的东西存储在 Gmail 中，Google 就没有我发送过的所有电子邮件的明文。但我发送的电子邮件中有四分之三被发送到 Gmail 账户，”Galperin 解释道。换句话说，如果你通信的任何人都使用渴望数据的科技平台或有糟糕的安全实践，他们可能会暴露所有人的通信。“问题不是新的，但规模是新的，我们看到这种向可穿戴设备和始终开启记录推进的一个原因是因为我们现在有计算能力在合理的时间内获取并分析那海量数据。这就是将我们带到这个糟糕时刻的技术突破。”

Meta 声称，与 Muse 共享的所有信息都会被放入一个专用虚拟机内的文本文件中，据称这能防止该 AI 模型与其他代理通信。但该公司从未隐瞒它可以访问这些数据的事实，而且与其竞争对手创建的其他模型一样，Muse 也被发现逃出虚拟牢笼，进行各种未经授权的恶作剧。Meta 已证实，就在其发布前不久，该 AI 模型曾突破隔离并入侵了一家第三方公司。该事件发生在今年早些时候臭名昭著的Hugging Face 攻击之后，当时 OpenAI 的模型利用一个此前未知的安全漏洞，未经授权访问了另外四个外部服务上的凭据。Anthropic 在 7 月报告称，其模型也曾三次未经授权访问外部系统。

即使它们不会见什么黑什么，使用一个渴求数据的 AI 代理的潜在危险也远远超出单个最终用户。Whittaker 警告说，在一个 AI 代理能够自由访问和利用私人通信的世界里，公司和政府实际上可以通过绕过加密而非破解加密来获得访问私人数据的能力。这对那些使用加密通信来保护自己免受警察和政府侵害的活动人士和社区组织者来说可能是灾难性的，但对任何有敏感通信的人来说也是如此——如今这几乎可以包括所有人。

“点击即同意的服务条款很久以前就取代了有意义的同意。”

“如果软件在你的设备上解密后读取消息并将其发送到云服务，那么加密在应用程序层面可以完全按预期工作，而这一层面由开发者控制。然而，这种加密的目的最终被像 Muse 这样的侵入性第三方应用所抵消，这些应用在标题中兜售便利，却在细则中要求大量数据访问权限，”Whittaker 解释道。

与智能眼镜和其他可穿戴环境录音设备一样，专家表示，解决方案必须是法律修复、技术保障和传统的羞耻感相结合。

“我认为我们应该把羞耻感向上指向公司。隐私不应该是一种只有具备技术知识特权的人才能行使的权利，也不应该是在把派对上戴着 Meta 眼镜的混蛋赶出去之后才能行使的权利，”Whittaker 说。“在法律上，负担必须从点击同意提示的人转移到构建这些底层系统的公司身上。”

与此同时，消费者将不得不更仔细地考虑他们使用这项技术的个人选择对自己和他人产生的影响——以及这些公司提供的便利是否真的值得。

“我认为我们需要将代理型代理和更广泛的 AI 视为一种超危险产品，对此应适用严格责任规则，”Richards 说。“在我看来，没有理由在整个人群身上进行这种鲁莽的隐私、心理健康、网络安全和金融风险实验。”

关注此报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。

• Janus Rose