跳到正文
Hacker News· eustoria·· 9 天前AI 评分38

隐私、完全磁盘访问权限与 AI 智能体:macOS 面临的新挑战

Privacy, Full Disk Access and AI Agents

AI 导读

Apple 正紧急审查 macOS 隐私保护机制,计划收紧"完全磁盘访问权限"(Full Disk Access)的使用。Meta 新应用 Muse 等 AI 智能体需要完全磁盘访问权限才能读取 iMessage、Notes、Email 等敏感数据,但其文档承认智能体"可能不准确或采取意外操作",且用户需自行承担全部责任。

正文 · AI 翻译

你大概已经听说,Apple 正在紧急审查 macOS 中的隐私保护,并打算在“隐私与安全性”设置中对“完全磁盘访问权限”实施更严格的使用要求。本文解释正在发生什么,以及为什么我们都需要对此感到担忧。

隐私保护

在过去十年里,对我们数据隐私的威胁既发生了变化,也大幅增长。尽管其中一些反映了窃取型恶意软件日益得逞,但对大多数用户而言,最大的威胁来自我们每天使用的看似无害的服务和应用。Apple 并没有在这个日益充满敌意的世界里弃我们于不顾、让我们自求多福,而是希望其操作系统能提供我们保护自身隐私所需的工具,并且自 macOS Mojave 起就一直在内置这些工具。

保护隐私很复杂,而随着时间推移,macOS 的保护机制也变得越来越复杂。早期的区分之一,是应用和服务可以访问的文件夹和位置。尽管 Apple 并未提供一份单一、连贯的清单或说明,但目前以下这些似乎是最常遇到的:

  • ~/Documents
  • ~/Downloads
  • ~/Desktop
  • 可移动宗卷
  • iCloud Drive
  • 第三方云存储
  • 网络宗卷。

在大多数 Mac 上,前三个是迄今为止最常见的,可移动宗卷紧随其后。其他则更取决于你的硬件配置,例如你是否使用网络共享或第三方云服务。

有各自独立的系统控制不同形式的访问。当我们使用标准的“打开文件”对话框明确选择一个文件时,我们表达了读取该文件的意图,无需再单独授予该应用访问该文件夹的权限。对于应用和服务想要在不涉及我们的情况下访问的位置和文件,则适用独立且更严格的控制,这被区分为经由同意而发生,并在“隐私与安全性”设置中的那些长列表里进行控制。

完全磁盘访问权限

当前的设置是粗放的工具。如果你想让某个应用能够遍历你的个人文件夹内的各个文件夹,寻找特定类型的扩展属性,或者检查编码后的 Spotlight 搜索能否在那里找到文件,唯一的办法就是授予该应用“完全磁盘访问权限”。

这对“终端”来说是常见做法,否则我们想运行的一些命令将不被允许访问许多文件夹或文件。它对备份工具也至关重要,否则我们 Mac 上的文件几乎都无法备份。“完全磁盘访问权限”范围很广,可访问个人文件夹中一些最敏感的数据,例如“信息”和“邮件”的内容。

AI 智能体

随着 AI 智能体的引入,这一点最近又发生了变化,例如在美国可用的 Meta 新应用 Muse。虽然这些与 Siri AI 中引入的功能有一些表面上的相似之处,但存在重要差异。给 Muse 一个目标,它会用 AI 找出如何实现该目标,然后代你运行。为了有效运作,它依赖于能够访问你所有最私密的数据。Muse 并非独一无二,ChatGPT 智能体和 Microsoft Copilot 助手正迅速朝同一方向前进。

Meta 明确指出,“你的智能体还可以读取你电脑上应用中的信息,例如 iMessage、备忘录、提醒事项、邮件和日历”。“要让你的智能体使用你的电脑,你将被要求授予 Muse 权限,这些权限由 macOS 设定和控制,而非 Meta:完全磁盘访问权限,以便你的智能体能够查找、读取或更新文件。此权限涵盖你 Mac 上的所有文件,但你的智能体只会使用你要求它处理的文件和应用程序信息。”

漏洞

这些智能体,如同整个人工智能一样,会犯错。Muse 的文档承认智能体“可能不准确或采取意外行动”。你可能没有意识到的是,你要独自负责这些行为,以及其智能体可能做的任何其他事情。给开始使用 AI 智能体的人的建议是,从“低风险”任务开始,例如阅读消息而不是发送消息,并且只在智能体需要时授予其访问特定服务的权限。低风险和高风险任务的概念应该敲响警钟。

由于其本质,智能体也天生容易受到外部操纵,使用诸如提示注入之类的技术,即精心制作的内容被故意呈现给智能体作为指令,使其偏离原本意图。Muse 已经被 Objective-See 基金会的 Patrick Wardle 检测并报告存在安全漏洞。

AI 智能体会维护其活动日志,但没有任何像 Apple Intelligence 报告那样详细且可审计的内容。即使你花时间研究这些日志,它们也只能告诉你已经发生了什么。

即将到来的变化

无论你是否曾想在 Mac 上释放 AI 智能体,Apple 确实需要紧急完善完全磁盘访问权限。但其设计和工程不能仓促进行。仅仅增加当前隐私设置的复杂性不会帮助用户,许多用户已经觉得隐私保护令人困惑且不透明。

另一种方法会更激进,那就是将 AI 智能体视为潜在的恶意代码,而根据其供应商自己的承认,它们确实如此。Apple 届时将有充分理由拒绝为其公证,并有义务将其排除在 App Store 之外。尽管这一理由充分,我不认为 Apple 会如此对抗,而是会尝试完善现有的完全磁盘访问权限,以鼓励用户限制 AI 智能体可能造成的损害。这是否有效还有待观察。

我认为我们谁都没有预料到 macOS Golden Gate 会限制 AI 能做什么。

建议

根据其文档,Muse 的 AI 智能体“可能不准确或采取意外行动”,但可以信任其“只[使用]你要求它处理的文件和应用程序信息”。如果出了任何问题,你要独自负责。如果你想在 Muse 或任何其他第三方产品中尝试 AI 智能体,在 Apple 完全解决隐私问题之前,不要授予它们完全磁盘访问权限。

来源:Hacker News · eclecticlight.co