跳到正文
Hacker News· loriscomba·· 9 天前AI 评分62

Mecum 发布 macOS 桌面智能体工作区,称读取 Mac 应用估算 token 比 Cua Driver 少 85–97%

We got 85–97% fewer estimated tokens than Cua Driver for agents reading Mac apps

AI 导读

Mecum 发布面向 macOS 的桌面智能体工作区,可在用户继续使用 Mac 的同时让智能体在桌面应用中执行任务,并支持通过 MCP 接入 Claude Code 或 Codex,即使目标应用没有 API 或 AX tree。

正文 · AI 翻译

Mecum

让智能体在你的应用中工作,同时你继续使用你的 Mac。

Mecum 在你的 Mac 上为智能体提供一个桌面工作区。在 Mecum 应用中给工作者分配任务,或通过 MCP 连接 Claude Code 或 Codex 在桌面应用中工作,即使这些应用既不提供 API 也不提供 AX 树。

Download for macOS Docs Discord Follow Mecum on X

License: Apache 2.0 Swift 6.4

观看 Mecum 实际运行

mecum-readme-20s-v2.mp4

开始使用

Mecum 运行于 macOS 15+,支持 Apple 芯片和 Intel。按照安装指南进行设置。

  1. 安装并打开 Mecum。
  2. 创建一个工作者,连接受支持的模型,并授予桌面工作所需的 Mac 访问权限。
  3. 从一个一次性文档中的小任务开始。指定应用名称、你想要的结果以及智能体应在何处停止。
  4. 跟踪活动并在应用中检查结果。

对于你的第一个任务,让智能体读取一个打开的 TextEdit 测试文档并总结它,不要编辑或保存。

如果你使用 Codex 或 Claude Code,请保持其 CLI 为最新版本,以访问你账户可用的最新模型。

要使用 Swift 6.4 从源码构建,请遵循开发者快速入门。

连接 Claude Code、Codex 或其他本地 MCP 客户端

Mecum 和你的客户端必须运行在同一台 Mac 上。该应用包含 STDIO 桥接;无需安装 Node.js 或 Python。

  1. 保持 Mecum 打开。在 MCP → MCP Connections… 中,为你的客户端命名,选择其功能,然后点击 Add Client。
  2. 打开 Enabled 并等待 Ready。
  3. 展开 Client configuration,使用 Copy Claude Code command、Copy Codex command 或 Copy JSON。优先使用这些生成的值,而不是下面的模板。

Claude Code

claude mcp add --scope user --transport stdio mecum -- \
  "/Applications/Mecum.app/Contents/Helpers/mecum-bridge" \
  mcp-bridge --connection \
  "/Users/YOUR_USERNAME/Library/Application Support/Mecum/MCP/CLIENT_UUID.connection.json"

Codex

codex mcp add mecum -- \
  "/Applications/Mecum.app/Contents/Helpers/mecum-bridge" \
  mcp-bridge --connection \
  "/Users/YOUR_USERNAME/Library/Application Support/Mecum/MCP/CLIENT_UUID.connection.json"

这些是模板。将 YOUR_USERNAME 和 CLIENT_UUID 替换为 Mecum 中的值,如果应用位于其他位置,请使用生成的辅助路径。保持路径加引号。将配置保存在个人设置中。

使用 claude mcp get mecum 或 codex mcp list 检查注册。启动新的客户端会话,使用 /mcp 检查实时连接,然后运行只读连接检查。

每个连接条目接受一个活动客户端。为独立运行的客户端创建单独的条目。切勿分享 *.connection.json 的内容。

完整的 MCP 指南涵盖其他本地客户端、功能和故障排除。并非每个客户端都经过了端到端测试。仅 URL 的 Web 连接器无法使用此本地桥接。

目前可用的功能

支持的框架:AppKit、Chromium、Electron 和 Qt。UXP 支持正在开发中(Adobe 应用)。

工作者轮流控制桌面应用。当一个工作时,其他在队列中等待。

阅读兼容性和限制指南了解当前范围以及如何报告工作流程。

工作原理

  • Driver:用 Swift 编写,它将应用窗口移动到虚拟显示器,并将智能体的输入路由到那里,这样你就可以继续在你的 Mac 上工作,而无需虚拟机。
  • Perception:将当前界面转换为结构化文本,并在窗口变化时刷新它。
  • Brain:构建每个应用控件、关系和转换的地图,为智能体提供有关应用如何工作的上下文。
  • Memory:存储过去的交互及其结果,使智能体在后续任务中能够借鉴这些经验(仍在开发中;回忆可能不稳定,改进正在进行中)。

Driver、Perception 和 Engine 是 Swift 包库,你可以在自己的 macOS 应用中使用。

Mecum 会检查每次操作后发生了什么变化。你可以跟踪活动、查看结果,并从应用中停止工作进程。

桌面窗口转文本流程在本地运行。远程模型可以接收窗口文本、任务上下文和相关应用知识。请阅读 权限与数据。

基准测试

Mecum 的全场景响应比 Cua 的截图 + AX 树响应估计少用 85–97% 的 token。

Driver 对比

1 次预热后运行 8 次。时间包括操作和更新后的视图。

应用 / 框架Mecum 支持Cua 支持Mecum 步骤(毫秒)Cua 步骤(毫秒)
TextEdit(AppKit)部分支持支持1,0691,489
Chrome(Chromium)部分支持支持1,2271,590
Obsidian(Electron)支持支持1,3161,513
Stocks(Mac Catalyst)不可用支持—2,061
kitty(OpenGL/GLFW)部分支持部分支持1,1551,602
DaVinci Resolve(Qt + GPU UI)支持不支持1,269—
Prism Launcher(Qt 6)支持不支持1,127—
Calculator(SwiftUI)支持支持1,0471,355
Safari(WebKit)部分支持部分支持1,2461,385

请参阅完整报告了解方法和支持限制。

每次读取的感知上下文

工具响应中的估计 token 数,而非使用模型执行任务的总 token 数:

应用 / 框架Mecum 完整读取Mecum 未更改Cua 完整读取
TextEdit(AppKit)3851006,185
Chrome(Chromium)9783813,986
Obsidian(Electron)738977,307
kitty(OpenGL/GLFW)142394,566
DaVinci Resolve(Qt + GPU UI)7643817,924
Prism Launcher(Qt 6)622394,157
Calculator(SwiftUI)476383,801
Safari(WebKit)9773834,002

完整读取:完整视图,对于 Mecum 为结构化文本,对于 Cua 为截图 + AX 树。

未更改:自上一步以来没有变化。Mecum 发送简短确认;Cua 再次发送完整视图。

测试硬件:MacBook Pro 搭载 M4(基础型号),16 GB 内存,macOS 27.0.1(26A434)。

阅读方法、结果和逐操作数据 →

贡献

我们欢迎在 Qt driver 覆盖、UXP 和 Flutter 支持、缺失的 Perception 控件方面提供帮助,以及在你使用应用时对 Brain 和 Memory 的反馈。请从 CONTRIBUTING.md 和 GitHub Issues 开始。

如有问题和交流工作流程,请加入 Discord。

许可证

Apache 2.0,版权所有 2026 Forte Audio S.r.l.

来源:Hacker News · github.com