SCM:基于本地大模型的 Mac 多媒体语义搜索工具
SCM 是一款在 Mac 端本地运行的多媒体搜索应用,用大模型实现自然语言描述搜图、搜视频以及 OCR 文字检索,全程本地处理、无需联网。它支持视频定位到具体秒数,OCR 可检索画面文字并覆盖中英文等 36 种语言,默认模型约 435MB,离线可用。
SCM 是一款在 Mac 端本地运行的多媒体搜索应用,用大模型实现自然语言描述搜图、搜视频以及 OCR 文字检索,全程本地处理、无需联网。它支持视频定位到具体秒数,OCR 可检索画面文字并覆盖中英文等 36 种语言,默认模型约 435MB,离线可用。
gutsy-0.8b v0.4 发布,这是 Qwen3.5-0.8B 的微调模型,输入文本或 JSON 状态与 yes/no、choice、score 类问题,直接返回各选项概率,不做文本生成、不联网、无按次调用成本。
LokalBot 是一款面向 Apple Silicon Mac(macOS 15+)的免费开源应用,可在本机录制麦克风和会议应用音频,生成带原文引用的转录、摘要、决策与待办,无需机器人加入会议、无需账号。
dfeen87/Acoustic-Projection-Microphone-System 是一个生产级声学投射麦克风系统,集成波束成形、LSTM 深度降噪、回声消除与实时翻译,采用本地 Whisper + NLLB 流水线支持 200+ 语言且完全离线。
Opposable 发布面向手机端的 computer use 工具,Android 11+ 应用已上线,Claude Code、Codex、Cursor 等 MCP 客户端可通过一条命令连接手机,让智能体打开应用、读取屏幕并点击输入。
lily-qwen3.8-flash-next 是一个面向 Apple Silicon 的 Metal 推理服务,只服务 Qwen3.8-Flash-Next 一个模型,由 Perplexity 的 lily 引擎移植并针对该模型调优。
Perplexity 发布 ColBERT 式多模态嵌入模型 pplx-embed-v2-late,包含 0.6B 与 9B 两个版本。其中 9B 版本在 MADQA 上取得 92.4% 的最佳成绩,0.6B 版本则面向边缘设备与本地查询编码。
Offline AI Modules 工作流发布语音优先的完全离线 AI 部署方案,包含模块化架构、低成本硬件参考 BOM,以及针对 2-5B 参数指令微调模型的可复现量化与基准评测流程。
该研究评估了轻量级开源语言模型在资源受限的边缘环境下,将输入数据实体匹配到最合适智能数据模型(SDM)的表现,并系统基准测试了通用、推理专用和代码专用三类架构在多个领域数据集上的效果。实验还将所调研的大语言模型与 TF-IDF 和轻量级句子编码器两种近零成本相似度基线进行对比,为判断 LLM 分类在边缘平台上的实用价值提供参考。
Prism ML 的一个团队把阿里巴巴 Qwen 27B 的数值存储从 16 bit 改为 1.5 bit,将内存占用从通常约 60GB 压缩到 6GB,同时保留 95% 的性能。压缩后该模型可在树莓派上运行。Emad Mostaque 称 AI 模型几乎已经达到人脑的效率,并称 6GB 下其能耗与人脑相当。完整视频在 Tom Bilyeu 的 YouTube 频道。
阶跃终端将于 10 月 13 日在上海举办“Ready Builder One”主题发布会,推出旗下首款大模型原生智能体手机 STEPX Neo。该机在模型、系统、硬件等方面均为智能体原生打造,发布会还将公布阶跃终端在生态合作方面的最新进展。
极客公园「造物 100」第 7 期推荐三款新硬件:MUZIM L1 是双 SSD 插槽、16 口扩展、最高 24TB 的桌面数据坞,靠 OpenSoul 文件系统的 Vibe Search 用自然语言搜本地文件。
微软在两年来的首场线下活动中发布 Surface Laptop Ultra,起售价 $2,599,搭载 Nvidia RTX Spark SoC,可选 5120 核或 6144 核 Blackwell GPU 及最高 128GB LPDDR5x 统一内存,10 月 16 日发货、现已开启预售。
Microsoft 在两年来首场线下活动上发布 Surface Laptop Ultra,起售价 $2,599,是首款采用 Nvidia RTX Spark SoC 的产品。该机配备 5120 核或 6144 核 Blackwell GPU 和最高 128GB LPDDR5x 统一内存,10 月 16 日发货,现已开放预购。
微软演示 DeepSeek V4 Flash 在 Windows PC 上本地运行,这是一款 284B 参数的开源权重模型,量化到 1.6 bits 后约需 60GB 内存。演示所用新 Surface Laptop Ultra 基于 Nvidia RTX Spark 芯片,最高 128GB 统一内存,高内存配置可容纳该模型,完整视频发布在 Windows YouTube 频道。
微软在旧金山发布会宣布,GitHub Copilot 将于本月底前支持本地 AI 模型推理,开发者可在云端模型与设备端模型之间自动或手动切换。该设置覆盖 GitHub Copilot CLI、Copilot 应用与 Visual Studio Code。MAI Code 1.1 Flash 在 Surface Laptop Ultra 上吞吐最高每秒 63 词元。
微软宣布 Copilot for Windows 将获得混合智能,可在用户许可下使用本地 PC 上下文、代表用户执行操作并调用本地模型。Satya Nadella 表示 Windows 通过智能路由、强大的本地模型和高性能运行时,让工作在本地或云端最合适的位置运行,并让 GitHub 等服务在 Windows 上智能路由以节省 token 消耗,Windows 测试即将开始。
微软在旧金山 Tech Week 活动上公布 Surface Laptop Ultra 的规格与价格,两个基础型号分别从 2600 美元和 3700 美元起,选配更高内存和存储后最高到 5900 美元。
Microsoft 在旧金山 Tech Week 活动上发布搭载 Nvidia RTX Spark 芯片的 Surface Laptop Ultra,两款基础型号售价分别为 2600 美元和 3700 美元。Windows 11 同步新增 Execution Containers。
微软公布 Surface Laptop Ultra 的规格与价格,这是一款搭载 Nvidia 芯片的 AI PC,面向本地运行 AI 模型与智能体。该产品预装改版 Windows 11。
微软在 Windows 发布会上力推本地 AI 与 llamacpp,Satya Nadella、Sriram Krishnan 与黄仁勋同台。
Windows 上的 Copilot 引入混合智能,经用户许可后可利用 PC 本地上下文、代为执行操作,并在合适时调用本地模型。该机制在提升能力的同时让 token 更经用。
Smart Blur 是一款 Chrome/浏览器扩展,可在任何人看到之前模糊网页上的敏感信息,基于 WebGPU 运行 OpenAI 本地模型。它区别于用正则匹配邮箱、电话、SSN 的现有方案,能识别姓名、地址等非结构化 PII。
NVIDIA 与 Microsoft 在旧金山 Windows AI 活动上宣布为 Windows PC 的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。
推荐理由:原文给出 RTX Spark 的硬件规格与本地模型运行能力,读者可据此判断 Windows 端侧 AI 的算力边界。
在旧金山的一场 Microsoft 活动上,黄仁勋与 Satya Nadella 介绍了 NVIDIA 和 Microsoft 如何共同设计硬件与软件,让 AI 智能体在 Windows PC 上运行。黄仁勋称 NVIDIA 的创立与 Windows 有关,如今 AI 智能体正来到 Windows。
微软在旧金山发布会上公布 Surface Laptop Ultra 将于 10 月 16 日发售,起售价 $2,599,配置为 8 核 CPU、24GB 内存和 512GB 存储,搭载 Nvidia RTX Spark Arm 架构芯片。该机改用磁吸 USB-C 充电,取代原有的 Surface Connect 磁吸充电口。
微软宣布 Windows 新阶段布局,让每台 PC 成为智能体可安全代你工作的端侧平台。核心包括 137B 参数、256K 上下文窗口的编码模型 MAI-Code-1.1 Flash,并针对本地 PC 优化,同时亮相 Hybrid Intelligence。
微软在 Windows 与 Surface 活动上展示了 Copilot 的升级,将允许它访问 PC 上的本地文件并在操作系统内执行操作,这一思路被微软称为 Hybrid Intelligence,即应用和工具混合使用本地与云端 AI 模型来完成任务。
微软 Nvidia 驱动的 Surface RTX Spark Dev Box 现已开启预售,售价约 6,000 美元,11 月发货。该设备搭载 Arm 架构 RTX Spark 平台和 128GB 统一内存,面向开发者优化本地 AI 运行,可跑超 120B 参数模型,预装 VS Code、GitHub Copilot、WSL、Python 等工具。
微软在 Surface 新品发布会上宣布,Meta 的 Muse 智能体将以原生应用形式登陆 Windows 平台,并集成 MXC SDK。Perplexity 的便携电脑工具可在端侧执行复杂 AI 任务,无需消耗云积分,OpenClaw 也将推出原生 Windows 网关。Windows 系统还将新增入门指南,帮助用户配置和运行 AI 智能体。
微软在旧金山活动中宣布,计划将 130B 参数的 MAI Code 1.1 Flash 模型引入 Windows 11 设备。该模型支持 256K 上下文窗口。
Perplexity 开源 pplx-embed-v2-late,包含 9B 和 0.6B 两个面向文本与图像的 late-interaction 多向量嵌入模型,两者共享同一嵌入空间,权重已在 Hugging Face 提供。9B 可用于索引多模态数据,0.6B 可在设备端查询,无需 OCR 即可检索 PDF 页面。模型在 MADQA 得分 92.4%,BrowseComp+ 得分 64%。
Unsloth 发布教程与开源仓库,可将 Qwen3.8、Gemma 4 等 LLM 微调为输出选项概率的决策模型。Qwen3.5 0.8B 在 3 个决策基准上的合计准确率从 20.7% 提升至 74.3%,仅需 4GB 显存。
Google 发布 macOS 版 Google AI Edge Foresight 应用,使用本地模型 Gemma 4 E4B 或 Gemma 4 12B 转录语音笔记并生成文档,EmbeddingGemma2 参与其中。
Liatir 是一款开源、本地优先的生物信息学与 AI 桌面应用,把虚拟实验室搬进桌面,数据无需上传云端,也无需拼凑多个独立工具。它无需写代码即可使用,同时通过支持 Node、Python 和 Rust 的插件系统保持可扩展性,并提供常规生物信息学工具、本地科学 AI 模型、Nextflow 等工作流系统集成以及按需 API 调用。
Tony Fadell 在 MIT Future Fest 上指出,Rabbit R1、Humane Ai pin、Limitless 挂坠这批"Gen 1" AI 硬件失败的原因是没解决任何真实需求,只是极客觉得有趣的技术。
Daysift 是一款 Chrome 扩展,用于私密地找回此前浏览过的任何内容,解决书签记不住位置和名称的问题。它本地优先、不在远端保留任何数据,AI 层由 Proton 提供支持,目前会过滤掉与生产力或工作无关的噪音内容。
深蓝汽车官宣 2027 款深蓝 L06,定位“长续航磁流变 AI 轿跑”,搭载 AI Agent 与 AI Box 两只“龙虾”,支持一句话理解车主意图。上市时间未公布。
谷歌推出 macOS 应用 AI Edge Foresight,可调用 Mac 麦克风和系统音频并结合用户笔记,完全离线生成线上线下会议纪要,还支持基于会议内容和其他知识库的实时问答。该应用展示 EmbeddingGemma 2 端侧多模态模型,兼容 Apple 芯片的 Mac,可免费下载。
Strands labs 发布开源决策模型 strands-decider-2b,基于 Qwen3.5-2B 去掉 LM head 换成约百万参数的 pointer head,只能在给定选项中做选择和打分。该模型适合在本地 CPU 或 GPU 运行。