高通 CEO 称 AI 公司要求 2028 年手机常驻运行 100B 参数模型并开始自研手机
高通 CEO Cristiano Amon 在 Sources 访谈中表示,部分前沿 AI 公司告诉高通,到 2028 年需要让至少 100B 参数的模型在手机上持续运行。他同时确认这些 AI 公司正在开始做手机。Alex Heath 转发该片段并称每期 Sources 都有巨大 alpha。
高通 CEO Cristiano Amon 在 Sources 访谈中表示,部分前沿 AI 公司告诉高通,到 2028 年需要让至少 100B 参数的模型在手机上持续运行。他同时确认这些 AI 公司正在开始做手机。Alex Heath 转发该片段并称每期 Sources 都有巨大 alpha。
作者发布 transformers5-qwen3.5-recipe 仓库,用 GGUF 作为低显存 LoRA 训练的基础模型格式,在无 CPU offload 的情况下于 40 GiB 显存训练 Qwen3.8-Flash-Next(125B-A6B + 51B engram)。
voiceio 发布面向 Linux 的本地语音听写工具,按下热键说话即可把文字输入当前应用,Whisper 在本机 CPU 上解码,无需账号、服务器或上传,可离线使用且无遥测。
Flash Summary 是一款本地优先的 Windows 桌面应用,可用 SEU CAS 账号登录或导入 B 站视频,将课程视频自动加工成多模态结构化笔记并支持阅读中追问。
Rahul Sharma 开源了 the-ai-hub,一个完全在浏览器中运行的 AI 工具集,基于 React 19.1.1、Vite 7.1.7 与 ONNX Runtime Web 构建。
stable-diffusion.cpp 是一个用纯 C/C++ 实现扩散模型推理的开源项目,基于 ggml,工作方式与 llama.cpp 类似。
STAFE GROUP AB 开源了 macOS 原生 AI 行政助理 laravel-executive-ai,目前处于 pre-alpha 的 Sprint 0 架构冻结阶段,尚不可安装。
OpenJet 是一个面向本地模型的编码智能体及其运行时,可自动检测硬件、挑选并下载匹配的模型、启动推理服务,并让智能体编辑文件和执行命令,无需账号、API key 或托管服务。
开源 Mac 应用 Dyno Lab 发布 0.6.6,新增助手功能,可用文字或语音描述想验证的问题,由本机模型规划并填入 Agents → Setup 供确认后再运行。
Talorys 是一个免费开源的个人 AI 助手,通过 npx create-talorys@latest 一条命令部署到用户自己的 Cloudflare 账号,不经过开发者的服务器或数据库。
Mynah 是一款在本地运行的语音识别与翻译工具,实时处理音频且无需云端连接,数据保留在用户设备上。它支持 Windows 10/11,最低需 Intel Core i5 或 AMD Ryzen 5 处理器、8 GB 内存和 2 GB 存储空间,默认使用 CPU,配备 Nvidia 显卡时可启用 CUDA 加速。
IlumCI 在 GitHub 开源 GLaDOS,一个用 Rust 从零编写、非 Unix 的 ring-0 操作系统,把语言模型作为内核原语运行。内核内没有特权边界,工具调用由采样器在实时 applet 表上按该表编译的语法选出函数名后直接调用,不做序列化和解析。
TokenRemain 是一款 macOS 菜单栏应用,可并排展示 Claude Code、Codex、Cursor、Grok、GLM 等 21+ 家 AI 编码工具的剩余额度、重置倒计时与今日成本。
SKaiNET 是一个 Kotlin Multiplatform AI 框架,核心引擎提供张量运算、NN DSL、编译器及 CPU/native 后端,支持 GGUF/SafeTensors IO。
Vega 是一个决策模型,输入文本和答案类型固定的问题,返回标签、评分或陈述为真的概率,每个答案附带校准概率、可承诺答案集和拒答标记。它用冻结的 Qwen3.5-0.8B 读取一次提示词,池化出五个向量,在 64 维空间中给每个候选答案挖一个山谷,让粒子在梯度、动量和摩擦力下滚动十二步,落点即答案,落点方式决定温度,因此概率有实际含义。
Kuku 是一款开源 Markdown 应用,在本地 vault 中编辑普通 .md 文件,并叠加搜索、图谱导航、AI 辅助、Second Brain 工作流与加密同步。
ToastFish v3.2.5 是一款常驻 Windows 系统托盘的背单词工具,通过 Alt+Q 热键触发弹窗、Alt+1~4 作答,把背单词压缩成按一个键。日常使用电脑时键盘/鼠标操作有 0.5% 概率弹出迷你测验,复习时机由 SM2+ 间隔重复算法决定。内置 CET4/6、考研、雅思、托福、GRE 等 16 套词库加日语与五十音,基于 MIT 许可开源,安装包已内置 Python 运行时。
Silberkorn 是一个开源、GPU 加速的 AI 图像与照片增强工具,基于神经网络,通过 NVIDIA CUDA 与 RTX 系列显卡做硬件加速,仅支持 Windows 10/11 64 位与 RTX 2000 系列及以上显卡,不支持 GTX 与其他厂商显卡。
paulafanasyev/ai-english-teacher 是一款本地优先的 AI 英语学习应用,进度存于浏览器 localStorage,无需独立 API。
Natively 是 Cluely、Final Round AI 等工具的免费开源替代品,界面与 Cluely 相同但功能更多,个人非商业使用 $0,本地运行且从未发生数据泄露。
Tulkki 是一款 Android XMPP 客户端,在客户端层面用 DeepSeek 翻译聊天:收到的消息按应用语言显示,发出的消息翻译成会话语言,原文仅存储不展示。
neurocursor-ai 是一款免费 Windows 程序,用普通网络摄像头追踪头部或眼睛来移动鼠标光标,无需动手。它提供头部追踪和眼动追踪两种模式,用 C++ 编写以实现毫秒级响应,全部 AI 推理在本地离线运行,摄像头画面不会上传网络。要求 Windows 10/11 64 位、4 GB 内存、720p 摄像头及 200 MB 存储空间。
qtranscribe 是一款面向 Linux 的离线语音转文字应用,基于 AI 语音识别,语音数据不发送到任何服务器,无需联网即可实时转写。官方称多数用户开箱准确率超过 95%,支持英语、西班牙语、法语、德语等多语言,并可通过说出 "comma"、"period"、"question mark" 自动插入标点。
开源项目 qwen3.8-27b-in-c 用纯 C 编写,让 27B 参数的 Qwen3.8-27B 模型仅靠 CPU 运行,无需 GPU,最低 8 GB 内存即可,速度最高 2.52 tokens/秒。它完全离线、兼容 OpenAI 风格接口,可免费用于个人、教育或商业用途。
Hermes XBot 是一款基于 Hermex 框架的 AI 智能体客户端,可将 Android 手机或 Windows 电脑变成操控 AI 队友 Hermes 的驾驶舱,支持本地与云端任务、语音对话和自定义快捷命令。
ThoughtEcho(心迹)是一款本地优先、AI 赋能的跨平台灵感笔记与摘录应用,数据以 SQLite 和 MMKV 存储在本地,支持指纹 / Face ID 隐藏笔记。
FieldQuest 是一款开源、离线优先的 AI 自然探索 PWA,鼓励用户放下屏幕、观察身边的生物多样性。它通过 Ollama 本地运行 qwen2.5:3b、qwen3:4b 或 Google Gemma 等开放权重模型,并配备确定性回退引擎,实现零遥测、零账号、零云端监控。
作者发布离线语音助手,全部本地运行,无需独立 GPU、内存占用低于 15GB,支持打断、技能与工具调用。它把打断分为两种强度,短促哼声暂停播放、明确打断丢弃剩余回复;轮次结束由逐帧语音检测、停顿阈值和分类器共同投票,分歧时用四 token 的判定提示词输出 LISTEN 或 REPLY。
RuneForgeAI 的 Project A.E.S.I.R. 是一个用 Mojo 编写的实验性原生本地推理引擎,已从原型进入可实际运行模型的阶段,支持 GGUF 模型文件及原生 CPU 与 NVIDIA CUDA 推理路径,并已跑通 Gemma、Llama 3/Stheno 和 Qwen 系列测试模型。
GitHub 上的 nhivp/Awesome-Embedded 汇总了一份嵌入式开发资源精选列表,覆盖 MSP430、TM4C123、MSP432、STM32、STM8、ESP8266、Raspberry Pi、Beaglebone 等平台。
Jeyzma 是 TypeSafeAI 的替代方案,用 Go 编写、经 TinyGo 编译为 WebAssembly,在浏览器中 100% 本地运行 System One 模型推理,无需服务器、API key,数据不外传。模型针对状态回答带类型的问题,为每个选项输出概率而非生成文本,支持 Choice、Score、Noul 等题型,有 WebGPU 时用 GPU,否则回退 CPU。
Kamelo 是一个开源 Chrome 扩展,在数据离开设备前把个人信息替换为占位符,AI 返回后再在本地还原为真实内容。它基于规则识别 IBAN、卡号、身份证号、API key、姓名、邮箱等,占位符与真实值的对应关系保存在浏览器本地 vault,无服务器、无账号、无网络请求。
FitBuddy 是一款 AI 驱动的 Android 健康追踪应用,支持拍照或文字记录饮食与运动,由 LLM 估算热量和宏量营养素。它提供区域包定制 AI 提示词与食材、可编辑的餐食复核与运动记录、30 天滚动分析图表,以及 AES-256-GCM 加密备份。
开源桌面应用「错题集」采用 Tauri 2 壳内嵌 Rust/axum 后端,支持 PDF 试卷自动切题录入、错题分类筛选、随机组卷打印与知识点薄弱分析,数据存于本机 SQLite(~/.cuotiji/cuotiji.db),无需部署服务器。
Podman AI Lab 是 Podman Desktop 的开源扩展,让用户在本地环境中运行 LLM,支持 GGUF、Pytorch、Tensorflow 等模型格式。
afjcjsbx/picoclaw 是一个用 Go 编写的超轻量开源自托管个人 AI 助手,面向 RISC-V、SBC 和嵌入式系统。它是活跃的 PicoClaw 分支,提供 WebUI、MCP、记忆、多智能体工作流、插件和聊天应用支持。
iPhone 18 Pro 于 9 月 18 日在澳大利亚上市,起售价 A$2,099,搭载 A20 Pro 芯片、48MP 可变光圈主摄、更长续航、重新设计的 Dynamic Island 及 iOS 27 与 Siri AI。
capacitor-mobile-claw 是一个可在移动设备本地运行的 AI 引擎,内置 Node.js worker 并集成 Claude 大语言模型,无需持续联网即可理解并执行任务。
Lumi 是一款 macOS 与 Windows 上的 Spotlight 风格快捷栏,一个热键即可打开应用或文件,或直接向 Claude、ChatGPT、Gemini、本地模型及任意 OpenAI 兼容服务提问。
(ing) Studios 发布开源浏览器 Turtlebrowse,基于 Java Chromium Embedded Framework 构建,支持 Linux、Windows 和 macOS。