NDS 开源浏览器端 PII 脱敏系统 Rampart
NDS 开源 Rampart，一个在浏览器端运行的设备内个人信息过滤系统，由正则规则层与 MiniLM 模型组成，在消息发送前完成脱敏，不经过服务器。官方称模型含 tokenizer 共 14.7MB，WebGPU 下 p50 运行时延迟 3.9ms，在 30,000 行 OpenPII 留出测试集、七种拉丁字母语言上的隐私词召回率为 98.42%。
#端侧
Hacker NewsAI 评分6262 GitHubAI 评分2222 FlexLogix：能学习你动作语言的认知计数 AI 健身助手
FlexLogix 是一款基于 OpenCV + MediaPipe 的离线动作解读工具，用 17 点骨架时序编码生成 128 维动作指纹，再由 LSTM 分类器把每次动作判为 Full / Partial / Swing / Junk Rep 四类。
Hacker NewsAI 评分6262 Glimpse：在 Windows 上按文字或外观查找任意截图
作者发布 Windows 本地截图检索工具 Glimpse，按 Win+Alt+S 后输入记得的字母即可定位截图，也可用 network diagram 这类描述按外观搜索。
GitHubAI 评分3838 ask-physics：完全本地运行的物理问答工具，自研 Fermi 模型加 Noether 数学引擎
ask-physics 是一款 100% 免费、完全本地运行的物理问答工具，不调用任何外部 API、无需 API key 或账号。
GitHubAI 评分2222 VoiceFlow 1.2.7 发布：本地 Whisper 语音转文字桌面应用
VoiceFlow 1.2.7 发布，这是一款基于本地 Whisper 推理的跨平台语音转文字桌面应用，支持 Windows、macOS 和 Linux。应用提供 Whisper Base 和 Whisper Large v3 Turbo 两种质量档，支持西班牙语、英语、法语、德语和葡萄牙语五种转录语言，音频与转录内容均不上传云端。
GitHubAI 评分3838 MUSH：本地 AI 智能体编排的通用 Shell 工具包
MUSH 是一个完全本地运行的便携式 AI 智能体工具包，无需服务器和 API key，支持纯本地模式（Gemma 2B、Phi-3、Llama.cpp）与混合模式（GPT-4o、Claude 3.5 Sonnet），代码执行和文件操作始终留在本地。
GitHubAI 评分3636 LMSupply：面向 .NET 的本地模型按需推理库
LMSupply 是面向 .NET 的本地模型按需推理库，应用不打包任何模型，首次调用 LoadAsync 时才下载模型、tokenizer 与运行时组件并缓存复用，无需配置或 API key。它提供 Embedder、Reranker、Generator、Captioner、OCR、Whisper 转写、Piper 合成等包，支持 ONNX 与 GGUF，两行代码即可完成文本嵌入。
GitHubAI 评分7070 coreai-model-zoo 发布 Apple Core AI 模型库与转换配方
john-rocky/coreai-model-zoo 发布面向 Apple Core AI（iOS 27 / macOS 27 的端侧 ML 运行时，Core ML 的继任者）的模型库，收录 Qwen、Gemma、MiniCPM、Whisper、Kokoro 等大量已转换的 .aimodel 模型，每个模型都可下载并附带生成它的 recipe.toml 转换配方。
GitHubAI 评分2222 Tarunjit45/local-researcher：语音合成终端 AI 助手
Tarunjit45/local-researcher 是一个基于终端的离线 AI 研究工具，通过 Ollama 调用本地小语言模型生成结构化解释，并用 pyttsx3 离线 TTS 引擎朗读研究摘要。它支持可调语速与音量、彩色终端界面和 Markdown 渲染，零 API 成本，面向低配笔记本与边缘设备，采用 MIT 许可证开源。
GitHubAI 评分3838 NobodyWho Chat：完全离线的本地 AI 助手
NobodyWho Chat 是一款完全离线、数据不出设备的本地 AI 助手，基于 NobodyWho 库并调用 llama.cpp 运行 LLM，无需联网、账号或订阅。它支持本地模型实时流式对话、工具调用，以及多模态模型的图像与音频输入。
Hacker NewsAI 评分6060 Pulsar 发布：在 M5 Max 上以 148 tok/s 运行 Qwen3.8-27B 写代码
Pulsar 发布面向 Apple Silicon 的推理引擎，支持 Qwen3.8-27B 与 Qwen3.6-35B-A3B，在 M5 Max 上写代码达 147.8 tok/s，编辑代码峰值 452 tok/s。
GitHubAI 评分6262 nlsh 发布：用本地 LLM 把自然语言转成 Linux 命令
nlsh 是一个通过 Ollama 或本地 llama.cpp llama-server 调用本地 LLM 的工具，用自然语言描述需求即可返回 3 条可执行命令，并逐条解释管道、参数和链式命令。
GitHubAI 评分6262 PagedMoE 发布：在 Apple Silicon 上从 SSD 分页 MoE 专家权重
PagedMoE 是一个面向 Apple Silicon 的 MLX 工具，把 MoE 专家权重卸载到内置 SSD 并按需分页进 Metal，让超过统一内存的模型也能运行，无需 CUDA、NVIDIA 或额外量化流程。
RadarAIAI 评分6262 腾讯开源多语言翻译模型 Hy-MT2，支持 1.25-bit 量化与指令遵循
腾讯发布开源多语言翻译模型 Hy-MT2，提供 1.8B、7B、30B 三种规格，支持 33 种语言，由 Gemma 4 微调而来。其中 1.8B 版本经 AngelSlim 量化后仅 440MB，适合端侧部署，并支持术语一致、风格指定等可控翻译指令。摘要称其翻译性能优于微软和豆包 API。
GitHubAI 评分2222 Jev Home Assistant Sentinel：为 Home Assistant 的 AI 设备决策加一道安全边界
Jev Home Assistant Sentinel 是一个 Home Assistant 集成，把 AI 辅助的物理设备决策限制在建议范围内：它向 Jev 发送有界案例，执行确定性策略检查，并将状态验证与命令结果分开记录。v1.4.0 以 shadow 模式运行，只发出决策事件、不派发设备动作，支持 api_only、local_only 及两种回退共四种决策模式，本地槽位默认使用 Laya。
GitHubAI 评分2222 LAPAI 实验项目：本地运行的 AI 智能体系统
LAPAI（Local Agent Personal Artificial Intelligence）实验项目在 GitHub 开源，主打本地模型执行、持久记忆系统与 OpenAI 兼容 API，强调隐私、低运营成本与离线优先。
GitHubAI 评分2424 ModelPort：用 Python 打包模型，在 Flutter 应用一行 Dart 跑端侧推理
ModelPort 是一个早期开发中的开源项目，用 Python 的 modelport CLI 将 PyTorch 或 Hugging Face 模型导出为 ONNX、ExecuTorch、GGUF 等移动格式，校验转换结果并生成 modelport.json 清单，Flutter 端再用一行 Dart 加载运行。
Hacker NewsAI 评分3030 Fruit Inspector 0.10.0：用 Nim 在老旧 CPU 上实现 40 FPS 实时 YOLO 跟踪
Fruit Inspector 0.10.0 发布，这是一个用 Nim 编写、基于 ONNX Runtime 的传送带水果质检工具，在无独显的 Intel i5-11400 上推理循环可达约 100–130 fps，摄像头预览约 30 fps。
Hacker NewsAI 评分2222 用 LM Studio 作为 Firefox 聊天机器人
开发者发布 Firefox 开源插件 Ask LM Studio，让用户在侧边栏与本地 LM Studio 服务器上的任意已加载 LLM 对话，数据默认不离开本机。插件提供 Summarize、Quiz me、Explain this、Proofread 四项操作，可设置 API Base URL、模型、System prompt 与 Temperature，并支持关闭右键菜单入口。
GitHubAI 评分3030 基于 OpenCV 与 MediaPipe 的 AI 虚拟健身教练 Pose-Form-Rep-Coach 开源
Core Motion Lab 开源 AI 虚拟健身教练 Pose-Form-Rep-Coach，用 OpenCV + MediaPipe 通过普通摄像头实时追踪 17 个身体关键点并自动计数动作重复次数。它支持肱二头肌弯举、深蹲、肩推、俯卧撑等动作，提供姿势纠正提示、组数统计与多语言界面，采用 MIT 许可，模型权重本地化后可离线运行，视频帧仅在内存处理。
GitHubAI 评分5252 Parleq 开源 macOS 语音输入工具，本地 ASR 约 64 ms 并支持六种 LLM 清理
Parleq 是一款开源的 macOS 语音驱动文本输入工具，按住全局热键说话，处理后的文本先出现在悬浮层中，可继续用语音修改、重排或扩写，确认后粘贴回原应用。
GitHubAI 评分3434 NekoAI：开源 AI 桌面宠物，支持 Claude、OpenAI、Gemini 与 Ollama
NekoAI 是一款开源 AI 桌面宠物，可在 Windows、macOS、Linux 上运行，宠物会在桌面漫游并跟随光标，点击即可通过气泡对话。
GitHubAI 评分2222 Veribar：为多说话人对话提供实时彩色字幕与可搜索转写记录的 Android 应用
Veribar 是一款 Android 应用，通过手机麦克风实时生成带说话人分色的字幕，并在录音结束后用更准确的模型重新转写，保存带时间戳和说话人标签的可搜索记录。它采用两遍处理流程：实时字幕约 1 秒内返回，录音结束后用 Deepgram Nova-3 的预录引擎重新分析全部音频以提升准确度。音频仅临时保存 15 天后删除，转写记录留在本地，且不用于供应商模型训练。
GitHubAI 评分6262 audio.cpp 发布 v0.9.1：新增 LFM2.5-Audio 等模型，覆盖 110+ 音频模型家族
基于 ggml 的 C++ 音频推理框架 audio.cpp 发布 v0.9.1，新增 LFM2.5-Audio、Audio Flamingo 3/Next、OWSM/OWSM-CTC。
GitHubAI 评分2020 benwaar/games：用 PyTorch 从零构建游戏 AI 与机器学习项目集
GitHub 项目 benwaar/games 汇集了一批用 Python 和 PyTorch 从零实现的机器学习与游戏 AI 项目，涵盖强化学习、深度学习、音频分类、神经网络与模型蒸馏。
GitHubAI 评分3434 Banditboard：把 Claude Code 与 Antigravity 用量限制做成常亮显示屏
Banditboard 是一款常亮显示 Claude Code 与 Google Antigravity 用量限制的工具，展示 5 小时会话与每周额度、重置时间及模型故障状态，并在 80%、90%、100% 时告警。
Hacker NewsAI 评分5858 Wes Bos 用编码智能体把廉价智能相框改造成家庭看板
Wes Bos 用编码智能体 root 了妹妹那台因 Wi-Fi 损坏将被丢弃的 500 美元 Skylight 日历，找到隐藏调试模式，并用 11 美元 USB Wi-Fi 网卡让它重新联网，随后又用亚马逊上一台 50 美元的相框从零复现了整套流程。
RadarAIAI 评分5555 Google 本周发布 SynthID 全球上线、Nano Banana 2.1 与 EmbeddingGemma 2
Google 本周宣布 SynthID 检测门户面向全球开放英文版，任何人都可用它验证图像、视频或音频是否由 Google 及行业伙伴的 AI 生成。同时发布 Nano Banana 2.1，在视觉设计、主体一致性和精准局部编辑上有所提升，可在不改动整张图的情况下修改特定细节。
GitHubAI 评分6262 PMetal 发布面向 Apple Silicon 的 Rust 机器学习平台
PMetal 是 Epistates 在 GitHub 开源的 Apple Silicon 机器学习平台，用 Rust 编写，覆盖 Metal GPU kernel、Apple Neural Engine 集成到训练 API、终端 TUI 和 Tauri 桌面 GUI。
Hacker NewsAI 评分6060 SpeakoFlow 发布免费开源语音听写与 AI 助手，支持 Windows、macOS 和 Linux
SpeakoFlow 是一款免费开源的语音听写与 AI 助手，支持 Windows、macOS 和 Linux，通过快捷键在任意应用中听写、提问和进行语音对话。
GitHubAI 评分2222 doraneural：纯 NumPy 打造的轻量神经网络工具包与 CLI
doraneural 是一个纯用 NumPy 构建的神经网络工具包与 CLI，面向 Termux、树莓派等低功耗 CPU 设备，支持一行代码建模、终端 ASCII 训练曲线和零依赖模型导出。
GitHubAI 评分6666 MCPBox 开源：把 Android 手机变成 MCP 文件服务器
MCPBox 是一个单 APK 的 Android 应用，把手机变成 MCP 文件服务器，AI 客户端通过 MCP 协议读写手机文件、执行命令，每次敏感操作都要经过手机悬浮窗审批。
GitHubAI 评分3636 Hindsight：本地优先的电脑活动记录与 AI 复盘工具
Hindsight 是一款本地优先的电脑活动记录与 AI 复盘工具，自动记录应用和窗口活动，按日、周、月展示时间去向，无需手动计时或维护项目标签。它支持本地或云端模型生成 AI 日报、AI 对话查询与屏幕记忆搜索，截图和 OCR 默认关闭，数据默认留在本机，可选 Google Drive 同步活动元数据。项目以 MIT License 开源。
GitHubAI 评分2222 微雪 ESP32-S3-Touch-LCD-3.5B 独立运行 AI 助手固件 esp32s3-ai-chat
开发者 mz19890517 发布 esp32s3-ai-chat 固件，让微雪 ESP32-S3-Touch-LCD-3.5B（ESP32-S3R8，16MB Flash / 8MB PSRAM）无需手机或电脑即可独立运行 AI 聊天助手，默认调用 DeepSeek 等 OpenAI 兼容接口。
RadarAIAI 评分4040 PiChat：基于 iPhone 快捷指令的持久化 AI 助手
PiChat 将本地 LLM 与 iPhone 快捷指令集成，让 AI 依据用户定义的触发条件（如特定通知）自动执行设备操作，并可通过存储恢复断点执行。该项目由 @finnvoorhees 开发，为个性化智能助理提供了一种可靠的移动端实现。
GitHubAI 评分2222 OpenLLM Hub：免费开源 LLM 探索、测试与下载平台
Rongon Kairy 推出开源平台 OpenLLM Hub，支持免费探索、测试、基准对比和下载自定义微调 LLM，模型提供 GGUF、Safetensors 和 Ollama 三种格式。平台涵盖 Bengali NLP、编程、推理和边缘设备四类模型，无需注册或订阅，并附本地运行与 Vercel、Netlify 免费部署步骤。
GitHubAI 评分3535 涂鸦发布 agentic-kit：面向 Tuya AI 平台的多模态端侧 SDK
涂鸦开源 agentic-kit，一个让智能硬件接入 Tuya AI 平台的多模态端侧 SDK，支持语音/文本对话、图片理解与生成，以及设备侧 MCP。SDK 提供数据点（DP）管理、OTA 固件升级和 BLE 配网，芯片与操作系统无关，覆盖 macOS、Linux、FreeRTOS (ESP32)、MIPS、ARM。
GitHubAI 评分2222 VoxCPM2 Portable 的 Pinokio 一键启动器发布
timoncool 发布 VoxCPM2_portable-pinokio，这是 VoxCPM2 Portable 的 Pinokio 启动器，负责在隔离的跨平台环境中安装、启动、更新和重置应用。
GitHubAI 评分3838 Phobos：面向低显存 GPU 的 tile 内核语言与 LLM 推理引擎
Phobos 是一个基于 tile 的 GPU 内核语言及构建其上的 LLM 推理引擎，面向低显存机器，在 RTX 2080 SUPER（8 GB）上开发。对无法装入 VRAM 的 MoE 模型，Phobos 无需手动 CPU/GPU 拆分，在 Qwen3.6-35B-A3B 上重放编码智能体会话比 llama.cpp 最佳配置快 1.6x。
GitHubAI 评分2828 LorenzoDainelli 发布本地 AI 照片视频分类器 local-ai-frame-classifier 2.0.0-beta.143
LorenzoDainelli 发布 Windows 本地 AI 照片视频分类工具 local-ai-frame-classifier 2.0.0-beta.143，安装包 38 MB，AI 模型全部在本机运行，照片、标签和姓名不上传服务器。