Janas-LLM 发布:从 SSD 流式加载专家,32GB 笔记本跑 80B MoE 模型
Janas-LLM 是一个用 C 编写、除 C 库外无依赖的推理工具,把权重留在磁盘上,按 token 需要的专家从 NVMe SSD 流式读取,让 80B 参数的 MoE 模型在 32 GB 内存的笔记本上运行。
Janas-LLM 是一个用 C 编写、除 C 库外无依赖的推理工具,把权重留在磁盘上,按 token 需要的专家从 NVMe SSD 流式读取,让 80B 参数的 MoE 模型在 32 GB 内存的笔记本上运行。
ai-stp 是一个通过 PyPI 包 ai-stp-cli 分发的 CLI 工具,每条命令返回一个 JSON envelope,不调用模型 API 也不需要模型 key。
Vellum 是一个运行在 Minecraft 内的轻量 Web 引擎,让模组作者用 HTML 编写界面、物品栏和 HUD,由引擎负责布局、脚本与渲染,支持 Minecraft 26.3、26.2 和 1.21.1 上的 NeoForge 与 Fabric。
Rebuno 提出把智能体权限从提示词和代码中移出,改为在外部策略文件里做执行前检查:每次工具调用先提交工具名和参数,由策略决定放行、需审批或拒绝。示例策略中 `git status`、`git diff`、`npm test` 直接放行,含 `rm -rf` 的命令被拒绝,其余 bash 命令需审批,规则按书写顺序首个匹配生效,改规则无需重新部署智能体。
electric-capital 在 GitHub 开源自托管 AI 智能体工作台 Quest,提供 ChatGPT 式 Web 界面,让用户连接邮箱、文档、Slack、财务工具等服务并交给 LLM 智能体处理。
OpenVINO Model Server(OVMS)是一款基于 OpenVINO、面向 Intel 硬件优化的 C++ 推理服务器,同时支持生成式 AI 与经典深度学习模型。
Intel 发布面向智能体 AI 推理的数据中心 GPU D270,单卡最高 480 GB LPDDR5X 显存,功耗 350 W,采用风冷与标准 PCIe 5.0 形态。
slopfence 是一款针对 AI 辅助代码的确定性质量门禁工具,可检出 AI 编码助手留下的幻觉包、无意义测试、占位桩、重复辅助函数、被吞掉的异常和残留聊天文本。
OpenWriter 是一款 markdown 原生的富文本编辑器,让 AI 智能体写作、由人来审核每一处改动,文档以纯 .md 文件存于磁盘,无数据库、无锁定。
社区开发者推出独立开源项目 OpenCode Mobile,让用户在 Android 和 iOS 上远程连接自建的 OpenCode 服务器,启动任务、查看进度、审批操作并使用终端。
Agent_Engineering_Kit 是一个可复用的 Markdown 指令库,用于指导 Codex、Claude Code 和 Cursor 中的编码智能体,涵盖架构与编码规则、按需验证、项目文档模板和可配置的智能体角色。它通过智能体执行集成流程完成接入,无需安装包、专用 CLI 或应用运行时,并提供后端、前端、持久化、容器和 Unreal Engine 等技术栈配置。
bitcoinaustria 发布本地优先的比特币记账工具 Kassiber,可导入或同步钱包交易,生成投资组合、税务和资金来源报告,并提供桌面应用与共用 Python 核心的 CLI。
QuizItNow 是一个基于 Next.js 16 和 TypeScript 构建的 AI 测验生成平台,可从文本、URL(含 YouTube 视频和网页文章)及 PDF 文件中自动提取内容并生成 3-25 道题。
vibecheck 是一个自托管的 GitHub PR 合并门禁,PR 作者必须先答对关于自己代码改动的问题才能合并。它用 Anthropic Claude(BYOK)读取 diff 并生成问题,首个问题固定为“这个改动在高层如何工作”,每 15 行改动出一道题,答对达到 PASSINGMARKS 后提交 vibecheck/verdict 状态变绿。
2389 办公室为前台门禁搭建了一套 AI 智能体:门禁对讲机接入 Vapi 语音助手,模型只负责与访客对话,所有放行、拒绝、升级、转接决定都由服务端 TypeScript 逻辑做出,模型仅按返回的指令字符串照做。
Routstr 推出 Routstr Core,一个基于 FastAPI 的反向代理,部署在 OpenAI 兼容 API 前,按请求计费,实现无需许可、隐私且抗审查的 AI 推理。它用 Nostr 做服务发现、Cashu 做私有比特币微支付,用户只需将 OpenAI 兼容 SDK 指向 Routstr 节点并用 Cashu token 付费。
En Dash Consulting 开源 hotdogbenchmark,每周一 12:00 UTC 向 11 个大型 AI 模型提问“热狗是不是三明治”,要求一词作答,并发布一份一本正经的行业分析师报告。基准还追问汉堡与塔可,并用“热狗是三明治”和“不是三明治”两种系统提示词测试模型的受暗示程度。项目无需 API key,mock 模式可离线跑通全流程,真实运行每月成本仅几美分。
Kasetto 是一个用 Rust 编写的声明式 AI 环境管理工具,把 Skills、Commands、MCP、Instructions 和 agents 写进一份 YAML,再同步到 Claude Code、Cursor、Codex、Windsurf、Copilot、Gemini CLI 等智能体的原生目录。
一位开发者用 AI 加 TypeScript 和 tscircuit,基于 Foostan 的 Corne 设计出可用的 RP2040 分体键盘,配备 Choc 轴、USB-C、两半之间的 TRRS 连接和配套外壳。AI 负责编写和修改代码,tscircuit 的自动布线器快速完成两半铜线与过孔布线,外壳与 PCB 共用同一套坐标。成品打字测试为 91 WPM、99% 准确率。
开发者用 RP2040 微控制器搭配 Flir Lepton 3.5 传感器做出 WebUSB 热成像相机 Picothermal,分辨率从 MLX90640 的 24x32 提升到 160x120。
开发者打造了工作流引擎 Bondsmith,用确定性 Gate 校验编码智能体声称的每一步结果,模型说"测试通过"不再算数,必须由非 LLM 工具跑出退出码等证据。它用 Rust 编写,含核心库、CLI 和只读 UI,Flow 为磁盘上的 JSON 与 Markdown 数据,目前仅支持 Claude Code 启动器,Pi 在路线图中。
MishMash-Norway/mishmash-web 是挪威研究理事会资助的 MishMash AI 与创造力中心官网 mishmash.no 的源码仓库,网站以英语、Bokmål 和 Nynorsk 三种语言发布,Nynorsk 页面在每次构建时由 Bokmål 页面生成。
tryAGI 推出基于 Fal.ai 官方 OpenAPI 规范、由 AutoSDK 全自动生成的 C# SDK,支持新功能当日更新,并在无破坏性变更时自动维护。
reckon 是一个面向基础设施的智能体工作区,把 grafana、jenkins、cubeapm、aws、gh、kubectl、psql、clickhouse client 等 14 个只读可观测性、CI/CD 与基础设施 CLI 收进同一个隔离凭证环境,让编码智能体在一次会话里关联跨系统信号,用于排查事故、做 RCA 和理解生产行为。
vibeke 发布一个用于监管编码智能体的终端工作台,可在笔记本或 devbox 上运行,通过 Claude Code、Codex、pi、omp 的 hooks、扩展和 RPC 流读取智能体状态,而非依赖屏幕输出猜测。
一款名为 Veda 的语音智能体被做成操作系统级常驻能力:任务栏右侧的小圆环随时待命,说出名字即可唤醒,通过键盘鼠标同样的操作打开应用、编辑文本、管理文件、播放音乐和改设置。语音识别、语言模型与语音均由 Deepgram 提供,对话走 Voice Agent API,唤醒词识别用 Nova-3,麦克风音频 16 kHz 输入、24 kHz 语音输出,并支持随时打断。
开源项目 ai-shorts-pipeline 把一份结构化 JSON 脚本自动渲染成 1080x1920 的 YouTube Short / TikTok 成片,无需手动剪辑。
chatgpt-portal 是一款 Windows 工具,可通过 Cloudflare 隧道把本地网页快照分享给 ChatGPT 读取和分析,仅共享所选页面快照而非整机访问权限。
NeuralForge 是一款可在个人电脑上本地训练自定义 AI 模型的工具,无需服务器或云服务,通过 NVIDIA 显卡完成训练。它要求 Windows 10/11、至少 8GB 显存的 NVIDIA 显卡、16GB 内存和 20GB 存储空间,提供图形化菜单管理训练数据并跟踪进度,训练完成后可导出为 GGUF 文件供本地聊天界面使用,所有数据均保留在本地。
devdocs-forge-agent 是一款 Windows 10/11 桌面工具,可将视频教程的转录文本和演示内容自动生成博客文章、文档页面与图表,支持 Docusaurus、GitBook 和标准 Markdown 输出。
Anansi 是一款从封锁标准工具的网站采集数据的工具,通过自愈选择器在网站改版后自动定位信息,并用浏览器渲染和 TLS 指纹伪装成普通笔记本连接以规避检测。它基于 MCP 接入 AI 助手,用户用聊天指令即可让其抓取网页数据,数据保存在本地、不上传第三方服务器。工具支持 Windows 10/11,需 4 GB 空闲内存和最新版 Chrome 或 Edge。
Popcorn 是面向 Linux 的桌面应用,把不可信代码、可疑包和未知二进制放进名为 corn 的 Firecracker microVM 中运行,每个 microVM 有独立 Linux 内核,约一秒启动。
ClippyMe 是一个自托管 Web 应用,输入 YouTube 链接或视频文件后自动转录、由 Google Gemini 挑选并排序可独立成片的片段,剪成带字幕的 9:16 竖屏短片,并可发布到 TikTok、Instagram 和 YouTube。
soenneker.mistral.runners.openapiclient 是一个用于重新生成并更新 Soenneker.Mistral.OpenApiClient 的 runner。该工具围绕 Mistral 的 OpenAPI 客户端做自动化再生成与更新。
soenneker.mistral.openapiclient 发布,为 .NET 提供调用 Mistral API 的类型化请求构建器与模型,可通过 dotnet add package Soenneker.Mistral.OpenApiClient 安装。
Soenneker.OpenHands.OpenApiClientUtil 发布,为 OpenHands Cloud 提供已配置的 API 客户端,并在注册服务生命周期内复用。
Soenneker.OpenHands.OpenApiClient 发布,为 .NET 提供调用 OpenHands Cloud API 的类型化请求构建器与模型,可通过 `dotnet add package` 安装。
NeuroverseOS 推出 @neuroverseos/governance,包含行为治理引擎与 Radiant 行为智能两层,一次安装即可单独或同时使用。
LOGOS 是 AIMarket 联邦的分析大脑,通过 hub.invoke() 代理查询 oracles、scanners、treasuries 等组件,用自然语言回答问题,如"Treasury 还能撑多久"。它运行在 4 个容器的轻量联邦节点上,后端为 FastAPI :9460,默认使用 deepseek-v4-pro 模型,支持 5 种语言和 SSE 流式输出,并以只读方式保证安全。
GitHub 项目 nl-eval-observability-feedback-loops 提供了一款用于评估、观测和改进 .NET 生产级 AI 系统的 Windows 应用,支持评估工具、可观测性仪表盘、反馈回路和遥测数据采集。