OpenRouter 支持机器人模型路由指南:廉价优先处理 FAQ
OpenRouter 发布指南,介绍支持机器人采用"廉价优先"模型路由:常规 FAQ 交给小型廉价模型,难例或不确定请求再升级到更强模型。三种应用侧模式为静态规则、分类器分诊和带置信度阈值的答案检查。OpenRouter 的 Auto Router("model": "openrouter/auto")可按任务类型选初始模型,models 数组提供错误回退,但支持政策验收检查仍需应用自己负责。
OpenRouter 发布指南,介绍支持机器人采用"廉价优先"模型路由:常规 FAQ 交给小型廉价模型,难例或不确定请求再升级到更强模型。三种应用侧模式为静态规则、分类器分诊和带置信度阈值的答案检查。OpenRouter 的 Auto Router("model": "openrouter/auto")可按任务类型选初始模型,models 数组提供错误回退,但支持政策验收检查仍需应用自己负责。
OpenRouter 发布六大 Agent 框架工具调用 Schema 处理对比,指出 OpenAI、Anthropic、Google 各自使用不同的工具定义与返回格式,为一个提供商写的工具定义无法原样用于另一个。
Meta 用 TLX(Triton Low-level Extensions)为 NVIDIA Blackwell(B200)重写了 GEM 广告模型背后的 Jagged Flash Attention 内核,代码约 3.2K 行,比 FA4 的约 10K 行 CuteDSL 少约 3 倍。
OpenRouter 发布指南,介绍用置信度阈值做模型升级路由:让模型通过 structured outputs 返回 0 到 1 的数值置信度字段,低于阈值的请求再转给更强的模型。
推荐理由:OpenRouter 给出用置信度分数做模型升级路由的完整五步流程,可迁移到自己的推理成本控制中。
李博杰在 GitHub 开源《深入理解 AI Agent:设计原理与工程实践》主仓库,包含全书正文、编译版 PDF 与按章配套代码。仓库地址为 https://github.com/bojieli/ai-agent-book。
datawhalechina 的 hello-agents 项目发布《从零开始构建智能体》教程,讲解智能体原理与实践。教程定位为从零起步,面向想系统学习智能体构建的读者。
vLLM 官方博客发布分离式服务实践指南,介绍如何把 Prefill、Decode 和 tokenization/解析等 CPU 工作拆成独立层级,需 vLLM v0.30.0 或更高版本。
推荐理由:vLLM 官方拆解分离式服务的四层架构,给出实测数据与配置命令,可据此判断是否值得拆分。
SemiAnalysis 分析 GLM-5.3 的稀疏注意力对内存的影响,指出稀疏注意力只降低 SDPA 阶段的 KV cache 内存与带宽需求,并不减少整体内存容量占用,top-k 选择仍需完整上下文驻留 HBM。
GitHub Copilot 应用中的 canvas 是一种可自定义的双向界面,用户只需在 agent 会话中输入 /create-canvas 并用自然语言描述需求,即可生成看板、发布清单或仪表盘等界面,无需编写代码。canvas 会保存为扩展,可随项目共享或作为个人扩展复用,社区也已通过 Awesome Copilot 分享现成的 canvas 扩展。
GitHub Copilot 应用重建了 pull request 视图,用一个 2,200 个文件、超百万行改动、400 多条行内评论的开源 PR 做压力测试。它把文档高度拆成确定性的代码几何与动态评论块两套体系:代码行高提前算好,评论高度按需测量并锚定到文件、行和侧,避免滚动跳动。
基于 Qwen3.5 4B,用 37,840 条来自 MultiNLI、BoolQ、Banking77 等数据集的样本微调,训练成本约 17 美元、耗时约 25 分钟,即可得到一个输入状态与预设问题、输出分数或选项的分类模型。
MiniMax H3 视频 VAE 编码最高提速约 2.2 倍、解码提速约 1.4-2.7 倍,1344x768、129 帧的编解码往返从 24.3 秒降至 12.7 秒。
MoE 已在前沿模型中广泛使用,它改变的不只是参数量,而是每个 token 激活哪些张量、哪些数据必须就近放置、哪些传输需要高本地带宽。文章把推理拆成 Prefill、Midfill、Decode attention、Decode experts 四个阶段,指出四者对计算、内存与网络的需求各不相同,统一当作同一负载会丢掉 MoE 的结构性优势。
vLLM 在 GB300 NVL72 集群上对 Qwen3.8-2.4T 做 PD 分离部署,8K/1K 负载下高吞吐场景达到每 GPU 5000 总 token 吞吐,低延迟场景每用户生成 180 token,并给出完整 pareto 前沿。
微软推出 ai-agents-for-beginners 课程,包含 18 节课,帮助初学者入门构建 AI 智能体。
Together 给出从闭源模型迁移到开源模型的策略,整体迁移周期可从数月到数年缩短至数周到数月。流程分三步:先按用例和负载筛选候选模型,参考 FrontierCode、DeepSWE、Terminal Bench 4、LMArena、τ-bench 等基准,并关注每任务成本、token 消耗与端到端时延;再用真实流量回放评估准确率与性能;最后做适配。
vLLM 团队基于 Speculators 训练库为 2.8T 参数的 Kimi K3 训练出 DSpark 草稿模型,在数学推理上把单流交互速度从约 110 提升到约 435 tok/s/user,并发负载下同等交互速度的输出吞吐最高提升约 3.5 倍。
推荐理由:vLLM 团队公开了在 GB300 NVL72 上训练 Kimi K3 DSpark 草稿模型的完整方案,含 Mooncake 跨节点隐藏态传输与部署命令。
Augment Code 公开其软件工厂实践,在 2025 年 11 月至 2026 年 7 月间把每位活跃开发者的规模调整后产出从 12.3 提升到 55.7,即 4.5 倍,同时 PR 中位合并时间从 11.2 小时降至 3.1 小时,14 天回滚率从 1.9% 降至 0.4%。
推荐理由:Augment 公开了软件工厂的搭建顺序与各环节智能体分工,可对照自身瓶颈判断先自动化哪一步。
Interconnects 整理了一份近年关于开放模型的最佳写作清单,涵盖基础概念、中美竞争与安全议题,最后更新于 2026 年 9 月 15 日。清单收录了 Meta 的 Llama 3 发布说明、Kimi K3 与 GLM-5.2 等中国模型分析,以及 ATOM Report 等采用数据。
两人 Cosmos Advisor 团队用 Cosmos 构建了 Feedback Triager 智能体,把每周产品反馈从约 5 条增至 30+ 条、两周 60 条的压力接了过来。
Augment 重建 Auggie CLI 的 harness,在 SWE-bench Pro 上以相同通过率完成任务花费 1.27 美元,而 Claude Code 为 2.70 美元,便宜 53%。
推荐理由:Augment 公开了 CLI harness 重写的取舍过程与 SWE-bench Pro 成本对比,可参考其工具面收窄与检索替代探索的思路。
Augment Code 解决方案架构负责人用其智能体编排平台 Cosmos 构建试点健康度视图,打通产品使用数据、GitHub 与 PR 活动、Salesforce 交易状态和客户通话记录,为每个试点生成含采用度、技术进展、风险与整体健康评估的排名视图,每个数字都可追溯到实时来源。
Modem 发布《Writing Code for Agents》系列第一篇,指出编码智能体主要靠 grep/ripgrep 做文本搜索来导航代码库,因此变量、函数、文件名本身就是搜索词。
推荐理由:Modem 用自家 68 万行 LLM 生成代码库的实测数据,说明命名与类型如何影响智能体的检索开销与准确率。