llm-d 将 Inference Scheduler 更名为 llm-d Router 并合并 EPP 核心代码
llm-d 将 Inference Scheduler 更名为 llm-d Router，并把 Gateway API Inference Extension（GIE）中的 Endpoint Picker（EPP）核心代码及 InferenceObjective。
#推理
GitHubAI 评分6262 RadarAIAI 评分6262 微软在 Microsoft Foundry 上线 Microsoft-Decision-1 决策模型
微软在 Microsoft Foundry 上线 Microsoft-Decision-1，该模型基于 Qwen3.5-9B 后训练，用于快速单次决策打分，后续计划迁移到 MAI 和 OpenAI 模型。
Hacker NewsAI 评分5858 Liquid AI 发布开源决策模型 d1，单次前向传播即可给出答案
Liquid AI 发布开源决策模型 d1，其特点是在一次前向传播中直接给出答案。
RadarAIAI 评分6262 微软推出 Decision-1 决策模型
微软推出新模型 Microsoft-Decision-1，用于快速决策。Satya Nadella 表示，它在结构化决策任务上表现顶尖，在延迟和质量上均优于 LLM 和其他决策模型。该模型已在微软内部测试，应用范围涵盖事件响应、质量控制和科学发现。
Hacker NewsAI 评分4141 U-Space：揭示语言模型中的不确定性何时出现、为何出现
研究者提出 U-Space，通过 J-Lens 将语言模型内部状态翻译为词，再用四组"怀疑词"与"确定词"的对比方向构建出四类不确定性，并据此给出 U-Lens 评分。该评分只需一次推理即可预测答案是否出错，在四个高难度基准上优于十次采样的方法，且无需训练、无需人工标注。U-Space 还能指出答案偏向哪类怀疑，帮助人工复核定位问题。
Hacker NewsAI 评分2222 Isabelle/HOL、Lean、HOL4 与 Agda 四大定理证明器对比评测
一位作者在 Isabelle/HOL、Lean、HOL4 和 Agda 中分别形式化验证了素数无穷性的欧几里得证明，并据此比较四款定理证明器的使用体验。Lean 与 Agda 属依赖类型系统，Isabelle/HOL 与 HOL4 为 LCF 风格；Isabelle/HOL 的 sledgehammer 自动化最强，Agda 几乎无自动化，Lean 的 simp 与 grind 表现不及前者。
GitHubAI 评分3838 ask-physics：完全本地运行的物理问答工具，自研 Fermi 模型加 Noether 数学引擎
ask-physics 是一款 100% 免费、完全本地运行的物理问答工具，不调用任何外部 API、无需 API key 或账号。
Hacker NewsAI 评分3232 追踪一个 Token 在 MoE 推理中穿越 TP/CP/SP/EP/DP/PP 的路径
一篇技术解析追踪单个 prompt token 在 32 张 H100 上 MoE 模型 prefill 过程中穿越 DP、CP、SP、TP、EP、PP 六种并行方式的完整路径。
GitHubAI 评分1212 一种具备推理能力的 AI 智能体系统与方法
该专利提出一种全新 AI 智能体架构，通过从知识库构建图分析算法实例（源码采用广度优先搜索），求解从当前状态到达成状态与规避状态的路径，使智能体能在内部推演场景并制定行动计划。系统采用全有符号整数构成的神经网络，依据奖励或惩罚按预设值增减突触权重，并在权重达到预设阈值（源码中为 0）时重新定向神经元连接。每执行预设周期数（源码中为 1048576）后，通过右移 1 位等方式将所有权重幅度减半。
Hacker NewsAI 评分2323 为什么 LLM 会「听」得太快：过早下结论的代价与解法
文章指出，人类听者往往在说话者讲完前就形成判断，而大语言模型同样会过早「承诺」结论——它把收到的第一条消息当作完整规格，若首条是背景或否定表述，模型就会围绕它作答。作者借用代码开发中的 red/green 测试提出「承诺门」：在提出修复方案前，先用一个可运行且失败的测试具体复现问题，以此约束模型的过早承诺。
RadarAIAI 评分3030 Baseten 解析高质量 NVFP4 量化：启发式规则、逐层敏感度评分与 SaturationQuant
Baseten 工程博客解析如何实现高质量 NVFP4 4-bit 量化，介绍了启发式规则、孤立层敏感度评分和 SaturationQuant 三种方案。NVFP4 每 16 个值共享一个 block scale，权重可直接计算 scale，激活值则需通过校准数据集统计分布。
Hacker NewsAI 评分3333 高效智能体：记忆、工具学习与规划
上海人工智能实验室等机构发布综述《Toward Efficient Agents: Memory, Tool learning, and Planning》，从记忆、工具学习与规划三大组件系统梳理智能体效率问题，考察延迟、token、步数等成本。
Hacker NewsAI 评分2222 用自回归扩散模型生成市场数据可行吗？Jane Street 实习生 Kavish 的探索
Jane Street 实习生 Kavish 用自回归扩散模型生成美股市场数据，发现完全连续的扩散模型难以拟合真实市场数据的尖峰分布，DDPM 训练不稳定、去噪轨迹爆炸，88-95% 的数值偏离分布均值 8 个标准差以上，改用 flow matching 后开箱即用。
GitHubAI 评分3030 AI Architecture & Systems Engineering Vault：Transformer 到生产级 AI 系统的开源笔记
开源仓库 AI Architecture & Systems Engineering Vault 汇总了 @ai.transition 每期节目的核心公式、白板图解与口播脚本。
RadarAIAI 评分1717 Opus 视频生成受 CPU 限制
作者指出，使用 Opus 进行视频生成时，主要瓶颈是 CPU 计算能力，而非模型本身能力或其他硬件组件。
Hacker NewsAI 评分2626 Show HN：把物理写进架构（可学习 Hamiltonian）的连续时间模型
一个将物理计算写入架构而非作为损失项的开源模型：以连续时间 liquid（LTC）递归为基底，叠加可学习 Hamiltonian 与辛积分器作为硬约束，能量按构造守恒、严格时间可逆。
GitHubAI 评分3838 Phobos：面向低显存 GPU 的 tile 内核语言与 LLM 推理引擎
Phobos 是一个基于 tile 的 GPU 内核语言及构建其上的 LLM 推理引擎，面向低显存机器，在 RTX 2080 SUPER（8 GB）上开发。对无法装入 VRAM 的 MoE 模型，Phobos 无需手动 CPU/GPU 拆分，在 Qwen3.6-35B-A3B 上重放编码智能体会话比 llama.cpp 最佳配置快 1.6x。
量子位AI 评分6262 Aether AI 发布因果智能系统 CRIS-0，机器人 0.2 秒急停、2 秒内重规划
Aether AI 发布因果智能系统 CRIS-0，让机械臂基于物理因果变量实时推理动作，在咖啡制作干扰测试中平均 2 秒内完成重规划，10 次随机扰动实现 9 次有效恢复。
RadarAIAI 评分2222 OpenAI 在数学领域的重大突破
OpenAI 的 LLM 在 7 个千禧年大奖难题中的 4 个上表现出实质性突破，但该成果仍需经验证。
RadarAIAI 评分2222 OpenAI 数学成果深度解读：Navier-Stokes、Riemann 难题进展与 AGI 意义
OpenAI 模型在 Navier-Stokes、Riemann 等数学难题上取得进展，验证了 Scaling Laws 的有效性。相关解读还阐述了其算力消耗情况以及对 AGI 的意义。
Hacker NewsAI 评分6262 TokenRouter：面向 token 级 LLM 路由的服务引擎
TokenRouter 是一个面向 token 级 LLM 路由的服务引擎，让小模型与大模型在同一次回复内按 token 或 span 切换协作。它提供 route(batch, result) 等三个编程接口，运行时负责批处理、模型交接与 KV cache 状态管理，KV cache 保留在各模型本地，仅传递 token 后缀与路由状态。
量子位AI 评分6262 字节 Seed 团队发现 DeepSeek-V4 表现随 Token 位置周期性波动，原因指向分块 KV Cache 压缩
字节 Seed 团队发现 DeepSeek-V4 系列在 128K 长上下文检索中，同一条信息换个位置，准确率最高相差 40.2 个百分点，且波动以 4 个 Token 为周期重复。
Hacker NewsAI 评分1212 为什么“AI 确定性”之争让我恼火
一位研究随机算法确定性序列的计算机科学家指出，抱怨 LLM 不确定的人其实并不真正在意确定性，而是想要正确答案。他用 2×2 矩阵区分“随机但错误”“确定但错误”“随机但正确”“确定且正确”四种情况，认为人们真正想要的是正确，而非每次输出相同。他还表示，通过固定所有伪随机数生成器种子并避免 CPU/GPU 线程的非确定性执行，LLM 在训练和推理阶段都可以做到确定性运行。
RadarAIAI 评分00 OpenAI GPT-6.1 Sol Ultrafast 发布分析
OpenAI 发布 GPT-6.1 Sol Ultrafast，推理质量接近 Astra，速度是 Sol 标准版的 8 倍。该版本 API 定价为输入 12 美元、输出 60 美元每百万 token。
Hacker News同新闻AI 评分7878 OpenAI 为 GPT-6.1 Sol 推出 Ultrafast 模式，最高提速 8 倍
OpenAI 为 GPT-6.1 Sol 推出 Ultrafast 模式，速度最高可达 Sol Standard 的 8 倍，API 定价为每百万输入 token 12 美元、每百万输出 token 60 美元，是 Astra 价格的 1.2 倍。
同一新闻，精选展示《OpenAI GPT-6.1 Sol Ultrafast 在 ChatGPT Work、Codex 和 API 推出》
GitHubAI 评分6262 Paddock 发布 Rust 推理引擎，支持 NVIDIA GPU 与 Apple Silicon
Paddock 是一个用 Rust 编写的 AI 推理服务器，面向 NVIDIA GPU 和 Apple Silicon，提供 OpenAI 与 Anthropic 兼容 API 以及用于探索和对比模型的 Studio，调度器、分页 KV cache、内存管理和 CUDA/Metal kernel 均为自研而非封装。
GitHubAI 评分4040 lrusso/llama3pure：Llama 3 的纯 C 与纯 JavaScript 推理引擎
lrusso/llama3pure 为 Llama 3 提供三个推理引擎：面向桌面系统的纯 C 版本、面向 Node.js 的纯 JavaScript 版本，以及面向 Web 环境的纯 JavaScript 版本。该项目同时支持 Llama 与 Gemma 架构。
arXiv cs.MAAI 评分3030 MARGIN：面向多智能体基础模型协调的运行时置信度校准
MARGIN 是一种运行时校准方法，通过跟踪各模型近期准确率与自报置信度的比值来修正置信度，无需重训练模型或预留校准集。在覆盖代码生成、问答和数学的评测中，使用 18 个模型池，MARGIN 在两次代码生成迁移上的预期校准误差低于全部五个在线校准基线，问答迁移上低于其中四个。在代码生成协调实验中，校准使答案选择准确率相比未校准的置信度加权提升 4.3 和 14.0 个百分点。
arXiv cs.MAAI 评分2222 Stackelberg POMDP：通过强化学习学会领导
研究者提出 Stackelberg POMDP 框架，将跟随者的策略适应嵌入领导者环境，把部分可观测的多跟随者领导-跟随问题转化为单智能体 POMDP，并证明仅基于领导者博弈历史的最优策略可实现最优承诺。在平台设计中，学到的展示规则使平均消费者剩余比优化的固定价格上限提高 8.4%；在间接机制设计中，使用买方消息的机制在所有测试类型数下社会福祉均高于最优标准序贯价格机制。
arXiv cs.MAAI 评分1515 有限规模 MDP 智能体群体的聚合 reach-avoid 机会约束策略合成
针对有限规模 MDP 智能体群体在聚合 reach-avoid 机会约束下的策略合成问题，研究者提出通过离散时间 Lyapunov 递推传播经验密度的二阶矩（方差），并利用 Cantelli 不等式将机会约束转化为可处理的矩确定性条件，再嵌入基于梯度的序列凸近似过程。
arXiv cs.MAAI 评分2727 多智能体系统的心理模型（Mental-Models for Multi-Agent Systems）
研究者提出"心理模型赋能智能体"框架，为智能体配备对交互对象的潜在心理模型，使其能从观察历史中推断隐藏信念、意图与可能反应，并据此指导动作选择。该方法学习摊销式递归心智理论（Theory-of-Mind）表示，包含一阶与二阶心理状态结构，并联合训练信念条件奖励模型；策略在该信念感知信号下学习，推理时可独立行动。在纯语言与多模态基准上，显式心理状态建模持续提升交互质量与心智理论表现，代码已公开。
GitHubAI 评分6262 TypeLLM 发布类型安全生成框架并上线托管 API
TypeLLM 发布类型安全生成框架，让现有自回归 LLM 在不改架构和权重的前提下按 JSON Schema 输出，并上线托管 API 提供 5 美元免费额度。它基于 SGLang，支持字符串、整数、数字、布尔、枚举、对象和数组等类型，以及依赖图、条件字段、思考模式和图像输入。在 231 项公开 JevBench 任务上，TypeLLM 无思考得分 195/231，开启思考后为 228/231。
Hacker NewsAI 评分1515 AI 公司作为控制论系统：一项研究纲领
该研究将 AI 公司建模为开放的资源依赖型系统，其观测、学习、部署与治理规则构成多个反馈闭环，并用 contextual ∞-topos、lenses 与 jets 给出形式化语言。作者推导出优化器依赖的 neural tangent kernel，并提出 panoptic 假设，刻画观测、干预与治理能力之间的不等式。论文强调这些数学结果只针对明确设定的模型，并不证明经济集中或普遍监控是必然结论。
GitHubAI 评分3030 Dialectical AI：用结构化张力图让 LLM 推理实现客观与综合
Dialectical AI 提出结构化张力图框架，为每个论点生成真正的反论点，标注双方越界（T-、A-）与互补（T+、A+）之处，并推动二者走向综合而非折中。所有推理以规则校验的语义节点和边写入 Memgraph / Neo4j 图数据库，图本身即状态，可被查询、可视化或复用。框架内置 Analyst、Explorer、Advisor 三个 LLM 智能体，分别负责分析、探索与建议。
arXiv cs.CLAI 评分2424 冻结的 VideoLLM 是否已编码证据就绪信号？Readiness Gating 答案时机策略研究
研究发现冻结的 VideoLLM 已线性编码"证据就绪"信号，在 7 个模型上 AUROC 达 0.733-0.905，且该信号以问题为条件——仅改变问题即可在 66.1% 的配对中反转读数。基于该读数提出的 Readiness Gating 答案时机策略，在相同视频时长下最高提升准确率 +9.75 pp，计算开销可忽略。
arXiv cs.CLAI 评分2828 Budgeted Cache Repair：跨上下文 KV-Cache 复用的预算修复方法
研究发现跨上下文 KV-Cache 复用并非无损：在 MMLU 和 GSM8K 上会带来明显精度损失，且以整个调用为单位决定是否复用无法消除该代价。
arXiv cs.CLAI 评分1818 低精度 Transformer 推理该用随机舍入还是就近舍入？基于小型 GPT-2 的可变精度仿真研究
研究对比了低精度 Transformer 推理中随机舍入（SR）与就近舍入（RN）在逐算子层面的差异，并扩展 PRISM 库实现可变精度随机舍入（VPSR）。在 DistilGPT-2、t=6 有效位下，MLP 用 SR 困惑度为全精度参考的 1.15x，RN 为 2.21x；语言模型 head 处顺序反转。
arXiv cs.CLAI 评分2424 DGE：面向免训练 KV-Cache 压缩的草稿引导驱逐时机方案
研究者提出 Draft-Guided Eviction（DGE），将 KV-Cache 驱逐推迟到用完整缓存生成前 k=2 个答案 token 之后，仅比 prefill 多一步解码，从而在答案轨迹信号出现前不丢弃任何缓存条目。
arXiv cs.CLAI 评分2222 CTRL：基于控制的 LLM 引导残差学习时间序列预测框架
CTRL 框架将语义推理与数值预测解耦，由冻结骨干模型生成基础预测，LLM 智能体作为控制器分析趋势、季节与不规则分量并输出控制信号，再由轻量残差解码器转化为预测修正。该框架支持无标签测试时自适应，仅需 3-24 次 LLM 调用即可检测分布偏移并重新调整控制信号，论文发表于 ACL 2026 Findings。
arXiv cs.CLAI 评分2222 四个开源权重模型中的系统提示词条件化与隐藏状态几何：修正与幸存结论
一篇预印本 v3 大幅修正了 v1-v2 的方法与结论：此前报告的"Ollivier-Ricci 曲率"实为时间与余弦 k-NN 图上的 Forman 型边统计量，且测试在边级别而非轨迹级别，相关 p 值来自未公开代码。