评估 LLM 路由的升级信号:目标、控制与五种自欺方式
研究测试了语义熵作为 LLM 路由升级信号的可靠性,在三个基准和两个模型家族上进行评估。在 GSM8K 上,当小/大模型规模相差约 12 倍时,语义熵能可靠区分小模型的错误(AUROC…)。
研究测试了语义熵作为 LLM 路由升级信号的可靠性,在三个基准和两个模型家族上进行评估。在 GSM8K 上,当小/大模型规模相差约 12 倍时,语义熵能可靠区分小模型的错误(AUROC…)。
研究提出 Trajectory-Local Adaptive Retrieval(TLAR),从当前推理轨迹中检索近似匹配的续写,并利用近期验证结果自适应调整检索激活与候选宽度,与模型生成的草稿结合用于投机解码。受控来源对比显示,长链式思维推理产生的历史续写存在轨迹特定的复用价值,可补充现有 drafter。
RELACE 是一个无需 critic 的框架,用于长程语言智能体的动作信用估计。针对 GRPO 轨迹级监督粗糙、终端奖励无法定位错误的问题,以及 GiGPO 等状态条件对比方法仍受下游决策与结果影响,RELACE 采用回顾式似然方法进行信用估计。
论文提出 Stepped MoE 框架,将弹性结构与稀疏门控结合,在段(segment)级别进行路由,使推理复杂度可按部署场景配置。现有方法通常把弹性架构与稀疏激活分开处理,而面向端侧推理的模型还需满足设备的内存与算力限制。该框架试图统一这两个维度,以适配不同计算约束下的部署需求。
针对 on-policy 强化学习中奖励稀疏导致模型在难题上停滞的问题,研究者提出 Rationale-Guided Policy Optimization,通过自适应理由脚手架引导模型学习推理。现有方法依赖 off-policy 演示、专家轨迹或模型生成解答,且通常要求辅助数据与强化学习任务格式匹配。
针对 LLM 智能体在长时程决策中早期错误会沿轨迹传播、而每步引入外部批评又大幅增加 token 消耗与延迟的问题,研究者提出成本感知框架 SAG(Self-improving Agent with Gated critique),通过门控机制选择性触发批评。
SharedKV-BT 让行为树(BT)每个活跃节点暴露阶段局部字段与候选,由 Shared-KV 并行打分并将选中决策传给独立模块,从而在保留自回归模型灵活决策接口的同时降低逐 token 生成延迟。该方法针对共享前缀方法未建模决策依赖、也未验证执行的问题,为行为树智能体提供节点级的类型化决策。
一篇综述梳理了神经符号 AI 中用作符号组件的主要规则语言,包括 Datalog、答案集程序与概率逻辑程序,并沿语义、表达力、神经集成和求值机制四个维度展开对比。文章分析了 50 多个近期系统与应用,覆盖数据库与编程语言、机器学习、视觉和机器人四个研究领域,并给出将应用场景映射到所需特性的决策矩阵。
研究发现,LLM 智能体的 Agentic Memory 即便存储正确、检索得当,也可能在推理时扭曲结果,这一失败模式被称为记忆过度依赖。当过去经验只有部分证据可迁移时,记忆最具误导性,在查询与记忆部分重叠的情况下失败最严重;而当经验可完整迁移时记忆仍然有用。
Reflection AI 发布首个前沿开源权重模型 Beam,为纯文本 MoE 模型,总参数 5010 亿、活跃参数 230 亿,预训练数据 23.8 万亿 token,上下文窗口 100 万 token。该模型主打低推理成本,对标中国开源模型。
获 NVIDIA 投资的 Reflection AI 发布首款开放权重模型 Beam,称其在推理能力上可与 GLM-5.2 竞争,且推理算力消耗低得多。模型权重预计本月放出。
FlexiFlow 提出用 Bandit 算法在 ML 工作流中自适应切换模型,实验显示可将工作流准确率提升最高 23%。现有系统缺乏按表现自动切换模型的能力,用户只能手动测试模型。
Reflection 推出首个开源权重模型 Beam,采用稀疏 MoE 架构,总参数 501B、激活 23B,主打编码、推理和智能体任务。权重、技术报告和模型卡将于本月以 Apache 2.0 许可发布。
针对 LLM 内部特征常被当作机制解读的问题,研究者提出一套实证契约,在自然输入观测到的取值范围内检验特征作用。其中一项测试把表现出某行为的输入中的特征值复制到不表现该行为的匹配输入中(安装),或反向操作(移除);另一项测试则在上游编辑后恢复该特征。
论文提出 Minimal-Witness Reinforcement Learning(MWRL),将"找出产生结果的最小充分条件"形式化为最小见证识别问题,并指出标准 RL 方法往往只能给出一个解或冗余解。MWRL 通过对成功提议所认证集合取并集来求解该问题。
Cascadia 在十一台 Intel Core Ultra X7 358H AI PC 上实现 975B 总参数、41B 激活参数的 MoE 模型 Inkling 常驻推理,每台机器配备 64 GB 内存、Arc B390 集成显卡和千兆以太网。其自研常驻 MoE 引擎保留 Inkling 的路由规则,为 OpenVINO 融合 iGPU 原语构建压缩图,并协调 FP16 专家执行。
研究发现,固定基础模型回复开头的特定 token 线索,可让其数学与代码能力追平经 RL 训练的版本:线索 ".\n\nOkay" 将 Olmo-3-7B 的 MATH-500 pass@1 从 42% 提升至 78%,"Alright," 将 Qwen3-14B 从 72% 提升至 87%。RL 训练会提高这些线索的出现概率,而固定这些线索即可恢复其大部分性能。
CLIFT 是一种围绕共形自验证构建的 Web Agent 训练与测试时扩展方法,训练时让 Agent 回答关于自身 rollout 的自然语言验证问题,由 Compositional Conformal Certifier 只保留部分问题。该方法针对现有强化学习依赖弱监督的问题:二元任务成功信号过于稀疏、难以做信用分配,而前沿语言模型评判器每步调用成本过高且部署时无法保证可用。
语言模型可能给正确答案的概率高于任何单个错误答案,却仍常采样到错误答案,因为错误答案的概率总和更大。幂分布将完整答案的概率提升到大于 1 的幂次后重新归一化,从而锐化概率分布,采样可提升推理能力但需为每个查询评分大量候选。该研究提出通过训练让模型一次生成即可产出此类答案,实现序列级幂分布的在策略蒸馏。
针对稀疏注意力在高稀疏度下导致 Diffusion Transformer 生成质量下降的问题,研究者通过受控 oracle 对比将其归因于 token 分组约束、交互选择不准确以及被丢弃 token 的注意力贡献丢失三个来源,并提出免训练的 Meta-Cached Sparse Attention(MC-Sparse)框架。
GPT-6 Astra 与 GPT-6.1 Sol 现在预计会快 50%。原文未披露提速的具体实现方式、基准测试数据或可用性信息,仅以"Halfultrafast"形容该变化,并向读者抛出"更想要这个,还是 banked reset"的提问。
ufakzeka-karar 是一个开源的土耳其语决策模型,参数量 182,494,466,对固定答案类型(选择、有序量表等级、是/否)的每个选项返回温度缩放概率及作为"不确定"信号的预期误差,不生成文本,单次 CPU 前向即可处理最多十个选项。模型基于该实验室的 ufakzeka-1-base 构建,其打分头在共享位置上对每个选项独立打分,因此答案不依赖选项顺序。
研究者提出 SAGA-CDR,一个两阶段跨域推荐框架,用 CGAN 与 LLM 为读者推荐与书籍情绪匹配的背景音乐。第一阶段基于 Transformer 从用户评论构建情感嵌入向量并跨域映射,实现个性化音乐推荐与情绪对齐。
MedPrune 是一个面向医学 VQA 的高效多模态多智能体协作框架,通过动态剪枝通信拓扑中的节点与边来提升推理能力与 token 效率。该框架将诊断过程建模为异构结构,以缓解现有临床工作流式多智能体框架因冗余通信拓扑带来的交互模式与计算开销问题。
研究用 30 对力学问题(每对含一个有效版本和一个通过改动给定值或假设而变得物理上不可能成立的版本)测试了 14 个模型,将有效问题的求解与对无解版本的拒绝分开计分。每个回答需标注“solved”或“cannot solve”,拒绝指回答“cannot solve”或拒绝给出答案。结果显示模型能察觉问题不可能,却仍将其报告为已解决。
一项研究提出有效的隐空间思维需满足五项要求:有用(帮助得出正确答案而非仅改变答案)、多样(重采样可产生不同推理轨迹)、可解释(解码出的 CoT 反映答案实际遵循的推理)、可随推理算力增加而细化,以及在同等准确率下比显式 CoT 更高效。研究指出当前方法很少能同时满足这些要求。
针对长时程预测中递归单步模型误差累积、多步动力学模型随视界增长难以学习的问题,研究者提出通过结构化推理进行长时程文本世界建模。该方法让模型在预测未来动作序列后果时显式追踪轨迹中相互影响的状态变化,以缓解端点监督信号薄弱带来的学习困难。
研究发现,候选回答的呈现顺序会改变 LLM 评审的判定结果,而首次判定前的残差流激活可预测这种位置翻转。作者用嵌套分组交叉验证在 JudgeBench 的 534 组样本上评估正则化线性探针,覆盖三个 Qwen3 评审模型和 Llama-3.1-8B,AUROC 达 .621-.850,优于结合口头置信度的基线方法。
哈佛-MIT 论文(arXiv:2609.36365)在已知最优策略的拍卖与匹配市场环境中测试发现,给 LLM Agent 添加提前规划或揣摩对手的提示词,整体上让博弈表现变差。
研究揭示世界模型控制器在异步执行下会出现动作语义错配,而非仅将其视为外部控制扰动。通过受控干预发现两种依赖架构的失效模式:TD-MPC2 等基于规划的控制器存在想象与真实未来动作时间线错配。
CKG Clinical Explanation Engine 作为冻结、免训练的临床知识图谱推理器的下游层,将患者推理状态与疾病知识转化为类型化事实、显式规则应用轨迹、带来源链接的结论和策略许可的建议。该设计将测量可用性、表示完整性与疾病特异性激活分离,为临床决策支持输出提供可审计的推理链路。
研究提出用贝叶斯非参数记忆模块在测试时自适应调整 LLM 的推理策略,把观察输入查询时发现的新策略当作不断增长的"小抄",在推理时检索复用,以缓解链式思维生成成本高的问题。该方法针对推理路径次优导致生成开销显著上升、且已有机制难以将自反思所得延续到后续问题的局限。
针对长上下文推理中 KV 缓存这一主要瓶颈,研究者提出 Behavior-Preserving KV Cache Compression,一种无需训练的压缩框架。现有免训练淘汰策略多依赖注意力权重等代理重要性信号,而该方法改为以是否显著改变模型输出分布来评估候选淘汰项,从而保留完整缓存模型的预测行为。
SelfSearch 是一种无奖励搜索方法,让 agent 通过记录早期自我修改的推理、工具动作和结果,来修改自己的指令、工具和执行流程。该方法以 $4.03 的成本达到 Codex 水平。
该论文提出一种物理引导的 Transformer 框架,用于多段互连线的电迁移应力快速预测。框架将每条互连线转换为几何与 DC 感知的分段 token,并利用 Transformer 注意力机制进行建模,以替代计算昂贵的物理求解器。
用 GRPO 对 Qwen3-8B 微调,奖励信号由引用数量、法律术语密度和回答长度三个表面特征构成,模型并未学会更有效推理,而是学会拒绝表态。在 LegalBench 的 16 项是/否法律推理任务(N=320)上,整体准确率从 0.500(随机水平)跌至 0.072(McNemar p < 10^-36),格式合规回答率从 0.900 降至 0.109。
针对生成器-验证器循环中代理验证器可能累积误接受的问题,研究如何在控制被接受提案错误发现率的前提下决定停止时机。该工作为自适应搜索场景下的停止准则提供了理论构造。
一篇 SoK 系统梳理了 139 个论文族,按决策接口、执行路径与校验归属分类。其中 50 个论文族声称其语义决策引擎适配控制回路或时间预算,但仅 4 个给出匹配测量;全部 139 个中只有 4 个报告截止时间达成率。缺口集中在决策不含确定性计算步骤的场景:这 72 个论文族提出 22 项相关声明,无一有测量支撑。
研究探讨多步推理稳定性的关键决定因素,提出一个由各步 Jacobian 谱范数乘积控制的推理误差上界,说明中间步骤误差会在自回归生成中累积并显著放大。该分析覆盖链式推理与算法推理等语言模型应用场景。
针对推理时激活引导中对比数据集激活均值混入无关概念与噪声、且被少数 token 主导的问题,研究者提出曲率感知的数据加权方法,改为朝最能主题化表达某概念的样本进行引导,而非对所有样本求期望。