强化学习驱动的扩散模型：语言、视觉及更多领域的综述
这篇综述首次系统梳理了强化学习驱动的扩散模型（RL-driven DMs），探讨 RL 如何将扩散过程重塑为以经验为中心、目标导向的生成方式，覆盖语言、多模态、机器人和科学模型。作者在多个任务基准上评估了代表性方法，并指出奖励设计脆弱、高维生成空间中的探索-利用权衡、稀疏奖励下训练不稳定三大落地瓶颈。论文已被 TPAMI 接收，并构建了公开仓库持续追踪该领域进展。
#推理
arXiv cs.AIAI 评分2424 arXiv cs.AIAI 评分2222 用可解释语义表征分解大脑与 LLaMA2-7B 的对齐
研究用覆盖 65 个神经认知语义属性的可解释上下文语义表征 SCRIBE，分解 LLaMA2-7B 与大脑的对齐。基于七名受试者收听 Moth Radio Hour 叙事故事的 fMRI 数据做方差分解，发现共享方差在全脑及语言相关区域均占主导，两种表征也各自保留显著独有贡献。具体语义属性的共享方差高于抽象属性，属性消融显示语义贡献跨多个维度累积。
arXiv cs.AIAI 评分2424 带统计量的 FlashAttention：面向紧凑幻觉检测器的低开销注意力特征
研究者提出在 FlashAttention 前向过程中直接累积注意力权重统计量，无需物化注意力矩阵，即可为幻觉检测器提供特征。在 H100 上，五个已发表检测器的统计量使 Qwen3-8B 在 2K token 时的前向延迟增加 16%，35K token 时降至 1.4%，每响应 token 仅存 22.5 KiB。
arXiv cs.CLAI 评分2222 PACE：用成对 token 对比与自适应轨迹置信度增强多模态 RLVR
针对多模态 RLVR 中组相对策略优化把序列级优势广播到每个 token、且自蒸馏信号无法区分图像依据与语言捷径的问题，研究者提出 PACE，通过四种教师视角下的成对 token 对比判断 token 支持是否依赖图像，并用自适应轨迹置信度调节信用重分配幅度。PACE 在三个骨干模型上取得最佳平均准确率，并在 Qwen3-VL-8B-Instruct 上于所有评测的多模态推理基准排名第一。
arXiv cs.AIAI 评分2626 通过局部上下文蒸馏从交互经验中学习
研究者提出局部上下文蒸馏（LoCD），先定位学生轨迹中需要修正的关键片段，再由教师基于学生自身前缀重新生成这些片段并用于训练学生。在数学推理、代码生成和智能体任务上，LoCD 持续优于强基线，训练更稳定，参数更新更小更稀疏。
arXiv cs.AIAI 评分3232 Jev-LiteMAS：在多智能体工作流中分离决策与生成
Jev-LiteMAS 通过将多智能体工作流中的路由与审查操作交给轻量决策模型 Jev，在四个基准和两个骨干模型上将生成式 LLM token 消耗较 LAS 降低 12.7-54.6%，准确率差距控制在 1.34 个百分点以内，八种设置中有七种延迟下降。
arXiv cs.CLAI 评分3232 SpecAgent：让强模型审校弱模型草稿的工具智能体轨迹级推测与语义验证
SpecAgent 是一种协作协议，让弱模型在只读工具调用中起草步骤、强模型通过单次 prefill 并行验证并提交最长语义有效前缀，从而把强模型从每步生成者变为审校者。
arXiv cs.AIAI 评分3131 DCBench-440：AI 数据中心建设反事实推理基准
研究者提出 DCBench-440，用于测试 LLM 对 AI 数据中心建设承诺的反事实推理能力，包含 200 道基于 STRIPS 世界的生成题和 240 道基于站点记录与排放公式的选择题。开放权重模型生成题准确率 12.5-71.5%，选择题 58.3-92.5%；在列出决策节点所有可选动作时，无模型精确匹配超过 4.0%，最强模型仅列出 72-85% 会改变项目状态的动作。
arXiv cs.AIAI 评分2020 自引导 LLM 推理用于车辆路径问题错误诊断
研究系统考察了 LLM 检测和纠正车辆路径问题（VRP）实例错误的能力，发现其在复杂实例或大幅增加推理负担的错误上存在明显局限。为此提出自引导推理框架，让 LLM 自主生成代码提供结构化洞察以辅助错误诊断。在多种问题设置和 LLM 上的实验表明，该框架显著提升错误检测性能，达到接近完美的准确率。
arXiv cs.AIAI 评分2222 SIF：用选择性内部反馈让语言模型学会推理
一种名为 SIF 的强化学习方法通过比较多个窗口与同伴的 token 级自置信度排序，仅在样本级和组级投票均达标时给予正向奖励，并筛选参与策略优化的响应。
arXiv cs.CLAI 评分2222 HyCo：面向移动端-云端推测解码的低成本混合草拟方案
HyCo 将服务器模型原生多 token 预测（MTP）头的深度草拟放到设备端执行，替代分支则交给一次 SLM 前向，服务器只返回该头所需的隐藏状态、输入嵌入和 KV 条目。
arXiv cs.CLAI 评分2020 社交媒体压力与情绪预测中提示词演化的有效策略识别
研究对比六种提示词演化方法在社交媒体压力与情绪数据上、两种模型规模下的表现，发现 GEPA 及其结合两个提示词指令的扩展版 GEPA+merge 在多个设置中优于初始提示词。研究还识别出五种与性能提升相关的提示策略，包括引导关注情绪证据、区分当前与过往痛苦、示例间接线索、要求情绪背景和引导标签选择。二元压力预测较早改善，而多标签情绪预测初期下降后部分恢复。
arXiv cs.CLAI 评分2222 校准语言如何影响多语言模型的 Block Influence 剪枝
研究在 Qwen2.5-1.5B-Instruct、Llama-3.2-1B 和 Gemma-2-2B 上发现，用英语校准的 Block Influence（BI）会系统性低估印度语言文本的深层网络活动，三种印度语言的后期 block BI 比英语高 20.7-55.5%。
arXiv cs.CLAI 评分2222 DPA-MoE：面向 MoE 推理的运行时精度控制框架
DPA-MoE 是一个让路由专家支持任意精度的运行时精度控制框架，通过 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的 chunk，并利用实时 router gate 分数在推理时分配 chunk，使单个编码后的 MoE checkpoint 无需重训练或重新编码即可在多种有效权重预算下运行。
arXiv cs.AIAI 评分2222 CA-MAMBA：在想象中进行受约束多智能体强化学习
CA-MAMBA 将多智能体世界模型中的成本预测移入想象空间，在 SMAC 中位配置上所需交互次数仅为无模型基线的 1/10 至 1/20，在同等预算下 MAMuJoCo 奖励为基线的 2.8 至 12 倍。在每基准单任务的受控测试中，将模型成本优势按平价定价可使成本盲学习者的成本降低一半以上，并满足学习型乘数未能达到的严格连续控制限制，表明模型成本估计并非瓶颈。
arXiv cs.CLAI 评分2222 SIAB：用内部注意力信号进行情感状态推理
研究提出 Self-targeted Internal Attention Boosting（SIAB），通过因果定位（激活补丁）在合成最小对上定位稀疏情感注意力头，并在答案位置增强这些头已关注的内容 token，无需外部标注的目标跨度。
arXiv cs.AIAI 评分2929 思维密度：预测与引导大语言模型的推理
研究通过 LP variance 和 Caveman 压缩比两项指标衡量 CoT 各推理步骤的信息密度，发现较低 LP variance 可预测 SFT 模型答案正确性，但该关系随规模减弱并在 RL 蒸馏模型中反转。
arXiv cs.CLAI 评分2222 OpCredit：面向智能体知识图谱问答的操作感知策略学习
OpCredit 是一个操作感知的策略学习框架，通过分支结果信用（BOC）与前沿转移信用（FTC）两个互补信号，为智能体知识图谱问答中每个可执行操作单独评估贡献，而非依赖轨迹级奖励。在 ComplexWebQuestions、WebQSP 和 GrailQA 三个基准、三种骨干模型上，该方法均取得一致的 KGQA 性能提升，推理时仅需已学习的策略和标准 KG 接口。
arXiv cs.CLAI 评分2222 混合生成-标注解码：高效提取产品属性值
研究者提出混合生成-标注解码架构，将标注源文本片段与开放式生成结合：可复制的常见属性值由标注头直接从源文本抽取，生成头则专注标注标签空间外的稀有属性和需重格式化或归一化的非可复制值。该解码器集成进 vLLM 推理后，属性覆盖率提升 10%，正确属性值对多提取 63%，精度无损，延迟降低 44%。
arXiv cs.CLAI 评分3131 用大语言模型让医疗器械文档评估的每个阶段都实现确定性
研究测试了 14 个商用大语言模型部署（来自 3 家提供商的 7 个模型、6 种调用路径），在各自接受的确定性采样设置下重复同一请求，每个部署都至少有一次返回不同评估结果，其中 12 个出现标签变化。
arXiv cs.AIAI 评分2222 面向 LLM 评估的保形加权：评分标准判断缺乏不确定性
针对基于评分标准的 LLM 评估中判断确定性因标准而异、现有方法却统一聚合的问题，研究者提出免训练框架 Uncertainty-aware Rubric Weighting（URW），通过保形校准量化标准级判断不确定性。
arXiv cs.AIAI 评分4040 思考如何让推理模型按字面理解"some"和"or"：Entertain, then Cancel
研究发现，增加思考量会让推理模型把"some"（非全部）和"or"（非两者）的会话含义取消，转而按字面逻辑理解，这一现象在多数被测开源推理模型和 GPT-5 中均成立，而间接回答等依赖上下文的推理反而改善。推理轨迹显示模型先接受丰富含义、随后将其取消；一种在推理早期阶段作答的探索性方法可在不损失字面准确率的前提下恢复这些含义。
arXiv cs.AIAI 评分2222 CCE-OPD：面向语言模型在线策略蒸馏的条件对比外推方法
针对在线策略蒸馏（OPD）中教师模型易偏好违反问题前提的无效续写、进而鼓励错误推理步骤的问题，研究者提出 CCE-OPD，通过固定前缀对比与有界对数概率对比让教师监督对问题条件敏感。
arXiv cs.CLAI 评分2222 FGSS-BO：面向 LLM 贝叶斯优化的反馈引导假设管理
研究者提出 Feedback-Guided Search State（FGSS），一种将语言引导与观测证据、可执行参数干预及对比支持更新连接起来的结构化假设管理接口，由 LLM reflector 提出并修订假设、确定性 curator 验证并维护其身份与测试记录。
arXiv cs.CLAI 评分4444 System1-Arena：哪些决策可以交给 System 1？
研究者推出 System1-Arena 基准，用 92k 道题、105 项任务和 138 个闭环环境，对比 System-1 模型与生成式推理模型在离散决策上的表现。
arXiv cs.AIAI 评分3838 潜在思维链真的在推理吗？一个统一的潜在推理分类体系
研究覆盖 21 种模型-任务配置（3 种训练配方、3 类推理任务、2 种骨干网络），结合链删除、内容替换与探针和轨迹分析，检验潜在思维链是否真正影响答案。在逻辑任务上，COCONUT 的答案往往在链开始前就已可读出，状态早早收敛，删除链后预测几乎不变；即便逐步监督形成有序链，内容替换也不改变答案。
arXiv cs.CLAI 评分3636 超越检索失败：LLM 为何在多跳 RAG 中漏掉证据
研究提出无需训练的 ExecutionRAG 需求登记机制，记录未解决的子问题及其支撑证据，以区分检索器无法访问与智能体未发起查询两类失败原因。在 1,000 道 MuSiQue 问题上，all-MiniLM-L6-v2 的缺失证据错误答案从 382 降至 234，Qwen3-Embedding-0.6B 从 383 降至 274。
arXiv cs.AIAI 评分3434 GRADS：图调控的智能体数据合成框架，实现难度可控
GRADS 是一个图引导的智能体数据合成框架，通过维护证据与推理依赖图，在种子选择、证据扩展、问答构建与验证的闭环中实现显式难度控制，避免引入与答案弱耦合的无关上下文。
arXiv cs.CLAI 评分2727 从长上下文到选择性记忆：面向大语言模型以记忆为中心的压缩综述
这篇综述将长上下文压缩重新定义为推理时的记忆管理问题，区分直接参与模型计算的计算活跃记忆与处于计算路径之外的计算非活跃记忆，并把 offloaded KV cache、持久前缀缓存和预计算 KV 状态视为激活路径上的中间状态。
arXiv cs.AIAI 评分3131 All-in-One Memory：面向记忆智能体的过程奖励强化学习
研究者提出 All-in-One Memory（AiO-Mem），将检索、记忆写入与停止决策统一到共享证据状态和统一奖励空间，用过程奖励模型为完整交互轨迹打分，并通过 Process-Aligned DAPO（PA-DAPO）优化记忆策略。该方法把异构历史编译为可溯源的多视图事件，在长上下文记忆基准上持续提升答案准确率，优于静态记忆系统和 RL 训练的记忆智能体。
arXiv cs.CLAI 评分2727 ECI2D：通过可执行因果干预蒸馏自生成上下文演示
研究者提出 ECI2D 方法，将语言理由抽象为可执行程序，对逻辑相似样本施加因果干预（do-operator），仅保留具备迁移不变性的自生成 ICL 演示。在数学、逻辑和常识推理基准上，ECI2D 持续优于基于观察的 ICL，且保留的演示数量远少，测试分布偏移时增益超过 7 分。
arXiv cs.AIAI 评分2929 LLM 在部分可观测环境下的规划承诺研究
基于 LLM 的规划智能体在与部分可观测环境交互前，会隐式地选择激进或保守的规划承诺策略。在三个 LLM 和两个部分可观测域上的实验显示，两种策略准确率相近：保守方法失败次数更少但 API 调用更多，激进方法失败更频繁，仅在先验信息充分时才能高效重新规划。分析还发现 LLM 几乎将提供的先验当作事实，先验不可靠时容易导致失败。
arXiv cs.CLAI 评分3131 CoSTA：面向高效语音对话模型的压缩语音 token 适配
CoSTA 是一个兼容性保持的后处理框架，通过均值初始化词表扩展、发音适配和对话适配，将语音对话模型的生成与合成 token 空间解耦，同时保留原有语音 tokenizer 和解码器。在双语语音对话基准上，CoSTA 实现约 1.7 倍语音 token 生成速度提升，降低完整响应延迟并提高吞吐量，同时保持回复质量。实验还显示其具备跨架构迁移能力，并与低速率 tokenization 形成互补。
arXiv cs.CLAI 评分2727 RoPERelay：稀疏 KV 缓存选择后的位置几何优化
针对稀疏 KV 缓存中保留 token 仍沿用完整历史坐标、导致 RoPE 下被淘汰 token 的位置空隙持续干扰 query-key 匹配的问题，研究者提出 RoPERelay，为缓存键分配紧凑且保序的 RoPE 坐标，通过逆旋转与再旋转重定位键相位，并同步当前 query 与后续生成，无需重新选择、历史重预填充或额外缓存预算。
arXiv cs.AIAI 评分2424 RSHD：用失败回放恢复 GRPO 监督信号
针对 GRPO 在整组 rollout 全部失败时既无成功样例也无非零组内优势、学不到东西的问题，研究者提出 Replay-Selected Hindsight Distillation（RSHD），让策略在不看参考答案的情况下为每次失败写纠正笔记并带笔记重解，仅当回放成功率高于原组且笔记未泄露答案时才采纳，并将采纳的回放蒸馏回纯提示词策略。
arXiv cs.CLAI 评分3636 PremiseCheck：高效核查人类与 AI 同行评审中的事实错误
研究者提出 ReviewFact 基准，在 NLP、机器学习与自然科学领域用统一定义标注评审意见中的事实错误，并同时衡量成本与延迟。PremiseCheck 框架让 LLM 在不读论文的情况下把每条评审意见改写为显式前提，再由决策模型逐条对照论文核查。单条核查时，其在三个领域准确率与 GPT-5.5 相当而成本约为一半，NLP 评审上成本降至四分之一、延迟不到一半。
arXiv cs.CLAI 评分3131 LLM 能否预判自身决策的关键分歧点？
研究提出用"关键分歧点"（crux）刻画 LLM 决策依据，即模型多次 rollout 之间产生分歧、改变其取值可能改变结论的子问题。作者比较三种成本递增的策略：直接让模型先验预判、单次生成后提取、以及多次生成对比提取，后者借助 reranker 实现，算力约为 judge 的 1/86。
arXiv cs.AIAI 评分3838 LEV：用循环决策模型实现快速与深度思考
LEV 是一种通过循环重跑网络层而非生成 token 来加深推理的决策模型，基于以循环方式预训练的语言模型，每步循环后读取选项并联合训练所有步骤，使同一权重可在任意深度作答。
arXiv cs.CLAI 评分3232 剪掉摘要而非历史：面向长程智能体的 Source-Judged Compaction
针对长程 LLM 智能体的上下文压缩问题，研究者提出免训练的后处理步骤 Source-Judged Compaction（SJC）：用非生成式决策模型 Jev 为摘要中每条内容打分，判断其是否有环境输出或上一版摘要作为来源，并删除无来源条目。
arXiv cs.CLAI 评分2525 CoTranslator：将反向 CoT 翻译为正向 CoT 的推理蒸馏方法
CoTranslator 通过将反向 CoT 响应翻译为经过验证的正向响应分布，实现高效推理蒸馏。在六个数学基准上，它比语义抑制方法平均准确率最高提升 5.82 个百分点；对两个 4B 学生模型，以 35.9% 的估算算力保留了拒绝采样 95.0% 的平均准确率。