跳到正文
#推理
10月16日周五
  1. arXiv cs.CL24

    面向块扩散语言模型的无偏在线策略蒸馏框架 Un-OPD

    针对块扩散语言模型（BDLM）在线策略蒸馏（OPD）在大块尺寸下训练不稳定的问题，研究者提出无偏蒸馏框架 Un-OPD，通过边界感知步过滤消除师生块边界不匹配导致的上下文错位，并用支持度重平衡的置信度校准抑制高支持位置的过度自信崩溃。该框架还引入 rollout 复用机制降低生成开销，在数学推理与代码生成基准上稳定训练并将实际训练时间缩短约一半。

  4. arXiv cs.AI18

    基于优化确定性等价的风险敏感离线强化学习：可证明高效的算法与上下界

    研究用优化确定性等价（OCE）统一刻画风险敏感离线强化学习，提出动态-OCE 与静态-OCE 两种形式。在表格设定下给出悲观值迭代算法及紧的次线性次优上界，并建立 minimax 下界；针对大状态空间进一步提出悲观最小二乘值迭代算法，将 OCE 风险准则融入线性函数逼近，给出依赖效用函数与特征维度 d 的次线性保证。作者称这是动态与静态 OCE RL 的首个离线算法及首个上下界。

  7. arXiv cs.CL24

    Archer：为扩散语言模型高效回滚自适应复用缓存隐藏状态

    研究者提出免训练缓存方法 Archer，通过在每个更新步重算可变回复、仅在有限回复状态邻域内复用 prompt 的 K/V，实现扩散语言模型的高效回滚。在代码生成基准上，Archer 取得 33.63% 的最佳平均性能与 2.57x 平均加速，单基准最高 2.95x；在非代码基准上相对 LLaDA-Confidence 最高加速 4.33x 并提升平均准确率。代码已公开。

  11. arXiv cs.CL23

    TACO：面向 RLVR 的尾部感知信用校准方法

    针对 GRPO 类方法中"正信用污染"问题，研究者提出尾部感知信用校准方法 TACO，让策略自身作为参考，评估每个采样 token 相对策略局部预期的稀有度以计算尾部风险分数，并据此软性降低高尾部风险 token 的正信用、同时保留非零权重。在四个 LLM 和八个推理基准上，TACO 持续优于 GRPO 类基线，并提升训练稳定性，支持长程 RL 的持续性能增益。

  12. arXiv cs.CL22

    从信号到迁移：大语言模型中基于探针的不确定性估计的因子化研究

    一项因子化研究在匹配条件下系统比较了基于探针的不确定性估计方法，发现原始隐藏状态和注意力特征在域内难以被超越，但在分布偏移下结构化和压缩特征更稳健。提示词与标签构建方式显著影响探针行为，据此构建的基准预训练探针在开放式事实生成上保留了有效判别信号，性能可与有限标签目标域探针及采样估计器竞争。

  14. arXiv cs.CL22

    无需标准答案的推理：自动形式化的代理评判理论

    研究提出一种无参考的代理评判框架，将自动形式化的正确性拆分为接地、陈述忠实性、覆盖度和推理四项，并给出代理评判误判率如何影响迭代改进的理论边界。作者用八个代理在 Lean 4 的 ProofNet、miniF2F 和 Isabelle/HOL 的 e-SNLI、ProntoQA 上验证，单代理移除下所有预先写出的预测均未被推翻。

  15. arXiv cs.CL26

    文本就够了？文本作为语音 LLM 的通用信息瓶颈

    研究者提出 Convex Gate（C-Gate），将语音每一帧表示为冻结 token 嵌入的凸组合，用 Whisper-large-v3 编码器加部分适配的 Qwen2.5-7B-Instruct 解码器联合训练语音识别、情感识别与口语推理，单一共享解码器即可完成转录与情感识别。适配后解码器在纯文本基准上指令跟随与 MMLU 下降，GSM8K 与 HellaSwag 持平或超过原模型。

  18. arXiv cs.CL31

    LLM-as-a-Judge 中温度设置的必要性研究

    一项超百万次大规模评测研究发现，LLM-as-a-Judge 中低温度能带来一致且错误少的输出，尤其在小模型上，但一致性不等于判断可靠，低温度会收窄推理探索范围。研究通过四种推理人格刻画评判行为，发现高温重复采样结合多数投票，或高温推理加低温决策，可在不损害清晰样本的前提下提升模糊样本的一致性，代价是额外推理开销。

  19. arXiv cs.CL26

    用 LLM 生成调和性解释以化解矛盾陈述

    研究者提出"调和性解释生成"任务，要求模型生成能让矛盾陈述变得兼容的解释，并复用 NLI 数据集、引入可规模化自动评估的质量指标。对 13 个 LLM 在 thinking 与非 thinking 模式下的实验显示，模型在该任务上成功率有限，且更长的推理链与解释成功呈负相关。

  20. arXiv cs.CL22

    用大语言模型从 FOMC 声明中解码货币政策立场：Delta-Consistent Scoring 框架

    研究者提出 Delta-Consistent Scoring（DCS），一种无需人工标注的框架，将冻结的大语言模型表示映射为连续立场分数，同时建模声明的绝对立场与相邻会议间的相对变化。在四个 LLM 主干上，DCS 持续优于监督探针和 LLM-as-judge 基线，句级鹰派—鸽派分类准确率最高达 71.1%。其会议级分数与通胀指标高度相关，并与美国国债收益率变动显著关联。

  21. arXiv cs.AI22

    PriorityFEC：面向边缘多智能体系统 KV-Cache 交接的截止时间感知流式 FEC

    PriorityFEC 是一种面向边缘多智能体 LLM 系统的 KV-Cache 交接方案，通过将高价值 KV 块前置并按接收端反馈调度修复包，在 TTFT 截止时间前保护最有价值的 KV 信息。该方案在分布式边缘 LLM 服务原型上以 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 评测，任务质量优于对比传输方案，且在截止时间约束严格时优势更明显。

  22. arXiv cs.CL24

    Composition-RL：为大语言模型强化学习组合可验证提示词

    针对 RLVR 训练中通过率为 1 的简单提示词随训练推进不断增多、压缩有效数据规模的问题，研究者提出离线数据增强方法 Composition-RL，在 RL 之前组合现有提示词，且不修改 RL 优化器。在 4B 至 30B 模型上的实验显示，其推理能力持续优于用原始数据集训练的 RL，课程变体可进一步提升表现，并支持跨域提示词组合。代码、数据与模型均已公开。

  23. arXiv cs.CL38

    LLM 难以运用上下文中学到的表征

    一项研究检验 LLM 能否把上下文中学到的表征用于下游任务，发现开源权重模型在下一 token 预测和"自适应世界建模"新任务上都难以调用上下文定义的新语义，即便这些语义已编码在其隐层表征中。对闭源 SOTA 推理模型的测试同样显示，性能最强的 LLM 也无法可靠利用上下文给出的新模式。

  25. arXiv cs.AI22

    RecSoup：面向可控多目标推荐的高效模型合并方法

    RecSoup 是一种轻量两阶段模型合并方法，用于可控多目标推荐（CMOR），可在推理时动态调整目标权衡而无需联合重训练或额外生成模块。它先通过同时考虑目标专属重要性与跨目标相关性的剪枝策略缓解参数干扰，再用可学习的偏好到系数映射完成自适应参数合并。实验显示其帕累托前沿质量与可控性更优，推理延迟比参数生成方法快 165–228 倍，代码已开源。

  26. arXiv cs.CL35

    FactGuard：检测不可回答问题以提升长上下文推理可靠性

    研究者提出 FACTGUARD 多任务工作流及 FACTGUARD-BENCH 基准，包含 25,220 个样本、上下文长度最高 128K，针对证据缺失与误导性证据场景。对 11 个开源与闭源 LLM 的评测显示，随上下文增长模型难以拒绝不可回答问题，最佳模型准确率仅 71.62%；用该基准训练后整体准确率提升至 81.17%。

  27. arXiv cs.AI22

    何时值得为更好的 LLM 付费？混合保真度预言机的随机优化

    针对 LLM 辅助数据清洗与决策的下游任务，研究提出混合保真度一阶预言机的随机优化框架，用成本感知策略在不同保真度预言机间自适应切换。在偏差已知时，其累积成本不超过事后最优固定预言机；偏差未知时，用预算化认证方案以偶发可信梯度评估剔除有偏来源。合成与 LLM 补全实验显示，该策略跳过多个昂贵 LLM 预言机，在精度相当的情况下大幅降低累积成本。

  28. arXiv cs.CL31

    双重视角互补表征如何提升时间序列推理能力

    基于 Qwen3-VL-8B 的双视图模型将线图与归一化延迟嵌入结合，在 TSRBench 上把整体准确率从单用线图的 44.5% 提升至 53.2%，超过最强专用 TSLM 基线的 36.7%。该模型在 TSExam 上达到 89.9% 准确率，在多变量 ChatTS 对齐上取得 86.8% 数值准确率。消融实验显示，两种视图组合在预测与推理任务上的增益尤为显著。

  30. arXiv cs.CL22

    隐藏状态探针能否定位推理失败步骤？4B 与 8B 推理模型上的有效性研究

    研究测试了 4B 和 8B 推理模型的隐藏状态探针能否区分推理失败的三种情形并定位出错步骤。在 8B 模型的错误推理链上，置信度探针漏掉了 81% 的"单步导致不可恢复"案例和 47% 的"重试即可成功"案例，且换一种训练设计会反转这两类失败的排序。两个规模下，没有任何探针在定位失败步骤上优于仅基于推理链长度的规则，4B 上专门预测该步骤的探针在 10 次相同推理链运行中均未胜出。

  31. arXiv cs.CL22

    LLM 财务预测中的动量、评论语气与盈利意外

    研究用合成财报测试 LLM 财务预测的输入依赖：对四个模型家族六个指令/对话 checkpoint（0.49-7.61B 基础参数）各输入 2,016 条提示，主要 EPS 对比跨度达 -0.19 至 86.80 个百分点。六个模型中有五个的带符号语气对比幅度超过 EPS，动量也在五个模型中超过 EPS，自然词数值诊断准确率为 51.0% 至 95.8%。

  32. arXiv cs.AI23

    SOMA：四足机器人如何用分层强化学习完成物体堆叠操作

    SOMA 是一个面向四足机器人的分层强化学习框架，可实现多物体堆叠的全身非抓取式操作，并首次引入显式机身高度控制，将传统二维平面推动扩展到三维推动策略。该框架用 S5 编码器的高层操作策略预测目标跟踪指令，配合动态调整腿部站姿的底层运动策略，在仿真中单物体重定位成功率达 90.3%，双箱动态堆叠达 90.1%（位置误差 0.05 m、朝向误差 1°）。

  33. arXiv cs.AI12

    可复现的对决赌博机（Replicable Dueling Bandits）

    研究提出可复现对决赌博机问题：共享内部随机性、比较结果独立时，两次执行需以至少 1-ρ 概率每轮选出同一有序臂对。基于 Beat-the-Mean，作者设计了首批具次线性遗憾的算法：松弛随机传递性下遗憾为 Õ(γ⁸K⁴H_p/ρ²)，强随机传递性下基于同步消除改进至 Õ(K²H_p/ρ²)，线性对决赌博机下为 Õ(d³√T/(c_μρ))。合成与语言模型偏好实验验证了可复现性与次线性遗憾。

  36. arXiv cs.AI24

    将序列贝叶斯实验设计摊销进推理 LLM

    研究将序列贝叶斯实验设计（BED）摊销进 LLM，通过信息增益奖励显式训练引导动作选择的推理过程，实验生成模型独立于 LLM 自身信念。在 Twenty Questions 上，所得策略提升信息获取与任务表现，以显著更低计算成本超越推理时和训练时 BED 基线，并泛化到未见类别。

  37. arXiv cs.AI22

    ReasonUni：推理增强重建推进统一多模态模型

    研究者提出 ReasonUni，一个推理增强的重建式后训练框架，让统一多模态模型在给定原图和编辑指令后先推理"改什么、怎么改"并描述目标状态，再据此生成目标图像。配套的 TreeGRPO 采用树状强化学习，为每条推理路径采样多个候选图像并聚合视觉奖励，统一目标下同时更新理解与生成两个模块。多个 benchmark 上理解与生成均取得一致提升。

  38. arXiv cs.CL22

    Waypoint-OPD：通过门控同策略蒸馏迁移 RL 引发的策略偏移

    Waypoint-OPD 通过引入同一 RL 训练的中间教师检查点，比较早期与晚期策略偏移在动作偏好方向上的一致性，并据此对端点偏移进行门控，方向相悖时予以抑制。该方法仅需额外一次冻结教师打分，在数学与代码推理的六种领域-学生组合中，以 Qwen3-4B 为教师、Qwen3-8B/14B/30B-A3B 为学生，均取得最高领域平均分。Qwen3-8B 消融显示，移除或打乱门控会降低数学推理表现。

  39. arXiv cs.AI31

    解读语言模型参数：VPD 对抗式参数分解方法

    研究者提出对抗式参数分解（VPD），将语言模型参数拆解为仅实现模型学习算法一小部分的简单子组件，且只需少量子组件即可解释网络对任意输入的行为。该方法在大量子组件被消融（包括对抗性选择的消融）时仍能保持网络的输入输出行为，从而支持一种新的“电路”分析。论文共 124 页、47 张图，建议在线配合交互式图表阅读。