跳到正文
10月16日周五
  1. arXiv cs.CL32

    用无标签子空间分离语言模型的判断与表达

    研究者发现,同一输入在不同指令下隐藏状态向量的差异集中在一个低维"表达子空间"中,无需基准标签即可识别该子空间,并从线性预测器中移除其贡献以获得"孤立判断"。在正确性、蕴含和安全任务上,孤立判断在未见指令下仍保持可靠;当判断问题被否定时,蕴含任务 AUROC 从 0.504 升至 0.825,安全任务从 0.480 升至 0.891。判断在表达子空间干扰预测器之前的更早层即可读出。

  2. arXiv cs.CL24

    稀疏自编码器中的表征重分配:RSS 分数如何识别可复现的特征变化

    研究提出重分配敏感度分数(RSS),用于识别在提示词变换下方向一致且可复现的大幅特征响应。在覆盖 8 个语言模型、27 个预训练 SAE 上,RSS 支持集在未参与选择的变体上呈现可复现的重分配特征。在两个冻结安全读出中,RSS 支持侵蚀结合完整干净边际,以中位数 20 和 19 个特征分别取得 0.935 和 0.958 的复现失败 AUROC,低于完整侵蚀的 0.965 和 0.964。

  3. arXiv cs.CL26

    语言模型在工作记忆中共享读出瓶颈

    研究在 15 个预训练 LLM(70M 至 14B 参数,来自三个模型家族)及从零训练的最小 Transformer 上发现,LLM 在 N-back 任务中表现出与人类相似的工作记忆特征:记忆负载 N 增大时性能下降,错误集中于相邻错误位置的干扰项。

  4. arXiv cs.AI34

    KnowGPO:面向搜索智能体的知识分组策略优化

    KnowGPO 是一个按任务相关知识而非表面观测对齐轨迹的强化学习框架,将查询所需信息拆解为原子知识条件,用已满足条件的子集表示轨迹状态,并对相同知识状态的轨迹分组比较,以步间知识增量为过程奖励。在 Xbench、BrowseComp-ZH 和 GAIA 上,KnowGPO 比 GRPO、GiGPO、IGPO 等基线高出 3.8 至 4.2 分,其 8B 模型可媲美或超过多数 32B 开源系统。

  5. arXiv cs.CL22

    AURA:面向高效文本检索的效用引导自适应推理框架

    AURA 框架通过直接监督中间推理状态对相关文档与困难干扰项的区分能力,并训练轻量效用估计器在推理时自适应调整推理深度。在 BRIGHT 基准上,AURA-4B 以平均 2.8 个推理步骤和每查询 96 个生成 token 达到 34.7 nDCG@10,自适应停止将延迟从 4.6 秒降至 0.76 秒。MS MARCO 上的结果表明,这种专门化不会显著降低常规域内检索性能。

  6. arXiv cs.AI38

    LEASH:面向计算机使用智能体的不确定性感知弱到强升级与监督框架

    LEASH 是一个免训练框架,通过弱模型的潜在不确定性信号决定何时将控制权交给强模型,并在交接后持续监督强黑盒智能体。在 OSWorld 上,LEASH 在匹配升级率下比随机升级高出 6.55–11.94 分;搭配 Qwen3.5-35B-A3B 时任务成功率达 73.66%,每任务成本 $0.4117,与始终在线的 Claude Opus 5(72.90%)持平,推理成本降低 19.2%。

  7. arXiv cs.AI29

    基于模型分歧的弱到强路由方法

    研究者提出一种无需真实标注监督的弱到强路由方法,通过模型间分歧信号决定何时将小模型响应路由至更强模型。该方法先刻画最优路由策略,再基于模型间比较推导出有原则的近似方案,且强模型越接近真实分布近似越准确。在智能体与单轮任务中,该方法无需真实标注即可平衡路由成本与响应准确率,即使有真实正确性信号用于训练,基于分歧的路由仍可超越直接预测正确性的方法。

  8. arXiv cs.CL22

    CascadeLedger:LLM 级联中信息与资源完整性的反事实审计

    CascadeLedger 是一个面向预算受限语言模型级联的反事实执行审计框架,通过调用先于读取语义、服务与缓存身份绑定及事件轨迹冻结,判定聚合等价轨迹有效性。其两层审计在冻结缓存、独立生成与服务评估中实现 0.0000 假阳性率,检出 0.9983 的序列化故障与 0.9982 的未记录隐藏读取故障,并在确定性重算后改变 0.3403 的受损质量-资源结论。

  9. arXiv cs.CL44

    同一答案换个框:RLVR 的域外增益有多少来自答案格式?

    研究测量了 RLVR 报告的域外增益中有多少来自答案格式而非答案本身。在四个已发布的 7B SimpleRL base-RL 模型对上,用公开代码提取器报告的域外多选题增益有 82% 在改用能同时读取 \boxed{} 与正文的提取器后消失;独立 LLM 读者给出的比例为 77%,要求输出框的提示词下为 79%。而在另一个配方训练的 32B 模型对上,报告的增益几乎不含格式增益。

  10. arXiv cs.CL31

    Grid-Bench:LLM 能否预测离散世界的变化?

    研究者推出 Grid-Bench,一个可执行基准,用二、三、四维网格表示离散世界,让模型在给定初始网格、显式规则和文本事件历史后预测完整最终网格。评估六款 LLM 显示,随着历史变长,完整状态准确率急剧下降,单事件表现相近的模型出现明显分化。参考执行使每个预测值可核验,从而在空间操作、历史长度和工作负载间直接比较。

  11. arXiv cs.CL29

    扩散语言模型的多目标少样本提示

    研究提出用扩散语言模型进行多目标少样本提示,让示例引导共享画布中多个掩码区域的填充,以解决因果自回归模型难以同时利用左右上下文的问题。团队还通过对画布选择性掩码推导似然比奖励,偏好有示例支持的填充结果。在少样本提示基准和软件重构案例中,示例提升了填充准确率,示例引导在多个设置下带来进一步增益。

  12. arXiv cs.AI24

    PRM4RL:用大语言模型为强化学习构建进度奖励模型

    研究者提出 PRM4RL 框架,将复杂任务分解为可管理的子任务,并设计子任务导向的细粒度进度函数来监控执行进度,再基于势能奖励塑形构造进度奖励模型(PRM),提供最优性与收敛性理论保证。在机器人控制任务上,该方法优于基于 LLM 的规划与奖励方法,达到 SOTA,论文已被 NeurIPS 2025 收录,代码已开源。

  13. arXiv cs.AI35

    RSIFlow:带进化元智能体的自适应自我改进工作流

    RSIFlow 是一个递归自我改进框架,将自适应工作流编排与元智能体能力进化相结合,通过任务-智能体轨迹和环境反馈诊断性能瓶颈,动态选择组件级改进工作流。元智能体将工作流结果蒸馏为组件级技能与跨组件原则,进化自身 harness 以优化后续编排。在六个基准和两个骨干模型上,RSIFlow 在所有基准上取得 SOTA 平均性能,消融实验验证了自适应编排与元 harness 进化的贡献,代码已开源。

  14. arXiv cs.AI27

    潜在世界模型中的内在动力学学习:Concat IDM 用动作可预测性提升视觉多样性下的规划成功率

    研究提出以动作可预测性作为归纳偏置来保留世界模型的内在动力学,并实例化为 Concat IDM——从拼接的潜在状态预测动作,利用离线轨迹中已有的动作标签更新共享编码器,且不改变测试时的规划器。在 Push-T 的 24 种外观设置下,三次独立训练中 Concat IDM 将规划成功率从 9.1% 提升至 77.2%,其配对提升比单一外观设置高出 52.9 个百分点。

  15. arXiv cs.CL31

    超越上下文长度:刻画长上下文推理的难度

    研究者构建了 LURCH 基准,包含 6,550 个多领域问答实例及支撑证据与推理图,用证据范围、证据分散度和推理深度三个属性量化长上下文推理难度。对闭源与开源权重模型的评测显示,在固定上下文长度下,这三个属性均与模型表现强负相关;上下文变长时,证据分散的样本性能急剧下降,而证据集中的样本相对稳定。三个属性还会叠加放大难度,三者均中等偏高的题目比仅一项极端的题目更难。

  16. arXiv cs.AI26

    如何评估 LLM 智能体的探究学习能力:假设、推理与探索

    研究者提出一个统一交互式框架,用于评估 LLM 智能体的完整探究能力:将 Countdown 任务扩展为数学环境,让智能体通过操纵变量、收集观察来推断变量间关系。在 7 个 LLM 和多种提示策略下,实验显示模型固有探究能力有限、发现底层表达式的成功率偏低,但受教学脚手架启发的结构化引导能显著提升表现。