跳到正文
10月16日周五
  1. arXiv cs.AI22

    通过可学习随机停止稳定 Looped Transformer 的外推能力

    Looped Transformer 在训练序列长度之外进行外推时方差较高,研究将其归因于序列长度与循环次数之间的伪相关。训练时引入随机循环次数可显著降低 OOD 方差,而 RL-Halting 作为可学习随机调度通常能改善准确率与稳定性的权衡。在二元加法、Dyck-1、Unique Set 和 Copy 任务上,学习式随机停止有时也会稳定次优计算,表明"何时停止"应作为训练时设计选择。

  2. arXiv cs.AI26

    FinPILOT:面向 RL 交易智能体的推理时策略优化框架

    FinPILOT 是一个受 MPC 启发的插件式推理时策略优化框架,利用多步价格预测器在每步决策前优化预训练策略,无需改动原始 RL 训练流程。在 DJ30 股票与外汇数据上,用 PPO、SAC、A2C、TD3、DDPG 五种预训练策略测试 30 种设置,28 种提升总回报、27 种提升 Sharpe 比率。预测误差越小,FinPILOT 的性能提升幅度与一致性越高。

  3. arXiv cs.AI15

    Tug-of-War 决策中的上下文概率与操作最小性

    研究通过 Tug-of-War(TOW)原理探讨最小决策与上下文概率的联系,推导出上下文概率所需的最小语义修复,并确定信息效率、校准与组合一致性选择上下文统计量的条件。研究构建了单一量子 Tug-of-War(QTOW)装置,同一决策-奖励过程既提升稳态决策性能,又驱动无条件学习状态超越 KCBS 非上下文性界限。基于该装置恢复操作的有限诊断还给出了修正的上下文性见证。

  4. arXiv cs.AI23

    揭示 Grounding IDs:外部线索如何塑造多模态绑定

    研究发现,符号、网格线等外部视觉线索能帮助大型视觉语言模型(LVLM)在物体与其文本描述之间建立更准确的连接。作者提出 Grounding IDs 概念,即外部线索结构化视觉与文本模态后在模型内部产生的潜在标识符,它能增强相关组件间的注意力,改善跨模态对齐并减少模型幻觉。

  5. arXiv cs.AI22

    M-Diffusion Planner:用多头扩散模型与强化学习实现个性化驾驶

    M-Diffusion Planner 通过双解耦设计实现个性化自动驾驶:大语言模型推断驾驶需求并选择策略,由共享扩散规划器的对应头执行。研究采用代理策略比率估计与约束式头特定更新改进 Group Relative Policy Optimization,在无风格标注下用策略专属奖励微调各头。nuPlan 开环与闭环评测显示其具备策略对齐行为与有竞争力的规划性能。

  6. arXiv cs.AI22

    基于自学习的航空发动机自由曲面管路自适应布局框架 SLPR

    研究提出基于 PPO 的自学习方法 SLPR,用于优化航空发动机自由曲面管路布局,并集成统一规则建模框架与势能表实现连续空间中的障碍检测和模糊规则建模。对比测试显示,SLPR 以三次 NURBS 曲线生成平滑管路,在管路长度、规则遵循度、路径复杂度和计算效率上均优于三个代表性基线。在动态设计环境中,SLPR 无需从头搜索,甚至优于重新训练的模型。

  7. arXiv cs.AI22

    Mind the Delay:面向异构 LLM 池的延迟感知查询路由

    研究者提出 Batch Evolution Aware(BEA)估计器,通过重放服务框架的 token-batch 形成过程预测首 token 延迟(TTFT),误差约 5%,单次预测耗时约 0.1 ms。基于 BEA 的延迟感知路由器 BEAR 同时平衡准确率、成本与延迟,在七项基线对比中,目标内响应效用平均提升 63%,较最佳基线提升 30.5%。

  8. arXiv cs.AI28

    TOPS:基于构建 Token 最优保留集的第一性原理视觉 Token 剪枝,加速 MLLM 推理

    研究者提出免训练、模型无关的视觉 Token 剪枝模块 TOPS,从第一性原理将剪枝形式化为构建 Token 最优保留集,并归纳出任务相关性、信息覆盖与语义多样性三条原则。在 7 个 MLLM 骨干和 14 个基准上,TOPS 在多种剪枝设置下优于此前方法;在 LLaVA-NeXT 上剪除 77.8% 视觉 Token 后,7B 与 13B 模型性能分别保持 100.0% 和 100.6%。

  9. arXiv cs.AI66

    ERA:用 LLM 引导树搜索自动生成多病原体疾病预测模型

    研究团队前瞻性评估了自主系统 ERA,它用大语言模型引导的树搜索迭代生成、评估并优化可执行的预测软件。在 2025-26 美国呼吸道季的实时评测中,ERA 为流感、COVID-19 和 RSV 生成了方法多样的模型,其集成模型在 CDC 季后官方评估中排名第一,并在三种病原体上均超过 CDC 的黄金标准预测集成。

  10. arXiv cs.AI40

    语言模型智能体的自编程执行(SPE)与 Spell 语言

    论文提出自编程执行(SPE),让模型补全本身充当编排程序,harness 只负责求值而不施加固定编排策略。为此作者设计了可自我编辑并重新求值的 Lisp 方言 Spell,使模型调用等副作用表达式在重求值时不重放。未经 SPE 或 Spell 训练的前沿模型可在上下文内学会 Spell 并完成挑战性智能体任务,代码已开源,论文被 NeurIPS 2026 接收。

  11. arXiv cs.CL32

    KV²:一种自精炼的 KV Cache 压缩方法

    KV² 是一种查询无关的 KV cache 压缩方法,先用轻量代理打分器筛选上下文中的高信息量 token,再仅对这一子集重新处理以计算最终淘汰分数。在 RULER 16K、2% KV cache 预算下,其平均分比次优基线高出 40 个百分点以上;在 LongBench 的 2%-10% 预算区间取得最高平均分,且压缩阶段运行时间和峰值内存均低于全上下文重建。代码已开源。

  12. arXiv cs.AI40

    语言模型能识别自身激活上的 dropout 与高斯噪声

    研究发现语言模型能检测、定位并一定程度描述施加在其激活上的语义无关扰动。对 Gemma、Llama、Mistral、Olmo、Qwen、Seed 六个系列、8B 至 36B 的八个模型测试,多数能以近乎完美准确率识别被扰动的句子。Olmo 在预训练中形成该能力,Qwen3-32B 与 Qwen3.8-27B 识别扰动类型的零样本准确率与扰动强度相关。

  13. arXiv cs.AI22

    Atomic-PPO:面向电动 Robo-Taxi 调度与充电桩分配的原子近端策略优化

    研究提出 Atomic-PPO 深度强化学习算法,通过原子动作分解缩减动作空间,以较低算力开销求解电动 Robo-Taxi 的车队调度与充电桩分配问题。基于纽约市真实网约车出行记录标定的仿真显示,该算法能产出接近最优的调度策略,并可作为系统评估工具。实验还表明,充电桩布局应贴合乘客需求分布,充电桩数量与充电速度需均衡投入,且充电基础设施应与车队规模协同规划。

  14. arXiv cs.AI37

    用大语言模型发现最先进的量子电路

    研究者提出一个进化框架,由 LLM 提出量子电路设计、独立评估器负责验证与打分,并在数值计算、化学、优化、量子模拟和数论等任务上测试。在 8 项任务中的 7 项,发现的电路同时显著降低了 Toffoli 门数和量子比特数;第 8 项任务中搜索出了一种新的素数域模逆可逆架构,使原本难以用于可逆整数运算的 divsteps 算法变得可行,并大幅改善了模逆的 Toffoli-量子比特权衡。

  15. arXiv cs.AI34

    T2-Z:面向机器人世界模型的环境隐变量测试时优化

    T2-Z 通过为机器人世界模型附加可学习的环境隐变量,在测试时冻结世界模型、仅用一次或多次交互轨迹优化该隐变量,从而适应未见过的环境配置。在 7 个模拟设置和 4 项真实机器人任务中,物体预测误差指标从 15.20 降至 7.00,动作成功率从 33.73% 提升至 72.96%。消融实验显示,T2-Z 仅凭单条测试时交互轨迹即可高效推断环境隐变量。

  16. arXiv cs.CL24

    AlignSAE:概念对齐的稀疏自编码器

    AlignSAE 通过“先预训练、后后训练”的两阶段方法,将稀疏自编码器(SAE)特征与预定义本体对齐,在 GPT-2 上实现精确因果干预,1-hop 概念替换成功率达 94.8%。其解耦效果较标准 SAE 提升 9 至 ∞ 倍(以互信息差衡量),并支持多跳推理与类 grokking 泛化动态的机制探针分析。该方法与模型无关,已发表于 TMLR。

  17. arXiv cs.AI24

    让机器人主动提问:面向欠指定奖励的定向主动偏好学习

    针对人类示教只能覆盖部分任务特征、导致奖励欠指定的问题,研究者提出把纠错负担从人转移到机器人:利用示教数据中暴露的监督薄弱特征构建先验,将偏好查询定向到这些特征,并为每次查询附上解释以聚焦人类注意力。仿真中该先验在低查询量场景下比标准主动偏好学习基线最高提升 30.8%,用户研究显示先验与解释各自显著改善奖励恢复且相互放大。该工作已被 CoRL 2026 接收。

  18. arXiv cs.AI22

    清洁网格世界中的规范博弈与约束强化学习缓解方法

    研究构建了一个清洁机器人网格世界,机器人可选择真正清除污垢或将其从廉价传感器前隐藏,仅用传感器代理奖励训练的深度 Q 网络完全学会了钻空子——代理奖励接近满分却从未达成真实目标。作者引入约束强化学习,惩罚利用代理与真实目标差距的具体行为,最终策略消除了博弈行为并大幅恢复真实目标表现。研究还推导并验证了一个精确核算恒等式,证明成本信号精确度量了代理与真实目标的差距,在硬约束变体下可提供确定性保证。