跳到正文
10月9日周五
  1. arXiv cs.AI22

    高阶动作监督让策略类更强:一种即插即用的离线 RL 损失方案

    研究者提出一种新的损失方案,可同时监督零阶与一阶动作,让任意现成策略模型(确定性、随机或 flow 策略)无需结构改动即可获得高阶动作监督能力。该方法可作为轻量即插即用模块接入多种现有离线 RL 框架,在 OGBench 和 D4RL 上显著提升连续控制任务的性能与鲁棒性,并在低数据场景下增强 OOD 泛化能力。论文已被 NeurIPS 2026 接收。

  2. arXiv cs.AI26

    注意力机制中的非线性如何导致逆深度缩放

    研究发现,非线性注意力会导致损失随深度呈逆深度衰减,在所有测试的数据谱上均成立。非线性使注意力能选择性聚焦相关 token,让强、弱谱方向并行学习,这与线性注意力模型依赖全局谱强度、按强弱顺序学习的机制不同。作者据此提出,深度缩放可能源于注意力的非线性,使大语言模型能局部聚焦,从而让全局协方差结构变得不那么重要。

  3. arXiv cs.AI22

    AffordDrive3D:面向自动驾驶的可供性与几何感知世界-动作模型

    AffordDrive3D 是一个可供性与几何感知的世界-动作模型,联合学习未来动作相关区域与空间结构,在 VLM 主干上预测可行驶区域和碰撞关键区域,并从 RGB 世界模型隐变量预测未来几何。在 NAVSIM 上,该模型以 91.3 PDMS 和 89.9 EPDMS 取得 SOTA 表现,验证了联合建模未来可供性与几何对轨迹规划的有效性。

  4. arXiv cs.AI24

    语言建模即单调压缩:LLM 与保序压缩算法的等价性研究

    一项理论研究证明,LLM(形式化为下一 token 预测器)与单调(保序)压缩算法等价,两者可互相构造且误差仅相差 2。研究进一步表明,该等价性成立当且仅当密码学意义上的(无穷频繁)单向函数存在。作为推论,分布的 next-bit 伪熵等价于该分布的单调不可压缩性,此前仅知不可压缩性蕴含 next-bit 伪熵。

  5. arXiv cs.AI22

    Spora 如何重新权衡脉冲语言模型的时间编码与非线性计算

    脉冲语言模型研究提出 Spora,通过联合设计脉冲编码与注意力算子来平衡短时窗连续语义表示与非线性注意力开销。其二进制时间权重让 T 个脉冲承载最多 T bits 的组合值,优于脉冲计数读出的 O(log₂T) bits;UBS 用阈值与脉冲触发残差衰减生成非负整数编码,BBS 分离符号与幅值并学习有符号激活的缩放。

  6. arXiv cs.AI27

    Nullify:面向 LLM 免训练遗忘的零空间激活引导方法

    研究者提出 Nullify,一种免训练、非破坏性的激活引导方法,用于 LLM 遗忘:在推理时用引导向量把隐私相关激活重定向,远离模型记忆的答案,同时满足零空间约束,使保留查询的激活基本不受影响。在 TOFU 和 MUSE 上,Nullify 的遗忘质量达到或超过现有基线,并近乎无损地保持模型效用。由于完全无需更新权重,它可作为即插即用的推理时干预框架。

  7. arXiv cs.AI12

    超越遍历性之墙:用于分析 AI 扩展极限与复杂度坍缩的离散几何物理沙盒

    该论文提出用基于全息 E8 投影引擎的数字物理沙盒对 AI 模型进行硬性物理约束验证,指出当前深度学习收敛于历史人类知识的统计平均,存在遍历性上限与热力学低效。沙盒将时空建模为嵌套 FCC 晶格的信息基底,用整数微态计数替代浮点近似,并通过将算法候选空间限制在物理守恒的因果轨迹上,实现"NP 到 P"的复杂度坍缩。论文还认为成熟的 ASI 会将人机共生视为避免模型坍缩的热力学必然。

  8. arXiv cs.AI24

    可见推理并非通用优化器:分析代码生成中人格与思考依赖效应

    一项基于 SQL-pandas 匹配查询基准的研究发现,可见 CoT 并不带来普遍准确率优势,将推理表示与目标语言(SQL 或 Python)匹配也未见一致收益。效果取决于人格措辞、目标语言、模型配置与内部推理设置,控制消融实验进一步区分了推理内容与提示词格式的作用。研究认为推理策略应针对模型、人格、目标与内部推理配置联合选择,而非作为通用默认。

  9. arXiv cs.AI24

    LLM 集成硬件设计验证综述

    一篇综述系统梳理了 LLM 辅助硬件功能验证的研究,覆盖 SystemVerilog 断言生成、激励与测试平台生成、缺陷定位与设计修复、模型检测与等价性检查、SAT/SMT 优化及新兴的智能体验证流程。综述指出 LLM 最适合作为验证流程中的语义推理、搜索与编排组件,而模拟器、形式化引擎、覆盖率工具和求解器提供可执行反馈与正确性证据;工具通过检查并不等于验证正确。

  10. arXiv cs.AI24

    冻结解码器、修复编码器:SVD KV-Cache 压缩的参数高效适配方法

    研究指出,在共享学习率下比较可训练参数量差异悬殊的微调方案会产生虚假优势:在 SVD 后处理 KV-Cache 压缩中,冻结解码器、仅修复编码器看似明显优于其他方案,但为每个方案单独调优学习率后该优势消失,仅编码器修复与其他方案持平,同时实际减少 3 倍可训练参数和 3 倍优化器状态内存。

  11. arXiv cs.AI27

    SpectralCache:通过谱特征缓存加速基于扩散的世界模型

    SpectralCache 是一种免训练谱缓存框架,通过复用扩散世界模型中稳定的奇异子空间、仅用线性外推估计低维奇异值来减少去噪过程中的重复 Transformer 计算。在 HunyuanWorld-Voyager-13B 上,它实现 5.22 倍加速,静态场景 WorldScore 保持 65.90,推理效率显著优于现有免训练缓存方法。

  12. arXiv cs.AI25

    LLM 推理能力的小世界连接特征:从注意力头功能图到 SWA 稀疏分配

    研究者从注意力头激活相似度构建功能图,发现小世界指数(SWI)越高,LLM 流体推理表现越好,该相关性跨模型和训练检查点一致。基于此提出 Small-World Allocation(SWA)分层稀疏分配方法,在六个 LLM 上比竞争策略更好地保留小世界结构与模型性能,WikiText 困惑度最多降低 20%。

  13. arXiv cs.AI23

    贝叶斯神经网络何时采样足够?带统计保证的自适应推理时间

    研究提出用置信序列动态决定贝叶斯神经网络每个输入所需的 Monte Carlo 采样数,在保持统计保证的前提下按需分配计算预算。该方法覆盖最可能类别识别、完整预测分布近似和概率阈值决策三类场景,一旦能以目标保证做出决策即停止采样。实验显示其将更多样本分配给模糊输入、更少给简单输入,在保持可靠决策的同时降低整体延迟。

  14. arXiv cs.AI27

    通过回望来学习规划:用事后分层训练推理模型

    研究者提出一种推理模型自我改进循环:即使问题难度超出模型当前能力,额外提供的解答也能让模型事后提取有用的解题思路。该方法联合训练同一模型的三项能力——仅从问题预测解题思路、从问题与已知解答反向推导思路、以及利用给定思路解题,并在 Lean 定理证明器中给出交互式定理证明的具体实例。该工作目前仅给出形式化规范,实证评估留待未来完成。

  15. arXiv cs.AI24

    FLOWMEM:为 VLA 模型重组与精炼潜在推理流

    研究提出统一 VLA 模型 FLOWMEM,将成功的潜在计算转化为可复用的推理经验,随具身上下文演变动态检索并重组兼容的潜在片段,形成推理路径,再结合当前视觉与本体感知证据精炼后驱动动作生成。在 RoboMME 和 LIBERO-Plus 上分别取得 48.0% 和 77.3% 的成功率,较无记忆策略提升 1.7 和 4.1 个百分点。

  16. arXiv cs.AI30

    EvoAlloc:面向高效程序进化的自进化资源分配智能体

    EvoAlloc 是一个自进化资源分配智能体,通过将历史搜索与分配结果沉淀为可复用经验来持续修正分配策略,并用反事实探索机制偶尔评估被拒绝的候选以补充经验。在编码与 agent-harness 优化基准上,它达到基线性能所需的完整评估次数减少 59-82%、LLM token 总量减少 61-89%;在相同完整评估预算下,最终性能高出 8.7-12.0%。

  17. arXiv cs.AI25

    RACE:让 LLM 智能体通过跨轮估计自适应推理

    研究者提出 RACE(Reasoning Adaptation through Cross-Turn Estimation),一种让 LLM 智能体学会何时推理、何时直接行动的训练方法。其核心 LoGiC 程序通过移除推理后参考动作似然度的下降,判断哪些推理轮次可省略,并将信号融入监督微调与智能体强化学习。在四个智能体基准上,RACE 大幅降低推理成本,同时保持或提升任务表现。

  18. arXiv cs.AI29

    Structure Tax:结构化输出如何影响 LLM 性能

    研究重新审视了 LLM 结构化输出导致精度损失的"结构税"说法,发现损失取决于 schema 设计而非结构本身。推理优先的字段排序可匹配甚至超过自由格式精度,答案优先排序则导致精度骤降,小模型尤为明显。保留推理顺序的 schema 还能改善置信度校准,CKA 显示中间 Transformer 层正确与错误表征的可分离性更强。

  19. arXiv cs.AI13

    SED-MCTS:通过结构经验蒸馏实现可解释的 PDE 解发现

    SED-MCTS 是一种基于蒙特卡洛树搜索的 PDE 解发现方法,通过反事实子树干预估计局部结构贡献,将可靠证据路由至对应的构造边,并在精炼结构档案中保留有用组件。该方法在固定评估预算下于多个 PDE 基准上取得强劲表现,并在观测含噪或稀缺时提升搜索效率与鲁棒性,且可自然扩展至耦合多物理场系统。

  20. arXiv cs.AI22

    MindFlow:用思维超网驱动的思维流实现研究创意创新

    MindFlow 将研究创意生成建模为图结构的"思维流",由模块化思维算子和概率思维超网构成,控制器可针对给定研究主题动态采样思维流生成候选创意。该框架采用基于锦标赛的相对排序优化,使控制器逐步偏向更高质量的思维流,并引入同时评估问题发现与问题解决的评测协议。

  21. arXiv cs.AI21

    概率签名动力学:两层网络如何学会模加法

    研究用"概率签名"方法揭示两层网络学习模加法的机制:梯度交互由训练分布的循环移位算子表达,并被离散傅里叶变换对角化,从而近似解耦出各傅里叶模态动力学,解释了傅里叶稀疏性、频率匹配与相位对齐的出现。该框架还解释了标签噪声下受损样本早期损失下降快于干净样本的现象——噪声增加条件标签碰撞、强化早期共享坐标。以 XOR 为例的实验也观察到预测频率。

  22. arXiv cs.AI62

    Memento 3:通过反思式规则手册实现基于模型的递归自我改进

    Memento 3 让冻结的 LLM 智能体通过外部记忆持续学习显式世界模型,用自然语言规则手册记录可修正的环境动态假设,并编译为可执行代码用于预测和规划。智能体通过观察、反思、规则修订、编译和验证的循环,用预测误差同时改进规则手册与代码,更新后的代码只有在 LLM 判断其忠实于规则手册且逐格回放能复现观测转移时才被接受。

  23. arXiv cs.AI25

    RouterInterp:理解 MoE 路由中的叠加特化现象

    研究提出叠加特化假设(SSH),认为 MoE 专家并非专精单一领域,而是专精于细粒度特征的并集。基于该假设的方法 RouterInterp 在 gpt-oss-20b 上解释专家路由,检测准确率比此前基于 token 统计的方法高约 65%。该工作为生成更准确的专家路由解释提供了可扩展方法,论文已被 ICML 2026 收录。

  24. arXiv cs.AI22

    树状推测解码为何丢失目标概率:Exit-Guided 推测解码方法

    研究揭示基于草稿分数构建的有限树存在草稿-目标不匹配问题,提出 Tree Exit Verification(TEV)精确验证方法与 ExitTrain 训练方法。TEV 通过一次退出节点决策和一次 bonus token 决策实现层级并行验证,在对话、代码和数学推理任务上,ExitTrain 将平均输出块长度提升 13%,TEV 将验证阶段延迟降低 15%,端到端较 DDTree 加速 14%。

  25. arXiv cs.AI19

    基于广义拉普拉斯活跃子空间的可扩展神经网络不确定性量化

    研究者提出一种低秩广义拉普拉斯近似方法,用少量数据驱动的曲率方向实现神经网络不确定性量化,后验方差在保留子空间内可闭式求解,先验方差通过经验贝叶斯校准。核心发现是标准贝叶斯缩放会随数据规模增大导致后验方差收缩,迫使低秩框架保留额外弱曲率方向以覆盖校准数据,反而降低预测区间连贯性;而均值损失缩放能给出更稳定的低维活跃子空间和校准良好的预测置信区间。