跳到正文
10月15日周四
  1. arXiv cs.AI32

    Flow Policy Gradients 如何用于机器人控制训练

    研究提出改进的 flow matching 策略梯度目标,绕过似然计算,使机器人控制策略可训练为更 expressive 的分布。该方法在腿足运动、人形动作跟踪和操作任务上均取得成功,并在两台人形机器人上实现稳健的 sim-to-real 迁移。消融分析显示,策略可从零训练时利用 flow 表示进行探索,微调鲁棒性也优于基线。

  2. arXiv cs.AI24

    DCD:面向自相关与非平稳时间序列的分解式因果发现框架

    研究者提出 DCD 分解式因果发现框架,将每条时间序列拆分为趋势、季节与残差分量并分别做因果分析:趋势用平稳性检验、季节用核依赖度量、残差用约束式因果发现,再整合为统一的多尺度因果结构。在大量合成基准和真实气候数据上,该框架比 SOTA 基线更准确地恢复真实因果结构,尤其在强非平稳与时间自相关条件下。

  3. arXiv cs.AI22

    从关联到激活:比较 LLM 中行为与隐藏状态的语义几何

    研究者在八个指令微调 Transformer 模型上,用相似性强制选择和自由联想两种范式、共享 5000 词词表收集 1750 万+ 试次,构建基于行为的相似度矩阵。表征相似性分析显示,强制选择行为与隐藏状态几何的对齐程度显著高于自由联想;在留出词回归中,行为相似度(尤其强制选择)能预测未见词的隐藏状态相似度,超出词汇基线和跨模型共识。

  4. arXiv cs.AI39

    Scalable Power Sampling:无需训练、通过分布锐化实现 LLM 高效推理

    研究者提出 Scalable Power Sampling,一种无需训练也无需验证器的算法,通过自回归地锐化基座模型的生成分布来提升 LLM 推理能力。该方法基于自回归幂分布的词元级分解,将全局幂分布近似为词元级缩放低温分布,缩放因子捕捉未来轨迹质量,从而省去迭代 MCMC。

  5. arXiv cs.AI31

    VERGE:面向可验证 LLM 推理的形式化精化与引导引擎

    VERGE 是一个神经符号框架,将 LLM 与 SMT 求解器结合,通过迭代精化生成经形式化验证的答案。它把 LLM 输出拆解为原子断言并自动形式化为一阶逻辑,用自动定理证明检查逻辑一致性,并引入多模型共识、语义路由和基于最小修正子集(MCS)的逻辑错误定位三项机制。在 GPT-OSS-120B 上,VERGE 在多个推理基准上收敛时平均性能较单次生成提升 18.7%。

  6. arXiv cs.AI24

    预训练领域比训练目标更能决定差分隐私医学影像分析的隐私-效用权衡

    在 591,884 张胸片、5 个数据集上训练的差分隐私胸片分类器显示,胸片监督预训练在 25 种数据集与隐私设置组合中的 24 种排名第一。以 AUC 衡量,其相较自然图像监督预训练的优势在无隐私时为 2.6%,在最严格隐私预算下为 15.3%;从该起点出发,更换领域带来的提升是更换目标的 2.2 至 3.7 倍。

  7. arXiv cs.AI22

    Uni-RS:面向遥感的空间忠实统一理解与生成模型

    针对统一遥感多模态模型在文本到图像生成中难以忠实执行空间关系的"空间反转诅咒",研究者提出 Uni-RS,通过显式空间布局规划、空间感知查询监督和图像-字幕空间布局变换三项设计,将几何规划与视觉合成解耦。实验显示该方法在多个基准上大幅提升生成的空间忠实度,同时在图像描述、视觉定位和 VQA 等理解任务上保持强劲表现。

  8. arXiv cs.AI25

    多模态基准何在?基础模型识别视频精彩片段的能力研究

    研究构建了一个基于公开足球精彩集锦的新数据集,用于评估多模态模型区分比赛中重要与非重要子事件的能力。对比多个 SOTA 多模态模型后发现,它们无法可靠捕捉上下文重要性,倾向于依赖单一主导模态,且难以综合多源信息。研究强调需要能动态适应多模态异质性的模块化架构及促进跨模态协同的训练方法。

  9. arXiv cs.AI36

    NeuroVLA:面向流畅快速反射式机器人控制的类脑具身智能架构

    研究者提出类脑架构 NeuroVLA,将皮层视觉语言规划器与递归小脑调制、有状态脉冲脊髓控制器耦合,兼顾语义规划与高频本体感觉反馈。其小脑模块将平均指令抖动降低 75.6%,碰撞恢复率达 54.8%,而所评估的 VLA 基线为 0.0%。基于 FPGA 神经形态处理器的脊髓控制器推理延迟 2.19 ms、每次推理 0.87 mJ,推理功耗约 0.4 W。

  10. arXiv cs.AI22

    PRISM:标签引导的程序性与教学视频高效摘要框架

    PRISM 是一个零样本、免训练的程序性视频摘要框架,仅选取不到 5% 的视频帧即可保留超过 84% 的语义内容,较基线最高提升 7.5%。它通过轻量视觉过滤和动态生成的过程标签作为语义锚点,筛选有意义的帧-标签组,减少传入下游视觉语言描述阶段的视觉输入。该工作在 YouCook2、ActivityNet Captions 及外科手术视频数据集上验证了语义对齐与准确率表现。

  11. arXiv cs.AI15

    PreNorm Transformer 中训练依赖的计算语义:架构先于公式

    研究提出"深度学习外在论"(DLE),认为运算的计算角色不仅取决于其输入输出函数,还取决于产生输入和接收输出的过程。作者在维度标记的 PreNorm Transformer 中证明,两个单射生产者上下文可保留全部前驱区分却改变固定局部与注意力接收器族是否等价,并推导出梯度下降下协方差相关的几何衰减与 Q/K-softmax 训练下的 $(t^{-1/2})$ 衰减。

  12. arXiv cs.AI23

    GeoMotionGPT:用大语言模型实现几何对齐的动作理解

    GeoMotionGPT 提出一种几何对齐框架,对动作码本与 LLM 嵌入空间同时施加正交性约束,使两者的关系结构自然对应,而非仅靠 token ID 关联。该方法采用带 Gumbel-Softmax 的 decoder-only 量化器实现可微训练与码本均衡使用,并通过稀疏投影将动作码映射进 LLM 嵌入空间,配合两阶段正交正则化调度。

  13. arXiv cs.AI22

    HERO:通过先推理后总结的分层证据推理优化实现放射学报告生成

    HERO 是一个分层证据推理优化框架,通过片段级、token 级和补全级三种粒度分别优化推理、诊断和推理依据忠实度,并采用覆盖诊断准确性、推理质量和思考-答案一致性的异构奖励。在 MIMIC-CXR 和 IU-Xray 上,HERO 超越强监督和强化学习基线,达到 SOTA 临床效能,同时生成更多有推理依据支持、思考-答案一致的报告,显著缓解临床幻觉。

  14. arXiv cs.AI10

    基于稀疏自编码器检索与调控 LLM 高阶语义特征的研究被撤回

    该论文已被作者 Ruikang Zhang 撤回,原因是论文经过大幅重构,新版本已提交为 arXiv:2607.26853。原研究提出基于稀疏自编码器的框架,通过受控语义对立的对比特征检索流程,从稀疏激活空间中提取单义功能特征,并以大五人格特质为案例实现模型行为的双向精准调控,同时提出"功能忠实性"效应。

  15. arXiv cs.AI23

    如何测量 LLM 评测中的所有噪声

    研究定义并测量了 LLM 评测中的三类噪声:同一问题生成不同答案的预测噪声、采样问题的数据噪声,以及依据总方差定律合并的总噪声。作者提出 all-pairs comparison 方法,对 LLM 所有配对做成对比较,基于数百万条问题级预测测量各噪声分量。结果显示多数评测在所有模型对上呈现高度可预测的总噪声水平,且成对预测噪声通常大于成对数据噪声,通过平均降低预测噪声可显著提升统计功效。

  16. arXiv cs.AI22

    Naga:受吠陀数学启发的深度状态空间模型编码方法

    研究者提出 Naga,一种受吠陀数学结构概念启发的深度状态空间模型(SSM)编码方法,通过双向处理正向与时间反转序列并经 Hadamard 逐元素交互,增强对远距离时间步依赖的捕捉能力。在 ETTh1、ETTh2、ETTm1、ETTm2、Weather、Traffic、ILI 等长期时间序列预测基准上,Naga 优于 28 个当前 SOTA 模型,且效率较现有深度 SSM 方法更优。

  17. arXiv cs.AI24

    超越下一 token 预测:Max(MI(S;t)) 如何填补 LLM 训练的互信息缺口

    研究提出基于互信息的确定性启发式方法 Max(MI(S;t)),通过优先预测信息量丰富的目标 token 来组织训练时的目标顺序,在算术推理、多标签文本分类和文本生成任务中常优于标准 NTP 及 reverse order、TF-IDF、条件概率选择等基线。该方法在 GPT 风格模型及预训练 Llama/Qwen 变体上验证,无需改动模型架构或自回归解码。

  18. arXiv cs.AI33

    SoK:系统化 LLM 提示词安全——越狱攻击与防御的分类体系、数据集及统一评估

    一项 SoK 研究系统梳理了 272 项 LLM 提示词安全研究,提出越狱攻击、防御与模型漏洞三套多标签分类体系,并发布开源平台 PromptSecurity 及配套数据集 JailbreakDB(445,752 条越狱提示对、1,094,122 条良性提示)和 PromptSecurity-Eval(166,200 条有害查询、9,200 条良性效用记录)。

  19. arXiv cs.AI22

    从函数中心视角重新审视平坦与尖锐极小值

    一项被 TMLR 接收的研究重新审视了尖锐度与模型性能的关系,提出将极小值几何视为依赖函数的性质,而非泛化能力的直接指标。在单目标优化、合成非线性二分类及现代图像分类任务中,研究发现更尖锐的极小值常在权重衰减、数据增强或 SAM 等正则化下出现,并可与更好的泛化、校准、鲁棒性和函数一致性同时发生。作者据此认为,平坦性不应被当作泛化的通用代理,呼吁以函数为中心重新评估极小值几何。