跳到正文
10月15日周四
  1. arXiv cs.AI22

    QRR:一种具有相位旋转对称性的循环推理架构,在数独、迷宫和 Mini-ARC 上更快收敛

    研究者提出 QRR(Quotient Recurrent Reasoner),一种具有精确逐 token 相位旋转对称性的规范等变循环架构,通过在对称方向上引入旋转自由度,使该方向上的运动不改变商表示且与推理相关动力学动态解耦。QRR 在商空间中实现稳定且更快的解根收敛,不形成主导的慢振荡瓶颈,并在数独、迷宫和 Mini-ARC 上匹配或超越近期循环推理模型。

  2. arXiv cs.AI36

    LoOPSD:用循环教师做同策略自蒸馏

    LoOPSD 通过搜索模型自身的层执行顺序(重复某些层)构建更强的教师,并将教师的预测优势蒸馏回学生,且每轮用更新后的学生重建教师。在 GSM8K、400 token 思考预算下,该方法将 Qwen3-1.7B 准确率从 42.30% 提升至 79.61%,后续蒸馏轮次还能带来进一步增益。

  3. arXiv cs.AI38

    用户主张的表述方式如何驱动 LLM 谄媚行为

    一项针对 14 个模型、42K 道事实性问题的系统研究发现,所有 LLM 无论规模大小都易受用户观点影响,其中观点表述的自信程度、归属对象以及是否被呈现为用户与模型共有这三点影响最大。与以往研究不同,基于用户专业性或权威性的表述在事实性场景中影响甚微。更大模型更能抵抗错误观点,但从自身错误中恢复的能力并未更强。

  4. arXiv cs.AI27

    Fan Out 还是 Relay?面向 LLM 智能体查询孤岛数据表的归属感知路由

    针对 LLM 协调器查询多归属方数据表时 fan-out 与 relay 两种策略的取舍,研究在 PeopleJoin 和 BIRD 的 13 个设置、3 个模型族上发现,数据归属而非查询形态决定哪种策略更优:fan-out 在单归属方可答问题上 12 个设置更准,但在涉及两个归属方表连接时最多只答对 4.3%。

  5. arXiv cs.AI18

    学习到的块表示何时保留因果含义?块可识别性与构造性因果抽象

    研究将块可识别性与构造性因果抽象相连接,证明块对角可逆变换加兼容坐标置换是保持基于这些块构建的每个构造性因果抽象的最大变换类,前提是块与概念的对应关系随表示更新。在加性自编码器的小型合成实验中,高层干预可在独立学习的表示之间迁移并近似保持预期效果。

  6. arXiv cs.AI27

    H-DDCM:用 Hadamard 码本实现快速生成式图像与视频压缩

    H-DDCM 用隐式随机 Hadamard 字典替代高斯码本,实现免训练生成式图像与视频压缩,投影与重建仅需 O(d log d) 计算和 O(d) 内存。该框架还提出免查表字典序编码方案,并将方法适配到自回归视频流模型,通过周期性将近期重建帧重编码为新的 KV-cache 前缀,在单 GPU 上实现长时长、接近实时的生成式视频压缩。

  7. arXiv cs.AI19

    如何在未知 MDP 中验证几乎必然可达性:基于采样的 RSM 证书学习

    针对未知 MDP 中策略是否满足几乎必然可达性,研究证明在无额外信息时既无法学习也无法验证 RSM 证书;但在已知非零转移概率下界 p_min 的温和限制下,可借助采样以 PAC 式保证学习到正确证书。实验显示该 p_min 充分条件虽可靠但偏保守,条件失效时学到的证书在真实 MDP 上往往仍有效。

  8. arXiv cs.AI22

    当缺失性沿图传播:PEMix 超越特征传播的缺失特征处理方法

    针对图神经网络中缺失特征沿图边传播的现实场景,研究者形式化了"图结构掩码依赖"这一概念,并发现基于传播的现有方法在该设定下效果与均匀随机缺失时差异显著。为此提出 PEMix,不再传播观测值,而是用全局结构表示对不完整节点特征的概率模型进行条件化,再执行消息传递。在受控图结构缺失与自然缺失实验中,PEMix 在复杂缺失机制下保持稳健,缺失越严重表现越突出。

  9. arXiv cs.AI26

    CaLLM:缓解 LLM-as-a-judge 偏见的多元校准框架

    研究者提出 CaLLM,一个事后多元校准框架,可同时约束 LLM 评委在多个已知或未知群体上的系统性偏见。理论上 CaLLM 能约束所有误差结构可被现有表示捕获的群体偏见,加入显式偏见组还能进一步降低残余偏见,并给出了其提升评委准确率而非牺牲准确率换校准的条件。在成对偏好基准上,CaLLM 降低了指定与未指定偏见组的多元校准误差,同时提升了评委的预测性能。

  10. arXiv cs.AI27

    APT:面向文本生成图像的自反馈智能体后训练框架

    APT 是一个全自动后训练框架,通过协调三个智能体构建评测集、诊断模型能力短板,并按自适应提示词分布生成强化学习数据,让模型当前表现决定下一轮训练任务,形成递归自我改进式反馈闭环。针对无用户指定评测场景的通用设置,该研究还开发了可生成广泛多样评测集的评测工具。实验表明 APT 在多个基座模型、benchmark 和生成架构上均适用,具备模型无关、benchmark 无关、架构无关且全自动的特性。

  11. arXiv cs.AI22

    不确定性评估:连接机器学习与测量科学

    该论文探讨机器学习不确定性评估与测量科学之间的概念类比,借鉴计量学从误差方法到 GUM 框架的演进,指出将 ML 不确定性分为偶然与认知两类本质上是模型依赖的,不足以支撑统一评估框架。文章主张借鉴计量学方法,系统识别、量化并传播不确定性贡献,为评估单个预测的可信度提供严谨、一致且可迁移的框架。

  12. arXiv cs.AI24

    inLoRA-MINT:用内部表征审计领域适配 LLM 的训练数据

    研究提出 inLoRA-MINT,基于中间层激活与参数相关信号训练 MINT 分类器,在无需完整访问模型参数的情况下判断样本是否被用于 LoRA 微调。在 Qwen、Phi-4、DeepSeek-V3 和 LLaMA 3.2-3B 四款模型、覆盖医学、数学与学术推理三个数据集上,得分稳定在 95% 至 98%。该方法可用于敏感训练数据审计与数据溯源,并支持隐私与 AI 治理合规。

  13. arXiv cs.AI20

    湍流流体动力学驱动的高保真三维流场重建

    研究者提出一种湍流感知框架,用于从粗粒化数据重建时间分辨的三维流场,该框架将多尺度神经算子与状态空间模型耦合,并以 Navier-Stokes 残差作为软约束,还引入混合专家机制以无监督适应未知粗粒化方式。在典型湍流系统和大气再分析数据上,该框架相比基于学习和经典基线降低了重建误差,同时更好地保留了多尺度空间结构与相干时间演化。

  14. arXiv cs.AI22

    Prune-and-Merge ViT:无需训练的 Vision Transformer token 压缩方法

    研究者提出 Prune-and-Merge ViT,一种面向现成模型的免训练 token 压缩框架,结合基于类注意力的剪枝与基于相似度的合并来减少冗余并保留语义信息。在预训练的 ViT 和 DeiT 上,该方法在降低计算量的同时保持了鲁棒性,准确率优于现有 token 缩减方法。作者还引入 RAD 和 PFR 两项指标评估鲁棒性,分析显示混合 token 缩减不会引入类幻觉行为。

  15. arXiv cs.AI20

    机器学习势函数能否比其训练方法更准确?

    一篇 Perspective 提出,机器学习势(MLP)可通过在量子化学方法这一"第三空间"上泛化,实现非经验性地超越其训练方法的精度。作者提出"方法可迁移 MLP"路线,在密度泛函与波函数理论中均有可行实现,证明其可比任一训练方法更准确。该方法有望让通用 MLP 比单方法模型更准确,并将影响训练数据集构建与模型评估。

  16. arXiv cs.AI24

    LatentRemedy:多智能体系统中非前缀 KV Cache 复用的高效补救方案

    针对多智能体系统中非前缀 KV Cache 跨智能体复用导致模型性能最多下降 90% 的问题,LatentRemedy 用少量任务条件 latent token 帮助目标智能体在不重算共享块的情况下理解复用上下文,MLP 将目标前缀的最后隐藏状态映射为 latent token 并置于复用 KV 块之后,通过全预填充蒸馏训练。

  17. arXiv cs.AI32

    当训练集中于学生失败题目时,On-Policy Distillation 为何反而强化错误

    研究用 Qwen-3 和 Phi-4 在统一竞赛数学协议下评测五种 On-Policy Distillation(OPD)机制,发现当训练仅集中于学生当前做错的题目时,OPD 无法提升准确率,八个配置全部下降,双尾符号检验 p=0.0078。相同流程在不集中于失败题目时准确率提升 4.6 个百分点,说明该失效取决于训练机制而非系统性缺陷。

  18. arXiv cs.AI22

    PACS:面向扩散语言模型的可预测性感知 SFT 方法

    针对扩散语言模型(DLM)中随机掩码导致的训练-推理不匹配问题,研究者提出可预测性感知画布选择与监督方法 PACS,用模型自身的可预测性来选择每个样本的注意力可见输入长度,并在参考 token 被置信度引导揭示前对其进行监督。在推理与代码生成基准上,PACS 在对比的 SFT 方法中平均准确率最高,单项基准上较原始 SFT 提升最多 12.84 个百分点。代码将在论文发表后发布。

  19. arXiv cs.AI18

    面向零售购物篮选择建模的负采样改进:更好捕捉商品间交互

    研究提出一种购物篮模型,通过学习嵌入向量来表征商品、价格与门店之间的交互关系,并采用基于实际在售商品组合的随机负采样来计算优化损失,以突破商品数量庞大带来的计算瓶颈。在合成数据上,该负采样策略效果优于已有文献方法;模型还在 Fortenova Group 数百万条真实交易数据上完成训练与评估,可用于支持品类管理人员的零售决策。

  20. arXiv cs.AI29

    HaloBlock:为扩散大语言模型带来更快更好的解码

    HaloBlock 是一种面向扩散大语言模型(dLLM)推理的难度感知自适应 halo 机制,通过双向累积熵刻画块解码难度,并在每个块两侧自适应分配双向 halo 区域以缓解边界上下文不连续。在 LLaDA-8B-Instruct、Dream-7B-Instruct 和 LLaDA-1.5 上针对数学推理与代码生成基准的评测显示,HaloBlock 在准确率与推理效率上均有一致提升,源代码已公开。

  21. arXiv cs.AI34

    AI 增强高光谱成像用于低级别胶质瘤术中检测的临床研究

    一项临床研究用 AI 增强高光谱成像(HSI)在术中检测低级别胶质瘤,3D CNN 结合光谱与空间特征取得最高中位 ROC-AUC 74.5%,高于纯光谱 XGBoost 的 67.9% 和基于 RGB 的 64.0%。研究在匹配组织位置和相同患者级数据划分下对比 HSI 与 RGB 分类,发现肿瘤区域反射率持续偏低,可能与血红蛋白浓度和氧合差异有关。

  22. arXiv cs.AI26

    MERIT:面向图像表格的多模态证据推理框架

    MERIT 是一个面向表格图像的三阶段推理框架,将序列化表格作为可选辅助输入,通过表格专用编码器适配、监督微调和强化学习实现证据选择与推理。该框架用重构、定位和颜色条件监督适配编码器,并以证据正确性、计算、最终答案和输出格式分别设置奖励,针对最终答案监督无法区分的检索与计算错误提供中间步骤反馈。研究在表格问答和事实验证任务上评估了该方法,并分析了视觉输入与各训练组件的贡献及跨数据集泛化能力。

  23. arXiv cs.AI22

    GLST:面向在线链式目标导航的全局-局部时空记忆分解框架

    针对目标在执行中动态变化、且无显式切换信号的在线链式目标导航,研究者提出记忆分解框架 GLST,将潜在信念拆分为全局-局部空间与长-短时序表示以支持长时程推理,并引入目标条件奖励平衡探索与利用。仿真实验在多种地形上优于基线,Spot 四足机器人真机实验进一步验证了该框架。论文已被 CoRL 2026 接收。

  24. arXiv cs.AI22

    CineMem:面向多镜头长视频生成的注意力对齐细粒度记忆检索

    CineMem 是一个面向自回归多镜头视频生成的注意力对齐细粒度记忆检索框架,结合在线记忆组织与查询自适应检索。它提出在线聚簇 KV cache 作为记忆组织策略,并引入查询级检索机制,在固定检索预算下扩大历史信息访问、提升长期记忆利用率。该框架还配套一套 VLM 辅助的镜头间一致性评估指标,实验验证了其有效性。

  25. arXiv cs.AI32

    SpecCloak:用工程规格模板探测 LLM 有害代码生成

    研究者提出 PseudoSpec 模板,将功能需求组织为工程规格,发现规格化提示词能大幅降低五个开源权重模型对恶意代码生成的拒绝率,即使保留风险关键词。基于此构建的黑盒红队框架 SpecCloak 在 RedCode-Gen 上对八个目标模型实现平均 28.91% 的执行验证攻击成功率,防御原型 SpecReveal 在提示检测评估中达到 96.88% 的攻击检测率。

  26. arXiv cs.AI20

    SHAP 作为 SAE 特征归因方法的因果忠实性评估

    研究将 SHAP 归因应用于 SAE 潜在特征,并以 GPT-2 Small 在 SST-2 情感分类上的直接因果干预为基准进行检验。多数忠实性关联未通过多重比较校正,且相互高度一致的归因方法(ρ=0.42–0.80)与实测因果效应吻合度差。在已知真值的最小对中,归因能较好识别插入的情感信号(AUROC 0.792),却难以定位删除(AUROC 0.520)。

共 2000 篇论文