跳到正文
10月16日周五
  1. arXiv cs.AI22

    ICON 分解:多变量概念审计揭示神经网络依赖的捷径

    研究者提出 ICON(Independent Canonical cONcepts),将捷径审计重构为对中间表示方差的分解,量化每个概念在控制其他概念与结果后对某层方差的贡献,并报告未被解释的方差。在含真实标签的模拟数据中,ICON 比七个基线更准确地还原概念重要性;在皮肤癌与神经影像应用中,它能区分已学到的捷径与仅相关的概念,并经独立验证确认。

  2. arXiv cs.AI27

    BeatEdit:将符号音乐生成变为显式编辑

    BeatEdit 是首个基于显式编辑操作的符号音乐生成框架,把生成重构为在草稿上编辑而非从零合成。它沿编辑密度递增轴整合了逐 token 序列标注纠错、迭代精修伴奏编辑和 tag-then-fill 片段补全三种机制,共享同一编码与预训练骨干,在三项任务上精度与感知质量均超过自回归和扩散方法,单次推理耗时不到 100 ms。

  3. arXiv cs.AI29

    Play2Perfect:灵巧操作预训练中哪些因素对精密装配至关重要?

    研究提出 Play2Perfect,一个通过多样化物体与目标上的"玩耍"进行任务无关预训练的 RL 框架,再微调适配精密装配。该先验比从零 RL 训练的样本效率高 33 倍,即使后者提供密集多阶段奖励。方法实现零样本 sim-to-real 迁移,在 0.5 mm 接触间隙的紧密插入任务上成功率达 60%,长时程多部件装配和拧螺丝成功率超 50%。

  4. arXiv cs.AI22

    CRAFT:面向持续学习的遗忘感知干预适配框架

    研究者提出持续学习框架 CRAFT,冻结 LLM 权重,改为在隐藏表示上学习低秩干预。相似任务共享同一干预以促进知识迁移,任务相似度由各任务对模型输出分布的改变程度判定;共享干预内用 KL 惩罚约束新任务贴近既有行为以限制遗忘,最深层的小型任务私有干预则保留后续任务无法覆盖的专属容量。在多个基准和模型规模上,CRAFT 整体表现优于强 LoRA 方法并减少遗忘,且对任务顺序保持稳健。

  5. arXiv cs.AI31

    LLM 隐私威胁的消融研究:四类攻击的敏感性差异

    一项针对 LLM 隐私的消融研究统一评估了成员推理(MIA)、属性推理(AIA)、数据提取(DEA)和后门攻击(BA)四类代表性攻击,发现各自敏感因素不同:MIA 强依赖数据集特征与攻击策略,AIA 受模型与训练特征影响,DEA 随模型规模和训练数据重复度上升,BA 则始终保持高成功率。

  6. arXiv cs.AI22

    LLMON:一种 LLM 原生标记语言,在 LLM 接口中利用结构与语义

    研究者提出 LLM 原生标记语言 LLMON(LLM Object Notation),用于向 LLM 传递文本的结构与语义元数据,可应用于模型训练、提示和推理实现,以提升模型准确性、安全性与安全性。该工作讨论了 LLM 原生标记语言的设计要求,并给出 LLMON 在训练与推理两类用例上的初步实证证据。

  7. arXiv cs.AI18

    什么在追踪难负样本迁移?词汇与语义信号研究

    一项研究比较了词汇非覆盖度、冻结编码器相似度统计、难度代理等信号,在 BM25、稠密、LLM 生成及混合来源的 MS MARCO 训练数据上对稠密检索器迁移的追踪能力。在三个检索器骨干和十一个 BEIR 数据集上,IDF 加权的平均词汇残差性复现了全部六组骨干与设置块的迁移排序,而语义统计量均无法恢复完整排序,与词汇信号结合也未提升排序一致性。

  8. arXiv cs.AI24

    RMBench:面向记忆依赖型机器人操作的基准与策略设计洞察

    研究者提出 RMBench,一个包含 9 个操作任务的仿真基准,覆盖多个记忆复杂度层级,用于系统评估机器人操作策略的记忆能力。同时提出模块化策略 Mem-0,通过显式记忆组件支持受控消融实验,并在仿真与真实世界实验中揭示了现有策略的记忆局限及架构设计对记忆表现的影响。

  9. arXiv cs.AI22

    ReText:用文本提升基于图像的行人重识别泛化能力

    ReText 通过微调 VLM 为多摄像头数据集补充文本描述,并以文本监督训练,在跨域行人重识别基准上显著超越 SOTA。该方法联合优化 Re-ID、图文匹配和文本引导的图像重建三项任务,并采用单摄像头数据训练策略,同时利用其附带的文本标注。扩展后的数据集与 VLM 权重已公开,成果被 WACV 2027 接收。

  10. arXiv cs.AI31

    Product Interactions:统一深度学习架构的代数形式化方法

    研究者提出 Product Interactions 代数形式化方法,将乘法而非线性变换作为架构的基本操作,统一了卷积、注意力、状态空间和等变模型。该框架将卷积和等变网络推导为对称约束的一阶乘积交互,把 Mamba 恢复为自交互阶从一增至三,并将注意力确立为三阶交互。基于此构建的简化代数动力学层在 CIFAR-10 上同时提升了准确率和吞吐量,优于 Mamba。

  11. arXiv cs.AI18

    以影像为锚点的多组学如何整合心脏影像与转录组数据

    一篇综述提出"以影像为锚点"的视角,将超声心动图、CMR 和 CT 定义的心脏空间表型,与 bulk、单细胞和空间转录组学提供的细胞类型及位置分子信息相连接。文章定义了各模态的表示需求,比较多模态融合策略,并梳理了放射基因组学、空间对齐和基于影像的基因表达预测的整合流程及其验证要求与失效模式。

  12. arXiv cs.AI22

    科学反馈如何让生成模型跳出训练惯例、发现更优设计

    研究表明,科学性能反馈可将生成模型学到的搜索分布导向训练惯例之外的高产区域,且无需显式奖励对惯例的偏离。在反应堆栅格设计与化学反应条件选择两项任务中,适配均提升了科学性能,并增加了被监督数据排除的选项生成;实测反应中,被训练排除的任务专属配体选择概率从 0.29 升至 0.70-0.71,同时预期产率误差下降。

  13. arXiv cs.AI22

    M-Diffusion Planner:用多头扩散模型与强化学习实现个性化驾驶

    M-Diffusion Planner 通过双解耦设计实现个性化自动驾驶:大语言模型推断驾驶需求并选择策略,由共享扩散规划器的对应头执行。研究采用代理策略比率估计与约束式头特定更新改进 Group Relative Policy Optimization,在无风格标注下用策略专属奖励微调各头。nuPlan 开环与闭环评测显示其具备策略对齐行为与有竞争力的规划性能。

  14. arXiv cs.AI22

    STAMP:面向时间切分图域适应的对称时间平均消息传递

    针对时间切分图下的域适应问题,研究者提出对称时间平均消息传递算子 STAMP,用跨时间戳平衡的消息传播替代标准邻域聚合,强制时间域间一阶矩不变。其异构变体 STAMP-mag 在 ogbn-mag 上取得 SOTA,STAMP 在 ogbn-arxiv 上取得 SOTA,并在时间切分 Pokec 上持续提升原数据集 SOTA 模型的表现。

  15. arXiv cs.AI27

    异步对进化策略在长程 LLM 智能体任务上几乎无代价

    研究提出有界陈旧度异步进化策略(bounded-staleness asynchronous ES),在 WebShop 上系统改变策略滞后程度与陈旧适应度测量比例,并设计两项压力测试探测极端陈旧情形。结果显示自然异步几乎与同步 ES 表现持平,即便全部适应度测量均陈旧,评估精度下降仍很小,表明 ES 无需显式离策略校正即可容忍显著策略陈旧,支持其用于长程 LLM 智能体的异步后训练。

  16. arXiv cs.AI30

    CompMat-Bench:面向计算材料科学的 AI 智能体基准测试

    研究者推出 CompMat-Bench,一个源自近期计算材料研究、包含 94 项任务的 AI 智能体基准,通过预先复现研究步骤来评估智能体准备输入与分析输出的能力,从而避免评测时运行昂贵模拟。基于三个 LLM 的智能体在单任务完整指导下通过率为 66.0-90.4%,更长工作流与减少指导会以不同方式限制不同智能体表现,失败多归因于科学错误而非软件使用错误。

  17. arXiv cs.AI40

    MEMONDEMAND:面向大规模企业数据的记忆管理系统

    MEMONDEMAND 是一个面向大规模企业仓库的记忆管理系统,通过动态多级层级、每层双记忆(蒸馏路由与详细证据分离)和按需记忆提升三种机制协同工作。在 EnterpriseRAG-Bench 上,它从 10M token 到完整 618M token 集合的每个评测规模均超越已公开的 LB#1 最强结果,10M 时提升 12.23%,618M 时提升 4.66%。

  18. arXiv cs.CL60

    把任意地球观测任务变成递归自我改进:智能体自主构建遥感模型

    arXiv 论文提出把任意可验证的地球观测任务拆成 harness 与 verifier 两部分,由通用编码智能体据此自行构建并递归改进 EO 模型。在覆盖光学、SAR 和多光谱时间序列的六个 EO 基准上,智能体构建的模型全部超过当前最优水平,其中土地覆盖制图仅用 11% 的训练标签。作者认为这确立了人类设计 harness 与 verifier、智能体构建模型的新范式。

  19. arXiv cs.AI26

    JEPA-DNA:用联合嵌入预测架构为基因组基础模型注入功能语义

    JEPA-DNA 是一个模型无关的持续训练框架,将联合嵌入预测架构(JEPA)与生成式目标结合,通过监督潜空间中的全局序列嵌入,让模型预测被掩码基因组片段的功能表征,把学习信号从 token 还原转向语义对齐。在 17 项基因组基准任务上,无论底层 GFM 架构或生成目标如何,线性探测与零样本性能均获一致提升,并在线性探测协议下刷新 GFM 的 SOTA。代码见补充材料。