跳到正文
10月15日周四
  1. arXiv cs.CL42

    让 LLM 智能体学会遗忘:扩展自动研究发现需定期丢弃搜索状态

    LLM 智能体做自动研究时,无论单智能体长迭代、多智能体并行还是并行加通信,都会因历史累积而陷入停滞,编辑越来越少、越来越小。论文提出"遗忘"机制:定期丢弃所有智能体的会话与候选历史,从当前最优候选重启,在启发式编程、内核优化和模型训练四类任务上比并行智能体提升最高 15%,比单智能体提升最高 39%。

  2. arXiv cs.CL22

    RM-OPD:用在线策略蒸馏训练生成式奖励模型

    RM-OPD 是一个两阶段框架,先通过单域 GRPO 微调培养领域专家教师模型,再用路由在线策略蒸馏、领域贡献重加权和可选的评估标准上下文蒸馏,将多个教师整合为单一学生模型。在多个 RM benchmark 和两个基座模型上,RM-OPD 一致优于原生 Mix-RL 及其他强基线,并出现"教师超越"效应。

  3. arXiv cs.AI39

    FARL:全自动强化学习接口与求解器设计流水线

    FARL 是一个全自动强化学习框架,通过联合搜索观测与奖励程序、学习算法和训练配置来自动化 RL 设计,并利用训练统计与行为诊断失败、提出并验证改进。在 Adroit Hand Relocate 任务上,FARL 以每策略 5M 训练步达到 97.1% 成功率,而 Eureka 和 LiMEN 为 0%、原生 PPO 为 1.0%。该框架在导航、运动和操作任务上均优于所评估的自动化基线。

  4. arXiv cs.AI27

    Radioactive Feedback:追踪仅靠标签式 LLM 监督训练出的模型

    研究提出 Radioactive Feedback,通过在 LLM-as-a-Judge 的奖励信号中编码注册好的行为偏好模式,使仅凭标量分数训练的模型也能被第三方追踪。评估者对质量达标的回答施加有界逐点调整,重复优化即可将该模式传递给他人训练的学生模型。代码与数学实验显示,这些偏好仅通过分数即可跨数据集迁移,并支持针对固定参考池的黑盒检测。

  5. arXiv cs.CL27

    基于 LLM 的贷款申请政策合规性验证

    一项基于 LLM 的原型系统可自动核查贷款申请是否符合银行内部信贷政策,采用两步架构:先从政策文档中自动提取合规规则并转为结构化机器可读表示,再据此评估贷款申请,识别政策例外、不合规项、缺失信息及需人工复核的案例。

  6. arXiv cs.AI25

    基于超网络的持续学习中的知识交互:冲突与组合

    研究在基于超网络的持续学习框架中,冻结基座模型如何通过共享网络从上下文生成 adapter,并考察基座模型、参数更新与输入上下文三种知识来源的交互。在知识冲突下模型优先跟随上下文,其选择更多取决于知识呈现位置而非内容;多跳推理中模型无法可靠组合三种来源的知识,关键失效点来自超网络与基座模型及上下文的交互。

  7. arXiv cs.CL22

    如何设计文本接口提升 LLM 在音视频问答中的推理能力

    研究比较了三种文本接口设计对音视频问答提示词优化的影响:单一 OmniLLM 直接推理、captioner-reasoner 系统,以及由主智能体协调子智能体 OmniLLM 的智能体架构。基于 Qwen3-Omni 和 Gemini 的实验显示,直接提示词优化带来依赖模型的增益,而 captioner-reasoner 与智能体系统虽暴露更可解释的优化接口,却更难优化。

  8. arXiv cs.AI36

    MemPursuit:从长期智能体记忆中组合证据以补全缺失信息

    MemPursuit 是一种免训练机制,将长期记忆的读取视为查询条件下的证据组合,用稀疏凸查询重建的残差作为表示空间中"当前记忆集缺失什么"的代理,无需语言模型或 cross-encoder 逐对打分。在 LoCoMo 固定预算实验中,Top-10 端到端准确率提升 7.2 个百分点、Top-20 提升 5.5 个百分点,重排序延迟中位数较全批量 BGE-v2-m3 提速 32.9 倍。

  9. arXiv cs.CL29

    SEA-HELM Audio:评估多语言 ASR-LLM 流水线在 SEA-HELM 各子集上的表现

    SEA-HELM Audio 将文本版 SEA-HELM 基准扩展到语音领域,用合成语音对比中文、英语、马来语、印尼语和泰米尔语五种语言在 ASR-LLM 级联流水线中的语音与文本输入表现。结果显示语音输入带来显著性能下降:多项选择推理准确率下降 9.00 至 18.50 个百分点,指令遵循下降 20.00 至 42.86 个百分点,泰米尔语降幅最大,超过 40 个百分点。

  10. arXiv cs.AI22

    CondMSP:条件驱动与资源感知的无机材料合成规划

    CondMSP 将材料合成规划从配方预测扩展到执行感知规划,通过联合预测器与变量专属专家预测温度、时间和气氛,并将其同时用作工艺上下文与执行需求。在共享约束下,该方法将参考配方回收率从 27.9% 提升至 32.9%(每个目标 3 次模拟炉次),30 次试验下从 34.7% 提升至 40.0%。新增的 2,344 个目标评测集支持泛化到氧化物主导训练化学之外的材料。

  11. arXiv cs.AI20

    DressAgent:用视觉智能体实现逆向服装设计

    研究团队提出 DressAgent,一个基于视觉智能体的分层系统,可从单张图像重建可仿真的任意层数 3D 服装缝纫纸样。该方法基于 GarmentCode 构建了首个超 15K 套服装的多层缝纫纸样数据集,通过图层规划与 Tailor、Critic、Orchestrator 智能体闭环细化,大幅超越前馈方法,并在远少于可微优化的时间内达到或超过其效果。

  12. arXiv cs.AI22

    扩散模型自表征对齐 U-SRA 用于视频背景音乐生成

    研究者提出扩散 U-Net 自表征对齐架构 U-SRA,在训练中将高噪声条件下较早层的弱表征与低噪声条件下较后层的更优表征显式对齐,并采用对齐损失引导模型学习良好的内部表征。该方法用于视频背景音乐生成,通过交叉注意力机制同步音乐与视频片段,在基准视频-音乐数据集上的视频-音乐对齐度和整体音乐质量等关键指标上超越当前最优水平。

  13. arXiv cs.CL20

    ARP-CD:用注意力引导表征扰动缓解视频大模型幻觉

    研究者提出免训练框架 ARP-CD,通过在表征空间构造对比负样本缓解 Video LLM 的视频幻觉:利用答案预测位置上视觉 token 的注意力质量,引导语言模型输入视觉隐状态做有界梯度更新,降低视觉注意力并生成负样本,与原始分支预测对比。在四个 Video LLM 和四个基准上,ARP-CD 在多数模型—基准组合中优于代表性免训练基线,减少幻觉的同时提升通用视频理解。

  14. arXiv cs.CL31

    语言模型的表达能力上限:LLM 概念传递的可表达性研究

    研究通过测量概念在两个 LLM 之间传递的效果,发现概念可分为三类:可完全表达(如"笑话以反转结尾")、未来更强模型或可表达(如"故事世界观连贯性")、以及面临可表达性上限(如"喜剧声音",其含义与身份和社会群体意识绑定)。研究提出提示词优化算法,在基准上比现有算法提升最高 14%,并发现可恢复概念可通过定义和解释传递,不可恢复概念即使给出示例也无法传递。

  15. arXiv cs.AI18

    数据可携权再审视:迈向以人为本、AI 驱动的未来数据生态

    一篇 arXiv 论文批判性审视美国现行数据可携权监管框架,指出当前法律概念仍偏向服务提供商和数据控制企业,而非终端用户。文章主张转向以人为本的数据治理范式,将数据视为数字时代个人身份的核心,并交由个人掌控。作者认为,这种以人为本的数据可携权视角对构建面向消费者的 AI 应用、进而形成 AI 驱动的未来数据生态至关重要。

  16. arXiv cs.CL24

    DGS-WM:面向语言智能体的决策引导选择性世界建模

    针对语言智能体强化学习中奖励稀疏、缺乏对动作后果显式监督的问题,研究者提出 DGS-WM(决策引导选择性世界建模),通过决策引导观测选择筛选有决策价值的观测单元作为世界建模目标,并用置信度自适应加权调整监督强度,与 RL 损失在同一策略模型上联合优化。在单跳/多跳问答和交互式网页任务等多个 benchmark 上,DGS-WM 在不同模型规模和 RL 算法下均取得一致提升,优于全观测世界建模方法。

  17. arXiv cs.CL29

    稀疏自编码器可作为符号匹配的共享坐标系:SAE-IDF 跨符号系统匹配方法

    SAE-IDF 用稀疏自编码器(SAE)将符号编码为稀疏码,再按维度稀有度重新加权,实现异构符号系统间的单元匹配。在 6 类符号系统的 12 项任务上,该方法在 Gemma-2-9B 上全部超越同模型稠密基线,在 Llama-3.1-8B 上除一项外全部超越,最高提升 45 分。稀疏码每个维度都有可读含义,每次匹配可分解为具名概念,为构建通用符号骨干铺路。

  18. arXiv cs.AI36

    SkillFusion:面向 LLM 智能体的可靠多技能组合编译器

    SkillFusion 是一个离线编译器,可将多个独立编写的技能调和为可复用的合并技能,通过类型-作用域门控、分类器与对抗验证器显式处理技能间的冲突与冗余。在三个智能体基准和两个迁移基准、三种执行模型上,它的平均 Success 均高于所有非 oracle 方法;在最大指令配置下,Success 超过未处理多技能加载的 2.5 倍。代码将在评审结束后开源。

  19. arXiv cs.AI22

    MemeLogos:知识驱动检索增强推理的有害模因检测框架

    MemeLogos 是一个知识驱动的检索增强推理框架,用于有害模因检测,通过将反复出现的有害模式与推理结构抽象为可复用知识单元,并组织成星形知识图谱。该框架结合结构化知识检索与受认知机制启发的显式多阶段推理过程,以检索到的知识引导有害性推理。实验表明,MemeLogos 在检测性能上持续优于现有有害模因检测方法,并生成更连贯、可解释的推理过程。

  20. arXiv cs.AI22

    CAR-MCTS:首个具备随时确定性最优性保证的可扩展鲁棒 MCTS 规划器

    研究者提出 CAR-MCTS,一个由确定性边界引导的 MCTS 规划器,为鲁棒在线 MDP 规划提供首个随时确定性保证。该方法将计算限制在采样搜索树上,同时确定性地界定未采样轨迹的贡献,可剪枝可证明次优的分支,并在最优根动作被认证后终止。固定策略边界还提供了一种随时策略评估机制,无需枚举完整状态空间。