跳到正文
10月16日周五
  1. arXiv cs.CL29

    MagiC:评估多模态认知的视觉推理基准

    研究者推出 MagiC 基准,用于评估大视觉语言模型是否真正进行有依据的视觉推理,而非依赖表面模式与数据集偏差。该基准包含约 5,500 条弱监督 QA 样本和 900 条人工精标样本(含答案、推理依据与边界框标注),在四个维度上评测了 15 个 7B 至 70B 参数的视觉语言模型,并引入 MagiScore 与 StepSense 新指标。

  2. arXiv cs.AI22

    CART:面向多模态持续指令微调的兼容路由方法

    针对多模态持续指令微调中投影器与语言模型非对称适配导致的表征漂移和灾难性遗忘问题,研究者提出兼容路由 CART,为两个模块分别维护任务专属专家并通过加权混合组合,同时考虑专家相关性与跨模块兼容性来联合推断权重。CART 还引入相关性引导的专家合并机制以控制模型规模增长,实验显示其达到 SOTA 性能。

  3. arXiv cs.CL31

    Grid-Bench:LLM 能否预测离散世界的变化?

    研究者推出 Grid-Bench,一个可执行基准,用二、三、四维网格表示离散世界,让模型在给定初始网格、显式规则和文本事件历史后预测完整最终网格。评估六款 LLM 显示,随着历史变长,完整状态准确率急剧下降,单事件表现相近的模型出现明显分化。参考执行使每个预测值可核验,从而在空间操作、历史长度和工作负载间直接比较。

  4. arXiv cs.CL29

    预训练表示中线性可读的知识更易在微调后泛化

    研究区分了语言模型中的"活跃事实"与"惰性事实":前者支持超出自身回忆的泛化,后者只能被回忆。在11个语言模型和70个关系上,原始关系在预训练表示中的线性可读程度强烈预测微调后的泛化能力,关系间相关系数达 Pearson r = 0.87 至 0.92,且该关联在控制微调样本数、答案数、原关系准确率及预训练词频后依然成立。

  5. arXiv cs.CL29

    扩散语言模型的多目标少样本提示

    研究提出用扩散语言模型进行多目标少样本提示,让示例引导共享画布中多个掩码区域的填充,以解决因果自回归模型难以同时利用左右上下文的问题。团队还通过对画布选择性掩码推导似然比奖励,偏好有示例支持的填充结果。在少样本提示基准和软件重构案例中,示例提升了填充准确率,示例引导在多个设置下带来进一步增益。

  6. arXiv cs.AI24

    PRM4RL:用大语言模型为强化学习构建进度奖励模型

    研究者提出 PRM4RL 框架,将复杂任务分解为可管理的子任务,并设计子任务导向的细粒度进度函数来监控执行进度,再基于势能奖励塑形构造进度奖励模型(PRM),提供最优性与收敛性理论保证。在机器人控制任务上,该方法优于基于 LLM 的规划与奖励方法,达到 SOTA,论文已被 NeurIPS 2025 收录,代码已开源。

  7. arXiv cs.CL31

    不是"是否"而是"何时":从语境适切性诊断中文 LLM 的写作口头禅

    研究以中文纠正构式"不是 X,而是 Y"为切口,用基于 Gricean 语用学的决策树将用法分为实质性、可选与缺陷三类。五款商用模型使用该构式的密度是人类参照的 2.5 至 9.2 倍;307 条标注用例中仅 1.30% 属缺陷,52.8% 属"正确但非必要"的可选用法,说明模型在适切性上的不足远多于正确性。

  8. arXiv cs.AI22

    CARA:面向问答的因果引导检索智能体

    CARA 是一种免训练的因果引导检索智能体,通过"结果性"(加入证据是否提升可答性)与"必要性"(移除证据是否削弱可答性)两项因果相关性标准评估检索到的证据,并结合路径一致性与倒数排名融合聚合多智能体证据。在三个 STaRK 数据集上,CARA 持续优于现有检索器,同时提升答案质量与忠实度,且检查的图节点和检索操作更少。

  9. arXiv cs.CL27

    Mosaic:多会话智能体强化学习

    针对现有智能体强化学习仅假设单会话轨迹、与上下文压缩和子智能体分叉等推理时执行方式不匹配的问题,研究者提出多会话智能体强化学习设置及 Mosaic 方法,采用无 critic 的分层优化,在轨迹层引入会话使用信号、在会话层按估计边际贡献调整优势。在 BrowseComp 上以 Qwen3.5-4B 测试,Mosaic 在上下文压缩和子智能体分叉场景均优于广播式方法,且平均使用会话数更少。

  10. arXiv cs.AI22

    Co2In:结合知识编码、巩固与整合的双层记忆增量学习框架

    受人类记忆机制启发,研究者提出增量学习框架 Co2In,采用工作记忆与长期记忆协同的双层架构,通过知识编码、巩固与整合实现高可塑性与稳定性的平衡。在 CIFAR-10、CIFAR-100 和 Tiny-ImageNet 的无样本 Class-IL 与 Task-IL 设置下,Co2In 取得 SOTA 性能且内存消耗高效。该工作已被 IEEE TPAMI 接收。

  11. arXiv cs.AI35

    RSIFlow:带进化元智能体的自适应自我改进工作流

    RSIFlow 是一个递归自我改进框架,将自适应工作流编排与元智能体能力进化相结合,通过任务-智能体轨迹和环境反馈诊断性能瓶颈,动态选择组件级改进工作流。元智能体将工作流结果蒸馏为组件级技能与跨组件原则,进化自身 harness 以优化后续编排。在六个基准和两个骨干模型上,RSIFlow 在所有基准上取得 SOTA 平均性能,消融实验验证了自适应编排与元 harness 进化的贡献,代码已开源。

  12. arXiv cs.CL36

    PremiseSQL:评估 Text-to-SQL 系统中的前提批判与拒答能力

    研究者提出 PremiseSQL 基准,包含 1800 条存在前提缺陷的 NL2SQL 查询及对应的 1800 条原始查询,覆盖四类前提失败,用于评估模型识别缺陷查询并拒绝生成误导性 SQL 的能力。实验显示,前沿 LLM 默认高度信任前提、很少批判缺陷前提;强化批判导向的提示词虽能提升检测与拒答,但也会增加误判无效并抑制对原始查询的 SQL 生成。

  13. arXiv cs.CL24

    解读 MoE 大语言模型中专家的个性化分工

    研究提出对 MoE 大语言模型做个性化适配,在三个开源权重 MoE LLM 上训练 crosscoder,识别出编码不同个性化特征的专家。个性化后的 MoE 模型仅激活部分参数即可与稠密 LLM 表现相当,多义性更低,且因果干预显示这些潜在特征足以复现个性化模型行为,不同个性化特征对应不同路由路径。

  14. arXiv cs.AI22

    ICPSL:从有限离线数据进行上下文偏好条件化 Pareto 集学习

    研究者提出上下文偏好条件化 Pareto 集学习框架 ICPSL,通过在大量合成先验数据上预训练基础式超网络,使其在给定未见问题的离线观测后,单次前向传播即可生成该问题的偏好条件化 Pareto 解模型。生成的模型可复用于任意偏好预测解,无需针对具体问题训练或逐偏好搜索,在合成与真实问题上均生成高质量 Pareto 解并大幅加速问题特定解模型的构建。

  15. arXiv cs.AI44

    Data World:从零扩展数据环境

    研究团队提出 Data World,一个多智能体引擎,通过先定义文件背后的世界机制再生成文件,合成环境、任务与评分标准,并产出 DataWorld-Bench(50 个留出世界、16 个领域、100 个任务)及 1,037 个世界的 2,135 个训练任务。

共 2000 篇论文