研究:文档即图像表示在科学检索中表现不佳,ArXivDoc 基准发布
一项研究提出 ArXivDoc 基准,基于科学论文的 LaTeX 源码构建,用于比较文本、图像与多模态表示在科学文档检索中的效果。结果显示,文档即图像表示持续表现次优,且随文档长度增加更明显;纯文本表示最有效,即使面对图表类查询也能借助图注和上下文取得优势;交错文本+图像表示无需专门训练即可超越文档即图像方法。
一项研究提出 ArXivDoc 基准,基于科学论文的 LaTeX 源码构建,用于比较文本、图像与多模态表示在科学文档检索中的效果。结果显示,文档即图像表示持续表现次优,且随文档长度增加更明显;纯文本表示最有效,即使面对图表类查询也能借助图注和上下文取得优势;交错文本+图像表示无需专门训练即可超越文档即图像方法。
Omni-Embed-Audio(OEA)是一个基于多模态 LLM 的检索导向编码器,在 AudioCaps、Clotho 和 MECAT 上文本到音频检索性能与 SOTA 的 M2D-CLAP 相当。
Draft-Thinking 是一个轻量适配框架,让长链式思维 LLM 学会一种紧凑的“草稿 CoT”,直接支撑最终答案。它通过渐进式草稿适配(先 SFT 再两阶段 RL)解决“跨规模草稿错配”,无需事后轨迹压缩或长度惩罚奖励。
CLIVO 是一个面向目标的多模态指令选择框架,将细粒度语义聚类分配、自动学习的验证目标与可微混合搜索连接起来,单次反向传播即可为所有聚类份额提供梯度。从 800 万条指令池中选出 10 万条时,CLIVO 达到全量数据四目标平均分的 97.2%,仅用 1.25% 的数据;相比最强评测基线提升 1.16 分,结合学习配额与样本排序后提升至 1.55 分。
一项基于图的无监督分析用四种 384 维多语言 MiniLM 表示,对 2000 年至 2023 年 10 月榜单中 1,456 位艺人的 7,891 首 K-pop 歌曲歌词进行建模。
针对小型开源权重模型缺乏对陌生代码库泛化能力的问题,研究者提出仓库中心学习(RCL),以单仓库纵向深度替代跨仓库的任务中心学习(TCL),并据此训练出 SWE-Spot-4B 系列仓库专家模型。
研究提出双演化强化学习框架 DERL,通过外层提议器与内层策略的双重训练实现奖励结构的自主发现,提议器利用内层策略的验证表现进行策略梯度学习。在 ALFWorld、ScienceWorld、GSM8K 和 MATH 等推理任务上,DERL 优于强基线,在分布外任务上提升显著,并在数学任务中改进了结果奖励。代码与模型已开源。
一项研究提出用部分生成判断 LLM 交互安全性:系统可先开始生成、观察部分输出,仅在内容变有害时停止。研究构建了 41,944 条 prompt-response 对,覆盖 Llama、Gemma、Qwen 三个家族的七个开源权重模型,发现提示词危害性与交互安全性并不一致,两者标签仅 50.46% 一致(Cohen's κ = 0.06)。
研究者提出 SynthKGQA,一个由 LLM 驱动的框架,可从任意知识图谱生成高质量知识图谱问答数据集,并提供完整的真值事实集合。基于 Wikidata 衍生的 ogbl-wikikg2 构建的 GTSQA 数据集,专门测试对未见图结构和关系类型的零样本泛化能力。实验显示,在 GTSQA 上训练的 KG 检索器可迁移到人工标注基准,且其真值子图比以往启发式方法提供更好的训练监督信号。
研究提出"经验支持动态"框架,逐题追踪 RLVR 对已验证解法的影响,发现在所评估的模型级基准聚合上,观察到的支持收缩超过扩张——失去已验证成功的问题多于新增的问题,尽管 pass@1 同时上升。部分 RLVR 模型平均 token 级熵升高而最终答案熵降低,token 选择更不确定但答案更集中。这揭示出当前 RLVR 实践存在"隐形缰绳":让已有成功更可靠,却丢失了其他已验证解法。
研究提出用回译(BT)而非继续预训练来利用低资源单语数据:微调后的 LLM 翻译单语句子生成反向平行对,并与平行集更新交替进行。在 Odia 和 Swahili 上仅用 1K 平行对,BT 在领域内比继续预训练高出 7.7 至 16.4 个 XCOMET-XXL 分,还优于平行数据多 10 倍的模型。
针对可验证结果奖励与推理质量不匹配的问题,该论文提出 double-rollout 强化学习:对每条 rollout 截断推理轨迹后采样多个续写,用续写奖励均值替代原始奖励,以更稳健地估计推理质量。
研究者提出 qtBench,一个包含 29 个代数组合学开放问题的基准,这些问题要求给出能解释给定多项式系数或恒等式的简单组合算法。为帮助 AI 智能体搜索这类算法,作者提供了用于操作组合对象、防范作弊尝试和测试候选解的脚手架。他们与 OpenAI 合作,其研究人员对其中若干问题给出了候选解,并由此讨论 AI 大规模发现是否合乎伦理、结果应如何发布以及证明消化如何组织等元问题。
针对多智能体讨论全图蒸馏中"过度教学"与"学习不足"的错配问题,研究者提出学习者中心蒸馏方法 FAR(Fold–Attempt–Revisit):训练前将同一讨论状态下的多个正确解折叠为代表性课程,训练后依据学生自身尝试定位遗漏问题并针对表征不足的聚类补写课程。在两个学生模型和四个推理任务上,FAR 以远更少的训练目标超越全图蒸馏,并降低学习不足率。
EAU 是一个让环境、智能体与用户模拟器协同演化的元智能体框架,通过监控训练轨迹与工具调用、诊断失败并热更新用户模拟器、环境、奖励设计与 RL 配置,使训练设置随策略共同进化。在三个交互式智能体基准和两个基座模型上,EAU 整体得分超越最强基线 14.7–15.0%,ColBench 任务成功率最高提升 36.7%。
研究者推出 PXRD-Bench,一个统一基准,将粉末 X 射线衍射(PXRD)到晶体结构的评估扩展到未知单元素原子数和双相混合物中两种结构的恢复,并提供约 410 万个带模拟 PXRD 的训练结构。
研究者提出 XFD,一个由可解释 AI(XAI)引导的傅里叶域泛化框架,用于纯仿真的 sim-to-real 强化学习。它从仿真观测中提取可解释性归因图,转化为策略条件化的傅里叶域干预,在扰动外观敏感频谱成分的同时保留任务相关的空间结构,从而完全在仿真内构建增强鲁棒性的视觉域。
研究提出链维度扩展(CDS),通过参数共享的单一特征交互块反复迭代,把迭代次数(链长)变成不增加参数的新扩展维度,并用轻量链内残差连接稳定优化。在生产级大规模多任务短视频排序系统中,压缩模式下 CDS 离线质量与基线差距在 0.03% 以内,可训练参数减少 26.6%,训练吞吐提升 6.4%;质量扩展模式下质量随链长单调提升。
研究者推出 SLS-Bench,一个面向事件日志摘要的基准,包含 90 个基于真实事件报告的任务,每个任务配有合成日志流和参考摘要。其数据生成管线将事件报告转为结构化事件模型,结合叙事锚定、生成器-验证器循环及与真实日志流的统计对比,生成逼真可控的可观测性数据。对 14 个 LLM 的评测显示,前沿模型能生成有用摘要但成本与延迟高,开放权重模型明显落后。
研究者提出递归环境缩放(RES)框架,在保持任务目标与完成要求不变的前提下改造现有 benchmark 环境,通过 proposer 改变信息访问、资源关系与执行依赖,并由执行验证筛选候选改动、跨轮继承。
RetroPlanner 是一个基于 LLM 的逆合成规划器,可同时比较多条合成路线,并按反应合理性、往返一致性和起始原料价格引导搜索。它被训练在化学证据上推理,包括目标分子的结构进展、键变化与反应类型、候选路线的分歧点及多目标排序。在多步逆合成基准上,RetroPlanner 比此前的 LLM 规划器找到更多替代路线,同时提升路线质量并保持高成功率。
研究团队发布 ARAFA,一个面向现代标准阿拉伯语的大规模事实核查数据集,通过 LLM 三步流水线构建,包含 181,976 个 claim-evidence 对,标注为 supported、refuted 或 not enough information。
研究者构建了一个六节点 LangGraph StateGraph 的 Text-to-SQL 智能体,仅靠提示词工程(未微调模型)完成问题相关性检查、实时 schema 获取、PostgreSQL 生成、dry run 校验、失败重试、查询执行与英文结果叙述。
ChronoScribe 用语义-数值分工架构做指令驱动的时间序列预测:LoRA 微调的 LLM 负责解析指令、提出执行路径与上下文长度,冻结的 TSFM 负责生成分位数预测轨迹,LLM 不生成也不修改预测值。
研究者提出 RATIO 基准,将科学文献检索的相关性定义为三种"构思操作":Address 检索解决既定问题的方法、Broaden 检索更通用的表述、Specify 检索具体实例。该基准基于数百万篇 CS 全文论文构建,通过扩展话语标记远程监督并结合 LLM 与人工审核完成。实验显示,针对操作分别微调可显著提升检索器,LLM 重排序也有帮助,但仍有较大提升空间;数据、代码、模型与标注均已开源。
BTS-AgentBench 是一个确定性编译器,可将只读遥测与设备元数据转换为工具驱动的多轮智能体任务、阶段级目标、证据与可执行评测契约。
研究者提出 FON(Fusion-Organ Network),将同一权重栈分化为负责生成的草拟器官与负责重处理已写前缀的修订器官,训练复杂度 O(S)、解码状态 O(1),不含序列级二次注意力。
研究通过跨模型冻结记忆提取发现,在源模型上训练的记忆冻结后迁移到不同目标模型时,记忆内容与正确寻址都重要,但迁移后的记忆表只有通过对齐目标模型的 reader 才能发挥作用。
研究提出 Wrapper-Based Intent-Form Augmentation(WIFA),对有害与良性请求施加共享包装器家族并按意图分组变体,让模型依据底层意图而非包装线索做判断。
一种新的训练算法让所有权重、梯度和激活值均以 INT8 存储,前向、反向、权重更新与优化器更新全部用整数运算完成,训练内存约为 FP32 基线的 1/4。
LycheeMemory V2 用语义段级整合替代逐轮整合,将多次交互批量打包为段并编码为上下文无关的类型化记忆记录,降低 LLM 编码频率。基于 GPT-4.1-Mini 的实验显示,其在 LoCoMo 上达到 89.22%、LongMemEval-S 上达到 92.20%,取得 SOTA 表现。
研究者发布 PERCEPT,首个公开的大规模波斯语-英语语码混合语料库,为混合词标注 Universal Dependencies POS 标签。
ANCHOR-RE 是一个无需任务特定微调的智能体生物医学关系抽取框架,融合检索示例、本体语义约束、外部生物医学知识与错误驱动验证。在 SemRepGS、DDI、ChemProt 上,其 micro-F1 较直接提示分别从 0.654 提升至 0.676、0.769 至 0.881、0.937 至 0.941,DDI 与 ChemProt 上超越此前仅推理方法。
针对动态用户意图噪声导致工具调用中出现意图偏离和重复 API 循环的问题,研究者提出 IACM-RL 框架,包含合成多场景轨迹的 DynamicIntent 数据管线与五维诊断指标,并部署基于 BeliefState 的自生成上下文管理器,用结构化 stale flags 隔离被覆盖参数。
针对时间序列异常检测缺乏通用检测器的问题,研究者提出 ONESHOT,用单个已确认异常为整个检测器池加权,而非从中挑选单一检测器。该方法在 152 个单变量和 73 个多变量序列上,性能超过最强单一检测器、全池平均,甚至超过在已确认事件上直接挑选最优检测器的做法。代码已开源。
研究者提出 SLKR(Semantic Label Knowledge Retrieval),一种标签中心的检索增强生成框架,将离线知识构建与轻量在线推理分离:旗舰 LLM 离线为标签空间生成定义、检索关键词和易混淆标签对的边界规则,在线由轻量 LLM 单次调用完成分类。
EMNLP 2026 论文提出仅靠语言规则做提示词压缩,部署时无需 LM 前向计算,压缩全程在 CPU 侧完成。该方法通过离线进化搜索组合词汇、句法、语义和篇章规则,在短文本、多文档推理和对话记忆问答数据集上取得与近期先进提示词压缩策略相近的表现。性能在轻度至中度压缩下最强,压缩越激进越退化,且规则随压缩比升高从 token 剪枝转向句子抽取。
ProCARE 将真实世界研究(RWS)自动化重构为约束编译,把异构数据 Profile 转为 Evidence Contracts,并将研究目标编译为强类型中间表示 RWS-IR,再经确定性验证与局部修复检查生成的工作流。
研究在 FinQA 和 TAT-QA 上训练线性探针,从 Qwen3-8B、Llama-3.1-8B、Gemma-2-9B 的残差流内部激活中检测"自信幻觉"。
研究者提出"交互式 4D 体积液体预测"任务,即根据固体在液体中的运动方式预测未来稠密 3D 液体速度场的时空演化,并给出两级循环预测框架 TIDE/TIDES:TIDE 隔离局部界面驱动的预测,TIDES 加入传输感知耦合与显式稳定化以降低累积误差。