通过局部上下文蒸馏从交互经验中学习
研究者提出局部上下文蒸馏(LoCD),先定位学生轨迹中需要修正的关键片段,再由教师基于学生自身前缀重新生成这些片段并用于训练学生。在数学推理、代码生成和智能体任务上,LoCD 持续优于强基线,训练更稳定,参数更新更小更稀疏。
研究者提出局部上下文蒸馏(LoCD),先定位学生轨迹中需要修正的关键片段,再由教师基于学生自身前缀重新生成这些片段并用于训练学生。在数学推理、代码生成和智能体任务上,LoCD 持续优于强基线,训练更稳定,参数更新更小更稀疏。
研究者提出 SPRA(Structured Paper Representation for Agents),一种以持久化研究对象和类型化关系组织的论文级表示,其 empirical-AI 配置涵盖 Problems、Contributions、Components、ExperimentSetups、Measures 和 Findings。
一项对照研究测试了向寻址条件记忆注入知识的可写性:在冻结 GPT-2 上新增模块的 2×2 实验中,自然问题目标字符串命中率在仅行更新下平均 5.3%,无锚定投影更新为 28.7%,加锚定后为 22.0%,但严格答案得分均为零。
论文提出 JevAgentHarness,把智能体每一步的工具选择等决策委托给决策模型,仅在置信度低于阈值时交由 LLM 决定。作者构建 AgentDecisionBench,覆盖从孤立问题到控制运行中智能体的测试;孤立问题上最准的决策模型仅解决 69.5% 的智能体任务,未拟合置信度阈值时委托工具选择会使成功率下降 19.0 个百分点。
研究提出同策略提醒蒸馏(OPRD),通过多范围提醒监督与基于结果的路由,在无提醒的学生 rollout 上训练长程编程智能体,推理时学生无需提醒即可运行。
研究者发布包含 83 部已出版作品的基准,用于衡量语言模型能否讲述非线性故事,并为每部作品标注事件的时间顺序与叙述顺序,以及涵盖因果依赖、角色知识和悬念设置的故事图。
研究者提出 MemCut,一个针对 LLM 智能体用户请求遗忘能力的系统性基准,包含 456 个手工设计的秘密及其完整标注的证据链,用于测试删除后的信息恢复。基准定义原生恢复与残差恢复两项指标,并在五种记忆设计和四种 LLM 上建立三个参考删除基线。结果显示,LLM 引导删除二十个检索候选中的额外十轮对话后,仍残留 39-76% 的恢复率,候选覆盖不足是现有基线的瓶颈。
研究者提出 TITAN 机制框架,结合因果干预、稀疏特征分解与定向偏好优化,识别并优化 Transformer 中关键的翻译电路,仅更新不到 5% 的模型参数。
一种名为 SIF 的强化学习方法通过比较多个窗口与同伴的 token 级自置信度排序,仅在样本级和组级投票均达标时给予正向奖励,并筛选参与策略优化的响应。
研究提出分层图卷积网络(HGCN),可检测文档内部不一致以及标题与正文不符,并基于已发表新闻数据及元数据构建了 Inconsistency Dataset。HGCN 在该数据集上取得 91.20% 的准确率,优于对比模型;在公开的标题正文不符数据集上达到 92.00%。消融实验证实元数据的使用对性能提升有显著作用。
FedSkillGit 用 commit 式补丁更新替代整份技能文档上传,实现联邦技能进化:客户端只提交命名规则上的有限补丁及本地经验,经两阶段隐私过滤后由服务器去重合并,候选技能需在客户端验证集上得分提升才发布。在三个数据集和三个语言模型家族上,该方法比 SOTA 基线最高提升 22%,并在不共享原始客户端数据的前提下接近集中式进化效果。
研究者提出 ARGUS(Agenda-dRiven Goal-oriented User Simulator),一种神经符号框架,通过符号操作维护动态议程栈来跟踪用户目标状态,将状态追踪与自然语言生成严格解耦,以实现严格的目标推进和约束对齐交互。
研究在 Qwen2.5-1.5B-Instruct、Llama-3.2-1B 和 Gemma-2-2B 上发现,用英语校准的 Block Influence(BI)会系统性低估印度语言文本的深层网络活动,三种印度语言的后期 block BI 比英语高 20.7-55.5%。
研究在四个公开队列(4,308 名受试者)上以相同相关性特征对比六类量子模型与经典模型,量子核与匹配经典核在四个队列上均无统计显著差异,平均准确率差距在 95% 置信度下不超过 1.4 个百分点。
DPA-MoE 是一个让路由专家支持任意精度的运行时精度控制框架,通过 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的 chunk,并利用实时 router gate 分数在推理时分配 chunk,使单个编码后的 MoE checkpoint 无需重训练或重新编码即可在多种有效权重预算下运行。
研究者构建了韩语数据集 ESG-Kor,从韩国企业可持续发展报告中抽取环境、社会与治理(ESG)信息,共含 118,946 句,并按 ESG 评估机构的客观规则人工标注。该数据集用多个韩语预训练语言模型验证分类性能,取得显著效果,并进一步将 ESG 分类模型扩展至中小企业文档,展示基于 ESG 关键议题的信息抽取与深度分析等实用场景。
RenoLayout 将住宅设计建模为设计点引导的条件生成任务,把改造前住宅状态与设计点集合转换为可执行的 Geometry-as-Code 程序,统一处理户型改造与家具布局。
研究将银行账户直接作为评分对象,把银行关系模式读作异构图(行是节点、外键是边),用逐列编码器、相对时间编码和 HeteroGraphSAGE 消息传递从多跳邻域打分,并将邻域限制在账户被标记前的数据。
AutoOnboarder 是一个自主系统,让智能体像新员工入职一样被"Onboarder"编码智能体逐步调教,迭代调整基础模型、提示词和 harness 源码以同时提升性能并降低成本。
研究提出一种 Teacher-Student 弱监督框架,用选定的 LLM 作为 Teacher 为未标注的网络安全推文生成弱标签,从而无需大规模人工标注即可训练网络安全专用 PLM。实验显示,仅用 LLM 生成标签训练的 PLM 在所有评估架构上 F1 均超过 0.92,与全人工监督模型的差距在 3 个百分点以内。
针对在线策略蒸馏(OPD)中教师模型易偏好违反问题前提的无效续写、进而鼓励错误推理步骤的问题,研究者提出 CCE-OPD,通过固定前缀对比与有界对数概率对比让教师监督对问题条件敏感。
研究者提出 MINE-SAMPLE-RENDER(MSR),一种测试时方法,将多样性外化为从真实语料挖掘可解释类别模式并据此采样属性配置,生成模型仅作为条件渲染器。在天气预报生成、用户模拟、网页设计、文生图和智能体生成 3D 资产任务上,MSR 提升了输出与语料分布的对齐度及生成多样性。
研究审计了 16 个开源 RLVR 数学语料(1,673,514 条训练数据)对 6 个基准(1,949 道题)的去污染策略,发现余弦阈值 0.80 下 59 个抽样删除中有 52 个(88%)被确认为误删。
MemScope 是一个基于执行证据对现有智能体记忆架构进行局部演化的框架,其 Patch Agent 联合检查原始执行轨迹、运行时记忆状态与当前架构代码,在 provider 身份和记忆兼容性约束下定位修复目标并做有界原地修改。
GRADS 是一个图引导的智能体数据合成框架,通过维护证据与推理依赖图,在种子选择、证据扩展、问答构建与验证的闭环中实现显式难度控制,避免引入与答案弱耦合的无关上下文。
这篇综述将长上下文压缩重新定义为推理时的记忆管理问题,区分直接参与模型计算的计算活跃记忆与处于计算路径之外的计算非活跃记忆,并把 offloaded KV cache、持久前缀缓存和预计算 KV 状态视为激活路径上的中间状态。
一项研究提出集成系统,通过孟加拉语语音和文本分析检测痴呆症迹象,并在对话中提供句子自动补全支持。研究提取与认知衰退相关的声学特征,采用基于 Transformer 的模型将语音转写为文本,评估多种 ML 和 DL 模型,其中 LSTM 架构在建模语音和语言上下文模式方面表现突出。句子补全任务采用带注意力机制的 Bi-LSTM 序列学习模型,逐步补全对话中部分表达的孟加拉语句子。
CleanRM 通过少量干净反馈,借助最优传输校准逐样本噪声比例,并用噪声校正代理损失训练奖励模型,理论上证明其目标对干净风险无偏。实验显示,CleanRM 优于当前最先进的去噪基线,并能带来更有效的下游 RLHF 对齐。
MASP 是一个心理化对抗自博弈框架,将主动对话建模为系统与理性抵抗用户之间的部分可观测博弈,用 BDI 潜在状态表示用户演化心理,并分离奖励侧教师心理化与策略侧学生心理化,交替更新系统与用户策略。
研究者推出 Kolab,一个包含 50 位来自 40 种职业的专业人士、115+ 小时屏幕录制的人机协作数据集,用于评测长周期真实工作流中的协作表现。该基准要求智能体预测专家会采纳、修改还是拒绝其贡献,并判断协作满意度与产出质量。结果显示,前沿模型(无论是否具备智能体能力)都会高估与专家的协作效果,且难以区分高质量与低质量协作,更长的上下文并未稳定改善预测。
MemComposer 通过联合考察当前查询与检索候选,决定纳入哪些经验、选多少条以及如何排序,并用基于 GRPO 的 Experience Policy Optimization(ExPO)以完整智能体交互的任务成功反馈训练组装策略。
针对稀疏 KV 缓存中保留 token 仍沿用完整历史坐标、导致 RoPE 下被淘汰 token 的位置空隙持续干扰 query-key 匹配的问题,研究者提出 RoPERelay,为缓存键分配紧凑且保序的 RoPE 坐标,通过逆旋转与再旋转重定位键相位,并同步当前 query 与后续生成,无需重新选择、历史重预填充或额外缓存预算。
研究者发布 OmicsBench,一个面向 AI 智能体的长周期多轮生物信息学基准,97 个任务通过有向无环图串联 662 个子任务,每个子任务对应一轮用户输入并确定性评分。
研究者从 2022 年前的 arXiv LaTeX 源码中选取人类撰写的证明与散文段落,用 15 个现代 LLM 在同一论文语境下重新生成,构建了 LaTeX 源码、PDF 渲染图像和 PDF 提取文本三种表示形式的配对数据。
研究在 NAQD-Env 合成环境中用 LoRA 微调 Qwen2.5-3B-Instruct,比较原始与增强课程对选择性撤回能力的影响。在 naqd 提示下,SFT 检查点的决策一致率达 0.77-0.92、撤回召回率 0.46-0.86,而三个基线仅为 0.45-0.63 和最高 0.06。
研究者提出 SHIP(Structured and Hierarchical Insight with Privacy),将差分隐私(DP)洞察定义为可复用表示,用于回答分析查询并统一评估其效用。
针对 GRPO 在整组 rollout 全部失败时既无成功样例也无非零组内优势、学不到东西的问题,研究者提出 Replay-Selected Hindsight Distillation(RSHD),让策略在不看参考答案的情况下为每次失败写纠正笔记并带笔记重解,仅当回放成功率高于原组且笔记未泄露答案时才采纳,并将采纳的回放蒸馏回纯提示词策略。
研究对比 PPO、A2C、DQN 各带有/无动作掩码共六种 DRL 方案,在两条真实 Slurm 负载轨迹、十个随机种子上与三种启发式及掩码均匀随机对照进行评测。
研究团队开发了对话式多智能体系统 ReviewPilot,将 PRISMA 流程从论文筛选自动化到信息提取,每条筛选决定附带理由、每个提取值标注来源。在流行病学专家综述上,ReviewPilot 在三种 LLM 上均优于单提示词 LLM 和 AgentSLR,筛选 macro F1 最高 0.776,提取 F1 最高 0.788。
研究者提出 Modality Self-Play(MSP),一种基于代理中介模态组合的多模态基础模型训练框架,无需真实配对跨模态数据即可实现零样本模态组合。MSP 利用锚定模态的代理文本描述作为语义桥梁,让模型在推理时整合并推理多种模态,在多个多模态基准上达到 SOTA 或具竞争力表现。消融实验显示,学习到的桥梁改善对齐,代理描述支持有效的跨模态组合。