PACT:面向多轮工具调用智能体的特权轨迹协同训练框架
研究者提出 PACT,一种面向多轮工具调用智能体的特权轨迹协同训练框架,将专家轨迹仅用作训练时的优化信号而非 rollout 时的提示。PACT 保持 rollout 仅依赖提示词,通过轨迹条件 RL 代理和组件感知 SFT 损失两个互补信号引导优化,并引入 prompt-only anchoring 减少对训练期轨迹上下文的过度依赖。
研究者提出 PACT,一种面向多轮工具调用智能体的特权轨迹协同训练框架,将专家轨迹仅用作训练时的优化信号而非 rollout 时的提示。PACT 保持 rollout 仅依赖提示词,通过轨迹条件 RL 代理和组件感知 SFT 损失两个互补信号引导优化,并引入 prompt-only anchoring 减少对训练期轨迹上下文的过度依赖。
EchoDistill 是一个噪声到干净的自蒸馏框架,用干净音频作为后训练阶段的特权信息,让噪声输入的学生模型对齐干净条件下的语义,推理时仅保留学生模型、不增加额外开销。
研究团队通过微调让语言模型学会按目标分布采样,提出软目标(将目标分布转为 trie 派生的下一 token 目标)与硬目标(在目标分布的采样补全上训练)两种 Calibration Fine-Tuning 方法。
arXiv 论文《How AI Writing Assistance Distorts Perceptions of AI Users and Their Opinions》通过实验发现,使用 AI 辅助写作会让他人认为作者更固执己见、更有能力、更积极且更具人口统计优势。
研究者预训练了一个覆盖九种语言的 1.7B 多语言模型,以词级翻译为测试任务追踪翻译能力的早期发展轨迹。结果显示,模型在快速习得基础语言能力的同时进行 token 级复制,翻译则分两阶段发展:初期由复制和表层相似性主导,后期才形成更具泛化性的翻译机制并细化复制。该工作获 EMNLP Main 2026 接收,代码、模型 checkpoint 和数据集均已公开。
研究用24种类型学和资源差异悬殊的源语言翻译出的英文文本训练小型英语语言模型,发现源语言会明显影响模型行为:通用困惑度更多由翻译语料的词汇多样性驱动,而语法表现若训练数据充足则与源语言和英语的类型学相似度强相关,翻译质量也是语言建模性能的强预测因子。
一项被 EMNLP 2026 Findings 接收的研究系统评估了开源 LLM 在扁平与嵌套 NER 任务上的表现。实验覆盖 8 个不同规模 LLM 和 4 个标准 NER 数据集,发现采用参数高效微调与 inline bracketed 或 XML 等结构化格式后,开源 LLM 性能可媲美传统编码器模型,并超越使用上下文学习技术的解码器 LLM。
研究覆盖 16 个 MENA 国家、26 个模型和 153 万份人类调查问卷,发现对齐训练与文化价值冲突时发生的是压制而非抹除:模型在拒绝回答时,其内部 logit 分布与人类调查数据的相关性反而强于自由生成的答案,作者称之为"对齐否决"。
针对大型推理模型(LRM)的思维链(CoT)推理轨迹中可能隐藏有害内容的问题,研究者提出 ReasoningShield 基准及配套轻量模型。
研究者提出"动态上下文截断"方法,让 LLM 在获取足够任务相关信息后自行终止处理。该方法通过轻量分类器检测特定注意力头编码的"充分性信号",在六个 QA 数据集(最长 40K tokens)和 LLaMA/Qwen/Mistral 三个模型族(1B-70B)上实现平均 1.33x token 缩减,同时准确率提升 3.4%。研究还发现,小模型需探测充分性,大模型则可通过提示词展现内在自评估能力。
研究者发布 OARelatedWork,首个面向相关工作生成的大规模多文档摘要数据集,包含 94 450 篇论文的完整相关工作章节与所引论文全文,验证集和测试集确保每篇来源论文均有全文。
研究者提出 PAGE 框架,用 AI 将每页漫画扫描解析为分镜、文本和书目记录,并以视觉语言模型按书面编码手册逐页标注,再用人工标注校准。该框架在 3,929 本美国漫画(1938–1956)和 87 卷日本漫画上完成三项研究,分别考察政治权力呈现、页面视觉形式与艺术家笔迹识别、以及两种漫画传统中的说话者归属。
研究团队提出 QTestBench,用独立基准检查器评估 LLM 生成的量子测试套件,而非将测试本身视为真值。在八个 PennyLane QHack 挑战和十个 Qiskit HumanEval 任务上测试五个 LLM,生成套件几乎都能执行,但最佳生成器的测试质量仅为 QHack 0.71、Qiskit HumanEval 0.34。
研究团队构建了 UkrMeme 数据集,包含 200 条乌克兰战时模因并标注说服技巧,同时发布 PTM-UA——Propaganda 950 基准子集的乌克兰语翻译版,保留原始图像内容仅翻译文本。研究在零样本提示下用视觉语言模型(VLM)评测图像、文本和多模态输入,采用分层 F1 指标,并对比 LRP 与模型生成 token 归因两种解释方法所强调的证据语义类别。
研究发现在线自蒸馏中,基于参考解打分的教师信号既无法定位学生 rollout 中的错误,也无法将概率推离错误 token,甚至难以区分同一问题下的正确与错误 rollout。
一个由分析师、编码员和记录员三种角色组成的多智能体 LLM 框架,可在不改动整体网络结构的前提下,仅针对指定组件生成代码,实现跨模型自动调优。在 MNIST 和 Digits 脉冲分类任务上,准确率分别提升 13 和 6 个百分点;在 GNLSE 任务中相对解析单孤子解的误差降低约 2491 倍,KS 问题质量漂移下降 14 倍。
一项实证研究利用 SWE-bench 和 SWE-bench-Live 的内置 FAIL_TO_PASS 测试评估补丁运行性能,选取 Claude Opus 5、GPT 5.6、DeepSeek V4 Pro 和 Qwen 3.8 Max 四个前沿模型搭配 SWE-agent,在 262 个存在至少两种正确解法的案例上测量指令数与墙钟时间。
研究者提出 PRISM(Population-Retrieved Inference for Structured Multimodal Prognosis),一种融合逐特征数值 token 化、纵向 ECG 近因加权聚合与双模态人群记忆库的多模态语言模型,检索在表示空间进行,不将单条记录写入提示词。
研究将 Whisper-small 从通用语音语料适配到 Earnings22 基准,发现所有评估方法在同域金融语音留出集上均出现性能提升而非灾难性遗忘,任务互补性使正则化反而有害。当确需正则化时,逐层 mini-KFAC 近似比标准对角 EWC 取得更低 WER 和更稳定的优化。结果表明应用持续学习约束前应先评估任务互补性,必要时优先选择 mini-KFAC EWC。
研究团队提出 ProgramGym 框架,由 Program-Env 与 Program-Agent 组成,用于长周期程序复现智能体的可扩展训练环境。Program-Env 通过反馈驱动循环修复运行时沙箱构建与黑盒测试质量,构建出覆盖 C、C++、Go、Rust 的 1,648 个训练环境。
BoundaryEvo 是一个两阶段数据-模型协同演化框架,用于长链推理蒸馏:先通过 Capability Priming 直接蒸馏少量教师长推理轨迹建立基础推理能力,再在 Capability-Boundary Co-Evolution 中持续筛选学生尚未掌握但专家能可靠解答的问题。
一种无需额外训练的稀疏 token 匹配方法,利用嵌入模型已计算的上下文 token 表示,让每个查询 token 在候选记忆中检索少量匹配 token,聚合得分后与整体记忆相似度结合排序。
针对跨分词器在线策略蒸馏中块级信号无法分配到学生 token、无对应 token 缺乏约束的问题,研究者提出 CAST(Chunk-aware credit Assignment with Selective Token Anchoring)。
针对长上下文 RLVR 中注意力占自回归解码内核时间 72–76% 的问题,研究者提出自稀疏推测 rollout(S³R),用稀疏注意力提议 token、再经全注意力验证与精确推测采样生成响应,使响应组仍服从稠密策略分布。在 Qwen3 上,S³R 将长上下文数学推理的端到端训练吞吐提升至自回归 rollout 的 1.39×–1.35×,任务表现相当。
KnowForge 用角色分工的智能体流水线做开放域多模态文档问答:Locator 只负责搜索,桥接裁判强制补上第二跳,Deep Reader 只读文本、图像和表格。
研究在 45,000 项美国专利上训练双曲与欧氏 VAE(96 次运行、6 个种子),双曲模型在 3,000 次查询的 top-10 结果中检索到真正跨类别现有技术的比例为 18.76%,比欧氏模型的 12.34% 高 52%。
研究者提出进化优化器 CoCoEvolve(Cortex Code Evolve),其核心机制为 meta-reflection:由智能体式变异器 Cortex Code 从完整进化历史中检索证据、探测在线系统后再验证并提交变异。
研究者提出 ReHarness,一种用于智能体持续学习的循环式 harness 框架,在严格在线流式协议下,用前向读写之外的“反向修订”机制,将每个实例产生的轨迹作为反馈,反向修正该实例检索到的反思内容。
Kairos 提出一种字节级基础模型架构,将双向门控 DeltaNet 线性注意力与滑动窗口注意力(LiZAttention2)、块级 Attention-Residual 聚合、稀疏 MoE 前馈层和多尺度字节级编解码器结合,在文本、图像、音频、视频、激光雷达和控制流共享的单一字节空间上以均匀噪声去噪目标训练。
研究用相同图事实对比不同任务下语言模型的固定组件,发现任务变化会重新分配五个开源权重模型(覆盖四个家族、1.5-14B 参数)中注意力头的影响力。在 Gemma-2-9B 和 Qwen3-14B 中,一次激活编辑可改变早期内部激活向量,在指令不变的情况下切换模型读取的事实。基于此构建的线性响应图在对应条件下将预测均方误差较两图平均分别降低 53.6%(Gemma)和 5.0%(Qwen)。
研究在四种低资源语言和英语、五种数据规模上交叉对比了音频类增强(speed perturbation、SpecAugment)与文本类增强,并在音素层面分析错误。
研究通过行为与机制分析考察 LLM 对英语语篇助词 "just" 和 "only" 的敏感性,发现 LLM 与人类一样偏好这些助词的出现,且对 "just" 比对 "only" 更敏感,指令微调会提升这种敏感性。
研究者提出一种面向德国交通法规(StVO)的多任务预训练方法,结合 NSP、知识图谱引导聚类(CLU)和知识图谱感知段落分类(CLS)三个目标,将结构化法律知识直接编码进模型权重,实现推理时的零样本法律推理。
针对德国法律法典,研究用结构驱动解析构建知识图谱来导航和检索源文档,并对比多种 KG 引导的分块与检索策略对引用准确率的影响。该方法旨在解决 RAG 在源文档数量和规模增大时检索性能下降、忽略关键上下文的问题,从而提升法律等可靠性关键场景中生成过程的可验证性。
研究者提出 Multi-Stream Attention Residuals(MSAR),将 Attention Residuals 扩展为多头深度注意力,通过多尺度因果卷积从序列上下文获取流多样性。
研究者提出 AMLworld-Compact 评估集,保留全部非法测试交易、按监督分数分层采样良性交易,其 HT-Coreset 协议在 HI-Small 和 LI-Small 上分别将评估目标减少 271 倍和 611 倍。
研究者提出"带内在反馈的用户模拟器",即为模型配备潜在评估状态——每轮对话中从第一人称用户视角生成内部想法、反应和标量评分。基于真实用户与助手的交互日志训练后,该模拟器在模拟真实性和批判行为上优于提示词基线,并提供现有微调模拟器缺失的轮级评估,其评估与人类判断的相关性也更高。
研究者推出 BLiMPPI,一个覆盖 33 种语言、超过 12,000 组 NPI 最小对的多语言评测套件,通过从 Universal Dependencies 树库中发现极性词(NPI)、标注其允准环境并扰动生成最小对构建而成。
zip2zip++ 通过解耦输入/输出动态嵌入层、尺寸感知 RoPE 定位和改进的 LZW 编解码器,在不修改预训练语言模型的前提下,将 zip2zip 与未压缩基线之间的质量差距缩小约一半。
POrchestra 是一个主动式智能体编排框架,允许子智能体在执行过程中随时向编排器请求调整 harness,并保持本地执行连续性。基于此机制提出的 On-Policy Orchestration Distillation(OPOD)利用事后反馈优化编排策略。