什么样的指令微调数据才算好?一项基于上下文学习视角的研究
研究者提出基于加权上下文影响(wICI)的指令数据选择框架,通过衡量候选样本对语义相近样本降低指令遵循难度的程度来筛选数据。在多个模型和基准上,该方法在受限数据预算下持续优于现有基线,并发现样本难度与上下文影响呈负相关。该工作已被 ACL 2026 主会接收。
研究者提出基于加权上下文影响(wICI)的指令数据选择框架,通过衡量候选样本对语义相近样本降低指令遵循难度的程度来筛选数据。在多个模型和基准上,该方法在受限数据预算下持续优于现有基线,并发现样本难度与上下文影响呈负相关。该工作已被 ACL 2026 主会接收。
X-Fly 是一个面向全块式空中视觉语言导航的分阶段训练框架,通过 Recovery DAgger 为学习者访问的决策状态标注可重连未来专家片段的平滑动作块,并在首个区域内状态给出 STOP,再用 Flow-GRPO 联合优化分块流控制器与 Bernoulli 停止策略。
MIXAR 是首个生成式多语言像素级语言模型,在八种高资源语言(覆盖拉丁与 CJK 文字)上预训练,参数规模扩展至 0.5B。它用基于 GRPO 的强化学习阶段替代此前像素模型不稳定的对抗训练,在多语言基准上把自由生成准确率最高提升 2.3 倍,并在判别式基准上与同类 tokenizer 模型持平。
研究者提出基于优势的价值学习算法 V-SHARE,将动作价值函数分解为状态价值与动作优势并跨动作共享信息,结合重要性加权的 Bellman 残差修正,首次给出该类算法的完整理论刻画,涵盖渐近收敛与非渐近有限样本保证。
一项超百万次大规模评测研究发现,LLM-as-a-Judge 中低温度能带来一致且错误少的输出,尤其在小模型上,但一致性不等于判断可靠,低温度会收窄推理探索范围。研究通过四种推理人格刻画评判行为,发现高温重复采样结合多数投票,或高温推理加低温决策,可在不损害清晰样本的前提下提升模糊样本的一致性,代价是额外推理开销。
该论文研究查询引导的视频定位三类任务:对象级、关系级与时刻级。对象级提出 QDETRv(Detection Transformer 的查询引导扩展,用于视频中未见对象的一次性定位)与 TOViT(少样本视频对象检测);关系级引入视频少样本指代关系;时刻级提出 MATR,用双阶段 Dynamic Time Warping 做视频到视频时刻检索,并可扩展至文本到视频检索。
研究者提出"调和性解释生成"任务,要求模型生成能让矛盾陈述变得兼容的解释,并复用 NLI 数据集、引入可规模化自动评估的质量指标。对 13 个 LLM 在 thinking 与非 thinking 模式下的实验显示,模型在该任务上成功率有限,且更长的推理链与解释成功呈负相关。
LLM 后训练中对称聚合多奖励会导致聚合奖励上升但主任务性能下降,即"多奖励黑客"。研究证明对称聚合下确定性条件均值 GRPO 会收敛到偏好辅助奖励的行为,并提出 Trust-Anchored Gating(TAG),通过先选出锚定通道再对辅助奖励设门控来结构性消除该问题。
研究者提出 Span-Centric Learning(SCL),将编码知识获取与在完整文档中的应用分离,先让模型从短片段学习编码知识,再用少量标注数据学会在完整文档中运用。实验显示,该方法仅用 248 份完整文档训练,就让一个 8B LLM 超越现有最优方法,并为每个预测编码提供与人工标注高度一致的显式支持证据。分析还表明,模型能通过片段学习文档中未出现的编码知识,并将其应用于完整文档。
研究提出经典-量子多视图融合框架,在保留完整经典输入的同时加入模拟量子特征,通过拼接和注意力机制组合两个视图。受控实验表明,当经典与量子表示捕捉到互补的预测关系时,融合能提升预测性能;在 Wine、Wisconsin Diagnostic Breast Cancer、三分类 Fashion-MNIST 和 Steel Plates Faults 上,平均预测性能优于经典基线。
Writer-R1 是一套围绕归纳式评分标准生成(IRG)构建的写作训练流程,将评分标准同时用作生成引导与强化学习奖励依据,并训练出 4B 的 RubricGen-4B 为新请求自动提供评分标准。它在 4B 和 8B 基座上将 WritingBench 分数分别提升 0.182 和 0.158,HelloBench 上也有增益,消融实验显示 IRG 优于直接生成评分标准。
Matoi 将可复用的后果证据与当前执行权限、持久发生历史分离,用有限查询感知契约覆盖分支、有序集合与否定查询。在 1,440 单元匹配线研究中,输入字节相同时复用使 JS 完整生命周期成本降低 3.49%、Python 降低 1.79%;AgentDojo Banking 映射覆盖 5/16 用户计划与 7/9 攻击计划,两种治理策略均保留 5 笔正常转账并拒绝 35 次复用攻击计划/策略交叉。
研究者提出 Delta-Consistent Scoring(DCS),一种无需人工标注的框架,将冻结的大语言模型表示映射为连续立场分数,同时建模声明的绝对立场与相邻会议间的相对变化。在四个 LLM 主干上,DCS 持续优于监督探针和 LLM-as-judge 基线,句级鹰派—鸽派分类准确率最高达 71.1%。其会议级分数与通胀指标高度相关,并与美国国债收益率变动显著关联。
PriorityFEC 是一种面向边缘多智能体 LLM 系统的 KV-Cache 交接方案,通过将高价值 KV 块前置并按接收端反馈调度修复包,在 TTFT 截止时间前保护最有价值的 KV 信息。该方案在分布式边缘 LLM 服务原型上以 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 评测,任务质量优于对比传输方案,且在截止时间约束严格时优势更明显。
研究者提出 BASIS 基准,用于评估 LLM 智能体能否推断用户请求背后的心理状态、识别信念与现实的不匹配,并据此给出合适方案。评估显示,当前模型在生成解决方案时往往忽略用户心理状态,而当这类信息被明确引出并提供时,方案质量持续更高。研究还通过通用 CoT 提示词对比、心理状态信息干预、针对性训练和多智能体协作实验,验证了考虑心理状态的实用价值。
Memorilla 是一种面向冻结 LLM 的记忆系统,可将整个文档集合编码为可复用嵌入,并学习把查询相关信息放入模型的输入嵌入空间,仅用 16 个 memory tokens 即可完成检索。
针对 RLVR 训练中通过率为 1 的简单提示词随训练推进不断增多、压缩有效数据规模的问题,研究者提出离线数据增强方法 Composition-RL,在 RL 之前组合现有提示词,且不修改 RL 优化器。在 4B 至 30B 模型上的实验显示,其推理能力持续优于用原始数据集训练的 RL,课程变体可进一步提升表现,并支持跨域提示词组合。代码、数据与模型均已公开。
研究者提出 Latent Transition Memory(LTM),将历史存为相邻观测间的紧凑潜在转移,并在 π₀.₅ 上实例化为 LTM-π,无需记忆专用语义标注或外部推理模型调用。
一项研究检验 LLM 能否把上下文中学到的表征用于下游任务,发现开源权重模型在下一 token 预测和"自适应世界建模"新任务上都难以调用上下文定义的新语义,即便这些语义已编码在其隐层表征中。对闭源 SOTA 推理模型的测试同样显示,性能最强的 LLM 也无法可靠利用上下文给出的新模式。
研究者提出 Stochastic Truncated On-Policy Distillation(STOPD),通过随机截断学生模型的 rollout 并用分块逆概率加权(IPW)修正采样偏差,来加速 on-policy 蒸馏(OPD)。
研究者推出 MoCo,一个用于大规模执行、评测和比较模型协作算法的一站式 Python 库,涵盖 26 种模型协作方法与 25 个评测数据集。实验显示,多数协作策略在平均 61.0% 的(模型、数据)设定中优于无协作模型,最优方法提升幅度最高达 25.8%。
多模态文档 RAG 的瓶颈不在检索,而在生成器如何读取检索到的页面。研究发现,在 SciEGQA 上把页面视觉 token 预算从 1K 提到 32K 可提升 15.22 分,固定 16K 时加入 ground-truth 裁剪再提升 3.75 分。
EnsembleLink 是一种无需任何训练标签即可实现高精度记录链接的方法,利用预训练语言模型从大规模文本语料中学到的语义关系进行匹配。在涵盖城市名、人名、机构、多语言政党及书目记录的基准上,其表现达到或超过需要大量标注的方法。该方法可在开源模型上本地运行,无需外部 API 调用,典型链接任务几分钟内即可完成。
一项已撤回的研究显示,大语言模型无需额外训练数据即可从姓名推断族裔,在佛罗里达和北卡罗来纳选民样本上准确率达 84.7%,超过 BISG 的 68.2%。测试涵盖 Gemini 3 Flash、GPT-4o、DeepSeek v3.2 和 GLM-4.7 等六个模型,启用扩展推理可提升 1-3 个百分点,加入党派登记等元数据可达 86.7%。
斯坦福团队提出免训练多模态框架 TRACER,将视频逐分钟动作记录与临床记录合并为小时级报告,并让 LLM 智能体通过工具查询该层级结构、调取相关视频与病历。在 397 段标注视频上动作检测准确率达 84.8%,144 道临床多选题 QA 准确率 61.0%,优于同骨干最强基线的 49.3%。
研究者提出 FPoT,一种基于 √2(半倍频程)的分数次幂网格量化方法,可在保持全整数移位加法数据通路的同时实现实用的 4-bit 权重量化。在 Llama-3-8B 的 4-bit 权重与激活量化下,FPoT 相比 PoT 基线将零样本常识推理性能提升 8.72%,与均匀整数基线仅差 0.4 个百分点。
研究者发布 Chronoberg,一个取自 Project Gutenberg、覆盖 250 年英文书籍的时序结构化语料库,并附带时间标注与 Valence-Arousal-Dominance 情感词典。基于该词典的分析显示,现代 LLM 工具难以处理词义随时间发生的历时变化,在情感语境化和歧视性语言检测上表现不佳。Chronoberg 已在 HuggingFace 公开,代码同步开放。
RecSoup 是一种轻量两阶段模型合并方法,用于可控多目标推荐(CMOR),可在推理时动态调整目标权衡而无需联合重训练或额外生成模块。它先通过同时考虑目标专属重要性与跨目标相关性的剪枝策略缓解参数干扰,再用可学习的偏好到系数映射完成自适应参数合并。实验显示其帕累托前沿质量与可控性更优,推理延迟比参数生成方法快 165–228 倍,代码已开源。
研究者提出 FACTGUARD 多任务工作流及 FACTGUARD-BENCH 基准,包含 25,220 个样本、上下文长度最高 128K,针对证据缺失与误导性证据场景。对 11 个开源与闭源 LLM 的评测显示,随上下文增长模型难以拒绝不可回答问题,最佳模型准确率仅 71.62%;用该基准训练后整体准确率提升至 81.17%。
FedSumUp 在客户端部署可学习的有损压缩器,生成紧凑且可视化可解释的表征,通过控制信息容量降低隐私泄露并让用户直接评估隐私-效用权衡。
研究者提出知识蒸馏方法 LLMR,用大语言模型诱导出的奖励函数指导学生模型训练。在对话生成和摘要等多个数据集上,LLMR 的表现持续优于传统知识蒸馏方法。该工作已被 LREC-COLING 2024 接收。
研究者发布 MBBQ(Multilingual Bias Benchmark for Question-answering),将英文 BBQ 数据集扩展至荷兰语、西班牙语和土耳其语,并配套平行控制数据集以独立测量问答任务准确率。
针对 LLM 辅助数据清洗与决策的下游任务,研究提出混合保真度一阶预言机的随机优化框架,用成本感知策略在不同保真度预言机间自适应切换。在偏差已知时,其累积成本不超过事后最优固定预言机;偏差未知时,用预算化认证方案以偶发可信梯度评估剔除有偏来源。合成与 LLM 补全实验显示,该策略跳过多个昂贵 LLM 预言机,在精度相当的情况下大幅降低累积成本。
基于 Qwen3-VL-8B 的双视图模型将线图与归一化延迟嵌入结合,在 TSRBench 上把整体准确率从单用线图的 44.5% 提升至 53.2%,超过最强专用 TSLM 基线的 36.7%。该模型在 TSExam 上达到 89.9% 准确率,在多变量 ChatTS 对齐上取得 86.8% 数值准确率。消融实验显示,两种视图组合在预测与推理任务上的增益尤为显著。
研究提出 DIB-Bench,用 7,560 个评分样本、六类篡改和从正则到 GPT-5-nano 的评审阶梯衡量 LLM 评测的部署完整性盲区:评审模型越强,越容易接受被篡改的输出,平均接受率从规则式的 88.6% 升至 GPT-5-nano 的 94.1%。
研究者提出 Librarian Agents 框架,让 builder agent 将原始文档转化为合成文件与引用链接构成的分层文件系统,并通过强化学习直接优化下游回答准确率。该方法在 BrowseComp-Plus 上比最强检索与预计算基线高出 33 个百分点,在 BRIGHT 上零样本跨域平均准确率提升 31 点,且构建成本可分摊到多次查询。
研究者构建 LinguaGuardBench,将 TS-Bench AgentDojo-Traj 的 1,220 条标注步骤中的用户指令翻译成德语、法语、土耳其语、斯瓦希里语和阿姆哈拉语,工具调用与标签保持逐字节一致,以检验护栏判定是否随语言变化。
DST-Net 提出一种分解式时空网络,针对趋势分量和季节分量分别设计建模策略:趋势分支用 Latent Graph Block 捕捉跨通道的全局拓扑依赖与系统级联动,季节分支用 Gaussian Multi-scale Attention 抑制注意力分散、聚焦多粒度局部上下文。该模型在多个真实世界基准上验证了有效性,已被 WCNCA 2026 接收。
研究者提出无需训练的策略蒸馏(training-free on-policy distillation),仅靠前向传播即可将多个独立微调的专家模型能力聚合为一个模型,平均精度超过任一单一专家。
研究揭示 3D 点云掩码自编码与 SE(3) 等变网络存在理论不兼容,标准掩码会触发拓扑坍缩,迫使模型在无参考系下臆测朝向。为此提出 SIEVE(Scalar Invariant Extraction Via Equivariance)等变自监督框架,通过球形投影掩码保留全局姿态、遮蔽局部语义,将点云几何压缩为不变标量嵌入。