跳到正文
10月16日周五
  1. arXiv cs.CL27

    什么样的指令微调数据才算好?一项基于上下文学习视角的研究

    研究者提出基于加权上下文影响(wICI)的指令数据选择框架,通过衡量候选样本对语义相近样本降低指令遵循难度的程度来筛选数据。在多个模型和基准上,该方法在受限数据预算下持续优于现有基线,并发现样本难度与上下文影响呈负相关。该工作已被 ACL 2026 主会接收。

  2. arXiv cs.CL26

    MIXAR:将自回归像素级语言模型扩展至多语言与多文字系统

    MIXAR 是首个生成式多语言像素级语言模型,在八种高资源语言(覆盖拉丁与 CJK 文字)上预训练,参数规模扩展至 0.5B。它用基于 GRPO 的强化学习阶段替代此前像素模型不稳定的对抗训练,在多语言基准上把自由生成准确率最高提升 2.3 倍,并在判别式基准上与同类 tokenizer 模型持平。

  3. arXiv cs.CL31

    LLM-as-a-Judge 中温度设置的必要性研究

    一项超百万次大规模评测研究发现,LLM-as-a-Judge 中低温度能带来一致且错误少的输出,尤其在小模型上,但一致性不等于判断可靠,低温度会收窄推理探索范围。研究通过四种推理人格刻画评判行为,发现高温重复采样结合多数投票,或高温推理加低温决策,可在不损害清晰样本的前提下提升模糊样本的一致性,代价是额外推理开销。

  4. arXiv cs.AI22

    视频理解中的查询引导定位:QDETRv、TOViT 与 MATR

    该论文研究查询引导的视频定位三类任务:对象级、关系级与时刻级。对象级提出 QDETRv(Detection Transformer 的查询引导扩展,用于视频中未见对象的一次性定位)与 TOViT(少样本视频对象检测);关系级引入视频少样本指代关系;时刻级提出 MATR,用双阶段 Dynamic Time Warping 做视频到视频时刻检索,并可扩展至文本到视频检索。

  5. arXiv cs.CL26

    用 LLM 生成调和性解释以化解矛盾陈述

    研究者提出"调和性解释生成"任务,要求模型生成能让矛盾陈述变得兼容的解释,并复用 NLI 数据集、引入可规模化自动评估的质量指标。对 13 个 LLM 在 thinking 与非 thinking 模式下的实验显示,模型在该任务上成功率有限,且更长的推理链与解释成功呈负相关。

  6. arXiv cs.CL22

    从文档到片段:面向 LLM 可解释医疗编码的片段中心学习

    研究者提出 Span-Centric Learning(SCL),将编码知识获取与在完整文档中的应用分离,先让模型从短片段学习编码知识,再用少量标注数据学会在完整文档中运用。实验显示,该方法仅用 248 份完整文档训练,就让一个 8B LLM 超越现有最优方法,并为每个预测编码提供与人工标注高度一致的显式支持证据。分析还表明,模型能通过片段学习文档中未出现的编码知识,并将其应用于完整文档。

  7. arXiv cs.AI20

    量子视角何时有用?多视图融合中的经典-量子互补表示

    研究提出经典-量子多视图融合框架,在保留完整经典输入的同时加入模拟量子特征,通过拼接和注意力机制组合两个视图。受控实验表明,当经典与量子表示捕捉到互补的预测关系时,融合能提升预测性能;在 Wine、Wisconsin Diagnostic Breast Cancer、三分类 Fashion-MNIST 和 Steel Plates Faults 上,平均预测性能优于经典基线。

  8. arXiv cs.CL27

    Writer-R1:面向开放式写作强化学习的动态评分标准挖掘

    Writer-R1 是一套围绕归纳式评分标准生成(IRG)构建的写作训练流程,将评分标准同时用作生成引导与强化学习奖励依据,并训练出 4B 的 RubricGen-4B 为新请求自动提供评分标准。它在 4B 和 8B 基座上将 WritingBench 分数分别提升 0.182 和 0.158,HelloBench 上也有增益,消融实验显示 IRG 优于直接生成评分标准。

  9. arXiv cs.AI18

    Matoi:面向智能体授权的后果证据选择性重验证机制

    Matoi 将可复用的后果证据与当前执行权限、持久发生历史分离,用有限查询感知契约覆盖分支、有序集合与否定查询。在 1,440 单元匹配线研究中,输入字节相同时复用使 JS 完整生命周期成本降低 3.49%、Python 降低 1.79%;AgentDojo Banking 映射覆盖 5/16 用户计划与 7/9 攻击计划,两种治理策略均保留 5 笔正常转账并拒绝 35 次复用攻击计划/策略交叉。

  10. arXiv cs.CL22

    用大语言模型从 FOMC 声明中解码货币政策立场:Delta-Consistent Scoring 框架

    研究者提出 Delta-Consistent Scoring(DCS),一种无需人工标注的框架,将冻结的大语言模型表示映射为连续立场分数,同时建模声明的绝对立场与相邻会议间的相对变化。在四个 LLM 主干上,DCS 持续优于监督探针和 LLM-as-judge 基线,句级鹰派—鸽派分类准确率最高达 71.1%。其会议级分数与通胀指标高度相关,并与美国国债收益率变动显著关联。

  11. arXiv cs.AI22

    PriorityFEC:面向边缘多智能体系统 KV-Cache 交接的截止时间感知流式 FEC

    PriorityFEC 是一种面向边缘多智能体 LLM 系统的 KV-Cache 交接方案,通过将高价值 KV 块前置并按接收端反馈调度修复包,在 TTFT 截止时间前保护最有价值的 KV 信息。该方案在分布式边缘 LLM 服务原型上以 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 评测,任务质量优于对比传输方案,且在截止时间约束严格时优势更明显。

  12. arXiv cs.CL31

    BASIS:评估交互场景下超越指令的信念感知解决方案

    研究者提出 BASIS 基准,用于评估 LLM 智能体能否推断用户请求背后的心理状态、识别信念与现实的不匹配,并据此给出合适方案。评估显示,当前模型在生成解决方案时往往忽略用户心理状态,而当这类信息被明确引出并提供时,方案质量持续更高。研究还通过通用 CoT 提示词对比、心理状态信息干预、针对性训练和多智能体协作实验,验证了考虑心理状态的实用价值。

  13. arXiv cs.CL24

    Composition-RL:为大语言模型强化学习组合可验证提示词

    针对 RLVR 训练中通过率为 1 的简单提示词随训练推进不断增多、压缩有效数据规模的问题,研究者提出离线数据增强方法 Composition-RL,在 RL 之前组合现有提示词,且不修改 RL 优化器。在 4B 至 30B 模型上的实验显示,其推理能力持续优于用原始数据集训练的 RL,课程变体可进一步提升表现,并支持跨域提示词组合。代码、数据与模型均已公开。

  14. arXiv cs.CL38

    LLM 难以运用上下文中学到的表征

    一项研究检验 LLM 能否把上下文中学到的表征用于下游任务,发现开源权重模型在下一 token 预测和"自适应世界建模"新任务上都难以调用上下文定义的新语义,即便这些语义已编码在其隐层表征中。对闭源 SOTA 推理模型的测试同样显示,性能最强的 LLM 也无法可靠利用上下文给出的新模式。

  15. arXiv cs.CL40

    MoCo:一站式模型协作研究 Python 库

    研究者推出 MoCo,一个用于大规模执行、评测和比较模型协作算法的一站式 Python 库,涵盖 26 种模型协作方法与 25 个评测数据集。实验显示,多数协作策略在平均 61.0% 的(模型、数据)设定中优于无协作模型,最优方法提升幅度最高达 25.8%。

  16. arXiv cs.CL10

    EnsembleLink:无需训练数据的高精度记录链接方法

    EnsembleLink 是一种无需任何训练标签即可实现高精度记录链接的方法,利用预训练语言模型从大规模文本语料中学到的语义关系进行匹配。在涵盖城市名、人名、机构、多语言政党及书目记录的基准上,其表现达到或超过需要大量标注的方法。该方法可在开源模型上本地运行,无需外部 API 调用,典型链接任务几分钟内即可完成。

  17. arXiv cs.CL30

    大语言模型可从个人记录中朴素推断族裔

    一项已撤回的研究显示,大语言模型无需额外训练数据即可从姓名推断族裔,在佛罗里达和北卡罗来纳选民样本上准确率达 84.7%,超过 BISG 的 68.2%。测试涵盖 Gemini 3 Flash、GPT-4o、DeepSeek v3.2 和 GLM-4.7 等六个模型,启用扩展推理可提升 1-3 个百分点,加入党派登记等元数据可达 86.7%。

  18. arXiv cs.AI40

    TRACER:面向医院患者护理的多模态框架

    斯坦福团队提出免训练多模态框架 TRACER,将视频逐分钟动作记录与临床记录合并为小时级报告,并让 LLM 智能体通过工具查询该层级结构、调取相关视频与病历。在 397 段标注视频上动作检测准确率达 84.8%,144 道临床多选题 QA 准确率 61.0%,优于同骨干最强基线的 49.3%。

  19. arXiv cs.CL22

    Chronoberg:面向语言模型分析的 250 年历时语料库与时间情感词典

    研究者发布 Chronoberg,一个取自 Project Gutenberg、覆盖 250 年英文书籍的时序结构化语料库,并附带时间标注与 Valence-Arousal-Dominance 情感词典。基于该词典的分析显示,现代 LLM 工具难以处理词义随时间发生的历时变化,在情感语境化和歧视性语言检测上表现不佳。Chronoberg 已在 HuggingFace 公开,代码同步开放。

  20. arXiv cs.AI22

    RecSoup:面向可控多目标推荐的高效模型合并方法

    RecSoup 是一种轻量两阶段模型合并方法,用于可控多目标推荐(CMOR),可在推理时动态调整目标权衡而无需联合重训练或额外生成模块。它先通过同时考虑目标专属重要性与跨目标相关性的剪枝策略缓解参数干扰,再用可学习的偏好到系数映射完成自适应参数合并。实验显示其帕累托前沿质量与可控性更优,推理延迟比参数生成方法快 165–228 倍,代码已开源。

  21. arXiv cs.CL35

    FactGuard:检测不可回答问题以提升长上下文推理可靠性

    研究者提出 FACTGUARD 多任务工作流及 FACTGUARD-BENCH 基准,包含 25,220 个样本、上下文长度最高 128K,针对证据缺失与误导性证据场景。对 11 个开源与闭源 LLM 的评测显示,随上下文增长模型难以拒绝不可回答问题,最佳模型准确率仅 71.62%;用该基准训练后整体准确率提升至 81.17%。

  22. arXiv cs.AI22

    何时值得为更好的 LLM 付费?混合保真度预言机的随机优化

    针对 LLM 辅助数据清洗与决策的下游任务,研究提出混合保真度一阶预言机的随机优化框架,用成本感知策略在不同保真度预言机间自适应切换。在偏差已知时,其累积成本不超过事后最优固定预言机;偏差未知时,用预算化认证方案以偶发可信梯度评估剔除有偏来源。合成与 LLM 补全实验显示,该策略跳过多个昂贵 LLM 预言机,在精度相当的情况下大幅降低累积成本。

  23. arXiv cs.CL31

    双重视角互补表征如何提升时间序列推理能力

    基于 Qwen3-VL-8B 的双视图模型将线图与归一化延迟嵌入结合,在 TSRBench 上把整体准确率从单用线图的 44.5% 提升至 53.2%,超过最强专用 TSLM 基线的 36.7%。该模型在 TSExam 上达到 89.9% 准确率,在多变量 ChatTS 对齐上取得 86.8% 数值准确率。消融实验显示,两种视图组合在预测与推理任务上的增益尤为显著。

  24. arXiv cs.CL37

    Librarian Agents:训练 LLM 为未来查询预构建长上下文工作区

    研究者提出 Librarian Agents 框架,让 builder agent 将原始文档转化为合成文件与引用链接构成的分层文件系统,并通过强化学习直接优化下游回答准确率。该方法在 BrowseComp-Plus 上比最强检索与预计算基线高出 33 个百分点,在 BRIGHT 上零样本跨域平均准确率提升 31 点,且构建成本可分摊到多次查询。

  25. arXiv cs.AI18

    DST-Net:面向时间序列预测的分解式时空网络

    DST-Net 提出一种分解式时空网络,针对趋势分量和季节分量分别设计建模策略:趋势分支用 Latent Graph Block 捕捉跨通道的全局拓扑依赖与系统级联动,季节分支用 Gaussian Multi-scale Attention 抑制注意力分散、聚焦多粒度局部上下文。该模型在多个真实世界基准上验证了有效性,已被 WCNCA 2026 接收。

  26. arXiv cs.AI22

    SIEVE:解决等变自监督学习中的拓扑障碍

    研究揭示 3D 点云掩码自编码与 SE(3) 等变网络存在理论不兼容,标准掩码会触发拓扑坍缩,迫使模型在无参考系下臆测朝向。为此提出 SIEVE(Scalar Invariant Extraction Via Equivariance)等变自监督框架,通过球形投影掩码保留全局姿态、遮蔽局部语义,将点云几何压缩为不变标量嵌入。

共 2000 篇论文