带统计量的 FlashAttention：面向紧凑幻觉检测器的低开销注意力特征
研究者提出在 FlashAttention 前向过程中直接累积注意力权重统计量，无需物化注意力矩阵，即可为幻觉检测器提供特征。在 H100 上，五个已发表检测器的统计量使 Qwen3-8B 在 2K token 时的前向延迟增加 16%，35K token 时降至 1.4%，每响应 token 仅存 22.5 KiB。
最新动态
arXiv cs.AIAI 评分2424 arXiv cs.CLAI 评分2424 大语言模型的数据策略：训练全生命周期的统一视角
这篇综述将 LLM 训练全生命周期的数据策略统一表述为在候选样本上分配训练预算的策略，并按决策粒度、模型依赖性和时间自适应性对方法进行分类。细粒度或状态依赖的策略控制力更强，但会带来额外的打分、搜索或 rollout 成本；跨模型规模的可迁移性和可比的端到端成本证据仍然有限。论文附带持续更新的论文列表与公开实现。
arXiv cs.AIAI 评分2020 AI 驱动的灾害响应与流离失所监测
AI 正被用于灾害响应与冲突监测，通过评估损失与紧急需求、追踪人口流离失所提供数据驱动的解决方案。机器学习算法还分析卫星影像与社会经济数据，用于预测贫困并推动可持续发展。相关研究同时涉及全球天气预报、可再生能源设计以及森林砍伐监测等气候议题。
arXiv cs.CLAI 评分2222 研究：没有单一 tokenizer 特征能可靠预测下游语言模型性能
一项分析约 200 个语言模型（覆盖九种语言）的研究发现，现有各类 tokenizer 内在评测指标均无法在模型家族、任务和语言之间一致地预测下游性能。作者据此提出一个基于语言学的新指标，显示新指标能捕捉现有指标遗漏的 tokenizer 质量维度，但其预测能力仍可能因模型家族、语言和任务而异。该论文已被 EMNLP 2026 Findings 接收。
arXiv cs.AIAI 评分2929 工具增强 LLM 实现从患者笔记中可靠完成医学计算
研究者提出一种工具增强 LLM 框架，从患者笔记中可靠完成医学计算，在 MedCalc-Bench 上达到 86.73% 最终答案准确率，分别超过 one-shot prompting 和监督微调基线 24.0 和 17.27 个百分点。
arXiv cs.CLAI 评分2222 PACE：用成对 token 对比与自适应轨迹置信度增强多模态 RLVR
针对多模态 RLVR 中组相对策略优化把序列级优势广播到每个 token、且自蒸馏信号无法区分图像依据与语言捷径的问题，研究者提出 PACE，通过四种教师视角下的成对 token 对比判断 token 支持是否依赖图像，并用自适应轨迹置信度调节信用重分配幅度。PACE 在三个骨干模型上取得最佳平均准确率，并在 Qwen3-VL-8B-Instruct 上于所有评测的多模态推理基准排名第一。
arXiv cs.AIAI 评分2121 用嵌入模型与 LLM 精修 CASTON 本体：一种轻量可扩展的工作流
研究针对铸造领域本体 CASTON，提出结合微调本体嵌入模型与 LLM 的轻量精修工作流：嵌入模型先筛出少量候选公理及替换项，再由 LLM 给出修复建议。在小型专家评估中，采用 CASTON 微调的 OnT 嵌入模型与 Qwen3-8B 的默认配置，6 个高置信度替换全部被两位领域专家接受。实现代码已公开。
arXiv cs.CLAI 评分3434 ContextLift：打破条件性涌现错位背后的伪相关
针对语言模型在窄域错位数据上微调后出现的条件性涌现错位，研究者提出反事实增强方法 ContextLift：将一半安全数据行复制并逐字插入随机训练提示中的上下文句，对齐答案不变，从而打破上下文与错位答案的伪相关。
arXiv cs.AIAI 评分2626 TIR-EC：用工具调用强化学习提升急诊到达后预测，4B 模型超越传统 ML 基线
TIR-EC 是一个工具集成强化学习框架，将 EHR 特征组作为 LLM 可调用的工具，并用梯度提升树教师模型提供奖励信号。在三个临床预测任务上，其 4B 智能体取得所有对比模型中最高的 macro F1，超越传统 ML 基线，并与规模大得多的前沿 LLM 相当。分析显示它能以更少工具调用选出更有用证据，并更有效地组合测量数据。
arXiv cs.CLAI 评分3232 重新审视工具图记忆在多轮工具调用中的作用
研究在九个模型和两个基准上评估工具图记忆，发现其相较基线很少带来显著提升，且即使有效也需付出超过两倍的 LLM 调用成本。其引导常不正确，随机或无引导仍保留大部分增益，说明收益来自额外计算而非记忆本身；将相同经验存为文本洞察则以几乎零额外调用超越工具图记忆。
arXiv cs.AIAI 评分2626 通过局部上下文蒸馏从交互经验中学习
研究者提出局部上下文蒸馏（LoCD），先定位学生轨迹中需要修正的关键片段，再由教师基于学生自身前缀重新生成这些片段并用于训练学生。在数学推理、代码生成和智能体任务上，LoCD 持续优于强基线，训练更稳定，参数更新更小更稀疏。
arXiv cs.CLAI 评分3131 DialFork：评估对话式智能体程序性幻觉的基准
研究团队推出 DialFork，首个基于原始对话文本衡量"程序性幻觉"的基准——智能体话语流畅且事实合理，却偏离既定对话流程。该基准通过在受控轮次分叉合规对话并注入四类幻觉构建，覆盖 12 个领域 24 项任务共 36,278 段对话，由 30 名人工标注者验证。
arXiv cs.AIAI 评分3232 SPRA：面向 AI 智能体的结构化论文表示，覆盖超百万篇 AI 论文
研究者提出 SPRA（Structured Paper Representation for Agents），一种以持久化研究对象和类型化关系组织的论文级表示，其 empirical-AI 配置涵盖 Problems、Contributions、Components、ExperimentSetups、Measures 和 Findings。
arXiv cs.CLAI 评分2222 可写性与路径：向寻址记忆注入知识的对照研究
一项对照研究测试了向寻址条件记忆注入知识的可写性：在冻结 GPT-2 上新增模块的 2×2 实验中，自然问题目标字符串命中率在仅行更新下平均 5.3%，无锚定投影更新为 28.7%，加锚定后为 22.0%，但严格答案得分均为零。
arXiv cs.AIAI 评分6060 JevAgentHarness：让决策模型与 LLM 共享控制权的基准、部署与训练
论文提出 JevAgentHarness，把智能体每一步的工具选择等决策委托给决策模型，仅在置信度低于阈值时交由 LLM 决定。作者构建 AgentDecisionBench，覆盖从孤立问题到控制运行中智能体的测试；孤立问题上最准的决策模型仅解决 69.5% 的智能体任务，未拟合置信度阈值时委托工具选择会使成功率下降 19.0 个百分点。
arXiv cs.CLAI 评分3535 OPRD：面向长程编程智能体的同策略提醒蒸馏
研究提出同策略提醒蒸馏（OPRD），通过多范围提醒监督与基于结果的路由，在无提醒的学生 rollout 上训练长程编程智能体，推理时学生无需提醒即可运行。
arXiv cs.AIAI 评分3232 Jev-LiteMAS：在多智能体工作流中分离决策与生成
Jev-LiteMAS 通过将多智能体工作流中的路由与审查操作交给轻量决策模型 Jev，在四个基准和两个骨干模型上将生成式 LLM token 消耗较 LAS 降低 12.7-54.6%，准确率差距控制在 1.34 个百分点以内，八种设置中有七种延迟下降。
arXiv cs.CLAI 评分2929 LLM 能否打乱顺序讲故事？非线性叙事生成语料库与基准发布
研究者发布包含 83 部已出版作品的基准，用于衡量语言模型能否讲述非线性故事，并为每部作品标注事件的时间顺序与叙述顺序，以及涵盖因果依赖、角色知识和悬念设置的故事图。
arXiv cs.AIAI 评分3131 MemCut：LLM 智能体长期记忆中的每个秘密都会留下痕迹
研究者提出 MemCut，一个针对 LLM 智能体用户请求遗忘能力的系统性基准，包含 456 个手工设计的秘密及其完整标注的证据链，用于测试删除后的信息恢复。基准定义原生恢复与残差恢复两项指标，并在五种记忆设计和四种 LLM 上建立三个参考删除基线。结果显示，LLM 引导删除二十个检索候选中的额外十轮对话后，仍残留 39-76% 的恢复率，候选覆盖不足是现有基线的瓶颈。
arXiv cs.CLAI 评分3232 SpecAgent：让强模型审校弱模型草稿的工具智能体轨迹级推测与语义验证
SpecAgent 是一种协作协议，让弱模型在只读工具调用中起草步骤、强模型通过单次 prefill 并行验证并提交最长语义有效前缀，从而把强模型从每步生成者变为审校者。
arXiv cs.AIAI 评分3131 DCBench-440：AI 数据中心建设反事实推理基准
研究者提出 DCBench-440，用于测试 LLM 对 AI 数据中心建设承诺的反事实推理能力，包含 200 道基于 STRIPS 世界的生成题和 240 道基于站点记录与排放公式的选择题。开放权重模型生成题准确率 12.5-71.5%，选择题 58.3-92.5%；在列出决策节点所有可选动作时，无模型精确匹配超过 4.0%，最强模型仅列出 72-85% 会改变项目状态的动作。
arXiv cs.CLAI 评分2424 TITAN：面向低资源多语言翻译的翻译电路发现与定向优化
研究者提出 TITAN 机制框架，结合因果干预、稀疏特征分解与定向偏好优化，识别并优化 Transformer 中关键的翻译电路，仅更新不到 5% 的模型参数。
arXiv cs.AIAI 评分2020 自引导 LLM 推理用于车辆路径问题错误诊断
研究系统考察了 LLM 检测和纠正车辆路径问题（VRP）实例错误的能力，发现其在复杂实例或大幅增加推理负担的错误上存在明显局限。为此提出自引导推理框架，让 LLM 自主生成代码提供结构化洞察以辅助错误诊断。在多种问题设置和 LLM 上的实验表明，该框架显著提升错误检测性能，达到接近完美的准确率。
arXiv cs.CLAI 评分1818 SITAR：面向自动语音识别评估的情境失真度量
研究者提出 SITAR，一种面向自动语音识别（ASR）的情境失真度量，通过有界递归公式将情境严重度与累积范围聚合为统一分数，并训练为轻量级 BERT 家族回归器，单次前向传播即可为参考-假设对打分，无需运行时高昂成本。验证涵盖宏观与微观层面的外在效度及评分器内在可靠性，显示 SITAR 能跟踪模型能力扩展并提供正交诊断价值。完整代码、模型权重与数据集将在内部评审后发布。
arXiv cs.AIAI 评分2222 SIF：用选择性内部反馈让语言模型学会推理
一种名为 SIF 的强化学习方法通过比较多个窗口与同伴的 token 级自置信度排序，仅在样本级和组级投票均达标时给予正向奖励，并筛选参与策略优化的响应。
arXiv cs.CLAI 评分2222 HyCo：面向移动端-云端推测解码的低成本混合草拟方案
HyCo 将服务器模型原生多 token 预测（MTP）头的深度草拟放到设备端执行，替代分支则交给一次 SLM 前向，服务器只返回该头所需的隐藏状态、输入嵌入和 KV 条目。
arXiv cs.AIAI 评分2222 分层图卷积网络 HGCN 用于检测低质量文档
研究提出分层图卷积网络（HGCN），可检测文档内部不一致以及标题与正文不符，并基于已发表新闻数据及元数据构建了 Inconsistency Dataset。HGCN 在该数据集上取得 91.20% 的准确率，优于对比模型；在公开的标题正文不符数据集上达到 92.00%。消融实验证实元数据的使用对性能提升有显著作用。
arXiv cs.CLAI 评分2020 社交媒体压力与情绪预测中提示词演化的有效策略识别
研究对比六种提示词演化方法在社交媒体压力与情绪数据上、两种模型规模下的表现，发现 GEPA 及其结合两个提示词指令的扩展版 GEPA+merge 在多个设置中优于初始提示词。研究还识别出五种与性能提升相关的提示策略，包括引导关注情绪证据、区分当前与过往痛苦、示例间接线索、要求情绪背景和引导标签选择。二元压力预测较早改善，而多标签情绪预测初期下降后部分恢复。
arXiv cs.AIAI 评分2424 FedSkillGit：基于版本控制的联邦技能进化框架
FedSkillGit 用 commit 式补丁更新替代整份技能文档上传，实现联邦技能进化：客户端只提交命名规则上的有限补丁及本地经验，经两阶段隐私过滤后由服务器去重合并，候选技能需在客户端验证集上得分提升才发布。在三个数据集和三个语言模型家族上，该方法比 SOTA 基线最高提升 22%，并在不共享原始客户端数据的前提下接近集中式进化效果。
arXiv cs.CLAI 评分2222 FaShift：面向多模态学习的因子级选择性分布偏移处理框架
FaShift 提出因子级分布偏移处理框架，通过分解多模态表征并评估各因子的分布变化、干预效应与跨环境稳定性，将潜在因子区分为非预测性、稳定预测性和预测有用但不稳定三类，分别进行抑制、保留或衰减处理，而非统一强制不变性。
arXiv cs.AIAI 评分2929 ARGUS：面向可靠用户模拟的议程驱动框架
研究者提出 ARGUS（Agenda-dRiven Goal-oriented User Simulator），一种神经符号框架，通过符号操作维护动态议程栈来跟踪用户目标状态，将状态追踪与自然语言生成严格解耦，以实现严格的目标推进和约束对齐交互。
arXiv cs.CLAI 评分2222 校准语言如何影响多语言模型的 Block Influence 剪枝
研究在 Qwen2.5-1.5B-Instruct、Llama-3.2-1B 和 Gemma-2-2B 上发现，用英语校准的 Block Influence（BI）会系统性低估印度语言文本的深层网络活动，三种印度语言的后期 block BI 比英语高 20.7-55.5%。
arXiv cs.AIAI 评分2121 量子与经典机器学习在神经精神疾病分类中的对比：一项特征匹配的多队列评估
研究在四个公开队列（4,308 名受试者）上以相同相关性特征对比六类量子模型与经典模型，量子核与匹配经典核在四个队列上均无统计显著差异，平均准确率差距在 95% 置信度下不超过 1.4 个百分点。
arXiv cs.CLAI 评分2222 DPA-MoE：面向 MoE 推理的运行时精度控制框架
DPA-MoE 是一个让路由专家支持任意精度的运行时精度控制框架，通过 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的 chunk，并利用实时 router gate 分数在推理时分配 chunk，使单个编码后的 MoE checkpoint 无需重训练或重新编码即可在多种有效权重预算下运行。
arXiv cs.AIAI 评分2828 DocPilot：面向长视觉文档理解的交互式智能体编排与训练
DocPilot 是一个支持表达性编排的智能体文档框架，通过页面级导航与细粒度证据定位，结合局部视觉检查、代码数值推理和跨模态推理，并借助课程式智能体训练将能力迁移至小模型。在 MMLongBench-Doc、DocBench、FinRAGBench-V 和 MADQA 上，DocPilot 搭配前沿 VLM 取得显著提升，DocPilot-4B 性能可媲美更大模型，代码已开源。
arXiv cs.CLAI 评分1616 ESG-Kor：面向 ESG 信息抽取的韩语数据集及实用案例
研究者构建了韩语数据集 ESG-Kor，从韩国企业可持续发展报告中抽取环境、社会与治理（ESG）信息，共含 118,946 句，并按 ESG 评估机构的客观规则人工标注。该数据集用多个韩语预训练语言模型验证分类性能，取得显著效果，并进一步将 ESG 分类模型扩展至中小企业文档，展示基于 ESG 关键议题的信息抽取与深度分析等实用场景。
arXiv cs.AIAI 评分2222 CA-MAMBA：在想象中进行受约束多智能体强化学习
CA-MAMBA 将多智能体世界模型中的成本预测移入想象空间，在 SMAC 中位配置上所需交互次数仅为无模型基线的 1/10 至 1/20，在同等预算下 MAMuJoCo 奖励为基线的 2.8 至 12 倍。在每基准单任务的受控测试中，将模型成本优势按平价定价可使成本盲学习者的成本降低一半以上，并满足学习型乘数未能达到的严格连续控制限制，表明模型成本估计并非瓶颈。
arXiv cs.CLAI 评分2424 RenoLayout：面向约束感知住宅设计的统一户型改造与家具布局框架
RenoLayout 将住宅设计建模为设计点引导的条件生成任务，把改造前住宅状态与设计点集合转换为可执行的 Geometry-as-Code 程序，统一处理户型改造与家具布局。
arXiv cs.AIAI 评分2222 将洗钱骡子账户检测视为关系学习问题：基于 RBIH NFPC 数据集的研究
研究将银行账户直接作为评分对象，把银行关系模式读作异构图（行是节点、外键是边），用逐列编码器、相对时间编码和 HeteroGraphSAGE 消息传递从多跳邻域打分，并将邻域限制在账户被标记前的数据。
arXiv cs.CLAI 评分2222 SIAB：用内部注意力信号进行情感状态推理
研究提出 Self-targeted Internal Attention Boosting（SIAB），通过因果定位（激活补丁）在合成最小对上定位稀疏情感注意力头，并在答案位置增强这些头已关注的内容 token，无需外部标注的目标跨度。