虚拟头注意力（VHA）：兼顾 KV cache、算力与模型质量的长上下文注意力机制
研究者提出 Virtual Head Attention（VHA），通过 Q Premix 与 Linear Postmix 两个线性操作，同时改善 KV cache 大小、训练与 prefill FLOPs 和模型质量这一"不可能三角"。
最新动态
arXiv cs.AIAI 评分3737 arXiv cs.AIAI 评分1212 FETALFusion：面向多域胎儿头部分割的分辨率感知状态空间建模
FETALFusion 是一种双路径 CNN-Mamba 编码器-解码器，用于跨采集类型的胎儿头部分割，仅在两个最高分辨率阶段应用四方向状态空间扫描，并在测试时平均域特定通道门控。
arXiv cs.AIAI 评分2929 HaloBlock：为扩散大语言模型带来更快更好的解码
HaloBlock 是一种面向扩散大语言模型（dLLM）推理的难度感知自适应 halo 机制，通过双向累积熵刻画块解码难度，并在每个块两侧自适应分配双向 halo 区域以缓解边界上下文不连续。在 LLaDA-8B-Instruct、Dream-7B-Instruct 和 LLaDA-1.5 上针对数学推理与代码生成基准的评测显示，HaloBlock 在准确率与推理效率上均有一致提升，源代码已公开。
arXiv cs.AIAI 评分3434 AI 增强高光谱成像用于低级别胶质瘤术中检测的临床研究
一项临床研究用 AI 增强高光谱成像（HSI）在术中检测低级别胶质瘤，3D CNN 结合光谱与空间特征取得最高中位 ROC-AUC 74.5%，高于纯光谱 XGBoost 的 67.9% 和基于 RGB 的 64.0%。研究在匹配组织位置和相同患者级数据划分下对比 HSI 与 RGB 分类，发现肿瘤区域反射率持续偏低，可能与血红蛋白浓度和氧合差异有关。
arXiv cs.AIAI 评分2626 MERIT：面向图像表格的多模态证据推理框架
MERIT 是一个面向表格图像的三阶段推理框架，将序列化表格作为可选辅助输入，通过表格专用编码器适配、监督微调和强化学习实现证据选择与推理。该框架用重构、定位和颜色条件监督适配编码器，并以证据正确性、计算、最终答案和输出格式分别设置奖励，针对最终答案监督无法区分的检索与计算错误提供中间步骤反馈。研究在表格问答和事实验证任务上评估了该方法，并分析了视觉输入与各训练组件的贡献及跨数据集泛化能力。
arXiv cs.AIAI 评分2222 GLST：面向在线链式目标导航的全局-局部时空记忆分解框架
针对目标在执行中动态变化、且无显式切换信号的在线链式目标导航，研究者提出记忆分解框架 GLST，将潜在信念拆分为全局-局部空间与长-短时序表示以支持长时程推理，并引入目标条件奖励平衡探索与利用。仿真实验在多种地形上优于基线，Spot 四足机器人真机实验进一步验证了该框架。论文已被 CoRL 2026 接收。
arXiv cs.AIAI 评分2222 CineMem：面向多镜头长视频生成的注意力对齐细粒度记忆检索
CineMem 是一个面向自回归多镜头视频生成的注意力对齐细粒度记忆检索框架，结合在线记忆组织与查询自适应检索。它提出在线聚簇 KV cache 作为记忆组织策略，并引入查询级检索机制，在固定检索预算下扩大历史信息访问、提升长期记忆利用率。该框架还配套一套 VLM 辅助的镜头间一致性评估指标，实验验证了其有效性。
arXiv cs.AIAI 评分2222 LinMorph：为高效 Video DiT 线性化学习权重变形
LinMorph 将 Video DiT 线性化重构为可学习的 softmax-to-linear 权重变换问题，让每个目标 Gated DeltaNet（GDN）参数从预训练的 query、key、value 和 output 投影中联合抽取，而非复制预设对应权重。
arXiv cs.AIAI 评分3232 SpecCloak：用工程规格模板探测 LLM 有害代码生成
研究者提出 PseudoSpec 模板，将功能需求组织为工程规格，发现规格化提示词能大幅降低五个开源权重模型对恶意代码生成的拒绝率，即使保留风险关键词。基于此构建的黑盒红队框架 SpecCloak 在 RedCode-Gen 上对八个目标模型实现平均 28.91% 的执行验证攻击成功率，防御原型 SpecReveal 在提示检测评估中达到 96.88% 的攻击检测率。
arXiv cs.AIAI 评分2424 DriveWLA：用世界-语言-动作模型统一自动驾驶的未来动态与场景语义
DriveWLA 是一个基于 Mixture-of-Transformers（MoT）的世界-语言-动作模型，通过 World、Language、Action 三个专家分别负责未来预测、语义理解与轨迹生成，并引入 Cross-Expert Attention 对齐语义与动态表示。
arXiv cs.AIAI 评分2626 视觉依赖不等于可回答性：冻结 InstructBLIP 中可回答性信号的系统分析
研究在 UNK-VQA 的 10K 分层子集上系统评估冻结 InstructBLIP 的可回答性信号，涵盖预测不确定性、跨模态对齐、视觉定位、视觉依赖、内部表示与学习探针，测试 AUROC 大多仅 0.50-0.54。
arXiv cs.AIAI 评分2020 SHAP 作为 SAE 特征归因方法的因果忠实性评估
研究将 SHAP 归因应用于 SAE 潜在特征，并以 GPT-2 Small 在 SST-2 情感分类上的直接因果干预为基准进行检验。多数忠实性关联未通过多重比较校正，且相互高度一致的归因方法（ρ=0.42–0.80）与实测因果效应吻合度差。在已知真值的最小对中，归因能较好识别插入的情感信号（AUROC 0.792），却难以定位删除（AUROC 0.520）。
arXiv cs.AIAI 评分4444 Interaction-as-a-Judge：用计算机使用智能体交互评估交互式应用
研究提出 Interaction-as-a-Judge 评估范式，让 computer-use agents（CUAs）直接与应用交互，以弥补现有 LLM 评估只看代码分析和单元测试的不足。
arXiv cs.AIAI 评分2222 跨语言迁移 evil 向量存在方向不对称性
一项针对四个开源指令微调 LLM 的研究发现，evil persona 向量的跨语言迁移存在方向不对称性：从英语、西班牙语等高资源语言提取的向量能有效迁移到斯瓦希里语、泰卢固语等低资源输入并基本保持 MMLU 表现，而从低资源语言提取的向量难以可靠获得、即便在同语言内也几乎无法有效引导行为。几何分析显示，两种高资源语言的 evil 向量高度对齐，低资源向量仅与该共享方向弱对齐。
arXiv cs.AIAI 评分3030 RT-J：面向上下文高效预测的关系型 Transformer 大规模预训练
研究团队推出 85M 参数的关系型基础模型 RT-J，仅需数百个甚至更少的上下文示例即可做出准确预测。该模型基于 639 个网页抓取数据库、6,023 个 LLM 生成预测任务构建的 Join 数据集预训练，支持最长 8,192 个数据库单元格的上下文，并采用随机游走检索器、上下文调优与集成扩展测试时计算。
arXiv cs.AIAI 评分2020 TStruct：为长期时间序列预测学习共享时间结构
针对长期时间序列预测中噪声与非平稳性导致模型易拟合偶然时序交互的问题，研究者提出 Temporal Structure Network（TStruct），通过直接参数化一组共享时间依赖矩阵，并利用动态样本信息与静态变量先验生成归一化组合权重，实现共享结构约束下的自适应时间依赖建模。该结构感知设计在所有数据集上均优于多个强基线，同时保持较高计算效率，论文已被 NeurIPS 2026 主赛道接收。
arXiv cs.AIAI 评分2626 MMTA：用时间序列、文本与视觉评测多模态时序分析
研究者提出 MMTA 基准，用时间序列、文本与视觉三模态任务评测多模态大模型，覆盖机器人、自动驾驶、医疗、金融等九个领域，含 3,524 条测试样本，涵盖分类与预测。
arXiv cs.AIAI 评分1818 FASHION-RQ：挖掘层级语义结构实现时尚检索的自动化评测
FASHION-RQ 利用 RQ-VAE 学到的层级离散表示，从商品目录结构中自动生成用户查询与相关性集合，无需人工标注或预定义分类体系，并据此构建可扩展基准 FASHION-RQBENCH。
arXiv cs.AIAI 评分3838 ProtoArena：AI 智能体能发现并利用真实世界的跨组件协议漏洞吗？
研究团队推出 ProtoArena，一个黑盒、多组件动态基准，包含 80 个跨组件漏洞利用环境，覆盖 11 个协议与应用领域、7 类攻击。在评估的 5 个 LLM 中，Claude Opus 4.8 成功率最高：L1 引导下 48.8%，效果导向的黑盒 L3 下仅 12.5%。在 DNSBomb 优化实验中，其峰值下行响应与平均查询输入字节率之比超过 171,000 倍。
arXiv cs.AIAI 评分1212 量子振幅嵌入中的数据重上传教程：每次上传如何将可达多项式阶数提高两阶
这篇教程解释了数据重上传为振幅嵌入量子模型带来的增益：每次上传可将可达多项式阶数提高两阶。在单一可训练电路族和相同可训练参数预算下，重上传将四阶目标的测试决定系数从 0.689 提升至 0.883–0.975，六阶目标从 0.337 提升至 0.642–0.783，十组随机种子均成立。但在二次目标和手写数字任务上，一次上传仍是最佳选择，且每次额外上传都会降低分类器可容忍的门误差。
arXiv cs.AIAI 评分2424 Agentic-MatriBO：面向材料与化学设计的 capability-compiled 智能体贝叶斯优化框架
研究者提出 Agentic-MatriBO，一个将贝叶斯优化组件与选择条件表示为可组合能力的智能体 BO 框架，由语言策略提出 BO 配方与候选方案、编译器对照能力目录校验、确定性执行层验证并提交候选。
arXiv cs.AIAI 评分3131 Diff Diffusion：用扩散模型预测编辑路径实现高效代码编辑
Diff Diffusion 是一个受扩散模型启发的 LLM 框架，将去噪过程表示为结构化编辑操作，从原始代码片段预测到修改后形式的编辑路径，从而把计算集中在改动区域。
arXiv cs.AIAI 评分2525 QK-Edit：重新审视 MM-DiT 中基于注意力的图像与视频编辑注入方法
QK-Edit 是一个无需训练的框架，通过新的 query-key 操控策略利用 MM-DiT 的多模态自注意力动态，实现文本引导的图像与视频编辑。该方法支持物体添加、移除、替换、背景/材质/颜色更改和风格转换等任务，并可通过推理时的特征替换实现。在 FLUX 和 HunyuanVideo 等模型上，QK-Edit 展现出更优的编辑性能，该工作已被 ICCV 2025 接收。
arXiv cs.AIAI 评分3232 RLVR 验证器噪声与鲁棒性综述：58 项研究揭示错误结构比错误率更关键
一篇综述梳理了 58 项测量、分析或缓解 RLVR 验证器错误的研究，发现错误的结构比错误率更重要：随机错误主要拖慢学习，而在固定预算或 KL 正则下也会降低最终准确率；策略能学会触发的假阳性则可能导致训练停滞甚至崩溃，即便初始错误率很低。验证器是错误拒绝还是错误接受，取决于它检查什么、由谁构建，而非其所属家族，且其错误会随策略改进而漂移，多数缓解方法仅针对单一错误类型测试过。
arXiv cs.AIAI 评分3535 Jev、LLM 评审与专用安全分类器的首次受控对抗对比：同一攻击，不同裁判
研究首次对 TypeSafe AI 的 Jev 做受控对抗评测，用同一 payload、同一策略在四类任务上对比 Jev、五个 GPT 与 GLM 评审及 Llama Guard 3、Prompt Guard 2。
arXiv cs.AIAI 评分2727 FracLearn：让语言模型通过物理经验学习设计
FracLearn 框架让语言模型在受 Tetris 启发的断裂游戏中通过模拟断裂响应积累经验，抽象出钢筋布置、裂纹演化与载荷传递的条件性原理，再在新架构中组合这些原理以超越此前设计记录，最佳综合得分比经验阶段记录高 11.0%。断裂分析显示性能提升源于裂纹偏转与暂时捕获等增韧机制及更高的残余承载能力。学习通过外部知识与决策完成，无需更新模型权重。
arXiv cs.AIAI 评分2424 GIFT-Eval-CTX：面向上下文预测模型评测的基准
研究者推出 GIFT-Eval-CTX 基准，用于检验预测方法能否把已验证的未来信息转化为准确的数值轨迹。该基准基于 GIFT-Eval 构建，覆盖 20 个数据集、10,000 个实例，每个实例提供由 LLM 发现与确定性代码校验的智能体流水线生成的 Macro 与 Micro 结构化效应。
arXiv cs.AIAI 评分2121 PA-BFM：面向分布式 Critic 的后验平均 Bellman 流匹配
针对流式 Critic 依赖含噪单端点 Bellman 监督的问题，研究者提出后验平均 Bellman 流匹配（PA-BFM），通过采样端点池并推断潜在锚点的闭式后验，回归后验均值速度。
arXiv cs.AIAI 评分2727 RPO：通过根 token 策略优化让大推理模型自适应思考
研究提出 RPO（Root-token Policy Optimization），通过组相对奖励和组内优势仅训练初始根 token（如是否调用思考标签），让大推理模型自行决定何时推理。该方法在多个模型族和规模上实现难度感知的自适应思考，训练算力仅为先前自适应推理方法的约 2%，并大幅降低显存占用。该工作已被 ACL 2026 接收为 Oral。
arXiv cs.AIAI 评分1818 面向 AI 系统优化的高斯过程 Bandit：选择性验证反馈方法
研究针对高斯过程 Bandit 优化提示词、检索系统和智能体工作流时，廉价模型评估与可信任务结果不一致的问题，提出选择性验证框架：动作先于诊断观测选定，可信反馈仅在未知诊断状态集上有效。
arXiv cs.AIAI 评分3131 LLM 多智能体协调的自由度：集中式与去中心化之间
研究提出 Degrees of Freedom（DoF）连续配置框架，量化下放给下游智能体的决策空间大小，其两端分别对应集中式与去中心化两种协调模式。在六个评估状态中的五个里，中间 DoF 配置的平均准确率高于两个端点，且不同任务领域偏好不同的 DoF 配置。域内保留经验可让两种分支的表现更接近。
arXiv cs.AIAI 评分2727 I3L：面向全身移动操作迭代交互式模仿学习系统
针对离线示教策略在长时程全身移动操作中因复合误差而失效的问题，研究者提出 I3L 软硬件一体化系统，通过低成本开源 JoyLo+ 接口实现全身协同纠错与迭代策略精炼。
arXiv cs.AIAI 评分2626 审计失败归因：标签可预测性与评判模型行为
针对失败归因基准中 LLM 评判模型可能依赖表面线索而非跨步骤核查的问题，研究者提出输入限制、线索跟随、残差准确率和聚合四项测试。在三个基准上，简单预测器即可匹敌或超越 GPT-4.1；在 Who&When Pro 系统中，仅读取单步推理的分类器能找出 95-100% 的故障步骤，而注入错误后微调评判模型虽领先 GPT-4.1 达 41 分，但加入任务推理后骤降 31-99 分。
arXiv cs.AIAI 评分2222 HiSTOR：面向高维纵向数据的结构化治疗-结局表征学习框架
研究者提出 HiSTOR，一个将非线性降维与纵向反事实预测整合的端到端框架，通过按治疗分配与结局的共享及差异关系，学习当前患者状态与演化历史的结构化低维表征。在 CVSim 和 CancerSim 上，HiSTOR 在不同协变量维度、混杂强度和预测时间跨度下均优于现有方法，并支持指定治疗序列下的单步与多步结局预测。
arXiv cs.AIAI 评分2424 用 Fenchel-Bregman 后验学习提升多样本推理：FBI 方法
研究者提出有限 K 后验学习，训练求解器参数分布以降低 K 个独立候选全部失败的概率，并给出 Fenchel-Bregman（FB）方法，每次更新只需一次后验采样，而非直接蒙特卡洛所需的 K 次。FB 结合高斯后验变分优化器 IVON 得到 FBI，在多种递归与自回归推理任务上提升候选覆盖率，并以直接蒙特卡洛基线 12.3% 的实测单次更新训练时间达到相当的 Pass@10。
arXiv cs.AIAI 评分2727 LEAF：用上下文记忆与自蒸馏提升 LLM 推理的探索效率
LEAF 通过在每次 rollout 前向上下文注入动态的问题专属记忆（含最近一次回答、奖励及环境反馈），并在每次验证后更新，从而将策略更新与 rollout 解耦、以自蒸馏方式更新策略。在四个 benchmark 和两个开源模型上，其探索速度约为随机采样基线的 4 倍，在未见测试集上准确率较最强基线分别提升 1.59 和 1.83 个百分点，且算力消耗低于所有 RL 基线。
arXiv cs.AIAI 评分2424 CoCA：面向评分标准强化学习的标准感知信用分配
针对评分标准强化学习将标准级反馈压缩为标量奖励、token 优势分配均一的问题，研究者提出 CoCA，把评分标准信息作为信用分配的相关性线索，从组内相对结果推导标准级信用，并依据标准引起的分布偏移将其分配到各 token。在医学与科学基准上，CoCA 相比标准评分标准强化学习平均提升 +4.2%。
arXiv cs.AIAI 评分2525 TSRL：基于触发的监督强化学习实现智能体持续训练
研究者提出 TSRL（Trigger-based Supervised Reinforcement Learning），以 RL 为优化主干，仅在策略失败的"hard states"上选择性激活 SFT，理论上可限制累积参数更新上界以减少遗忘。
arXiv cs.AIAI 评分2929 SCRIM：为模仿学习量化状态关键性
研究者提出 SCRIM（State CRIticality Measure），通过训练对抗扰动策略与价值评论器，为每个演示状态打出关键性分数，衡量该状态下小幅动作偏差对任务结果的影响。这些分数可用于重加权行为克隆损失，并筛选紧凑高价值演示子集，在保持性能的同时大幅减少训练数据。SCRIM 在多种仿真与真实机器人操作任务上验证，论文已被 CoRL 2026 接收。
arXiv cs.AIAI 评分2222 EGVCA：面向大型视觉语言模型的免训练幻觉缓解框架
研究者提出免训练框架 EGVCA（Evidence-Guided Visual Claim Admission），通过对比图像输入与视觉空输入下的语义主张似然，仅在主张获得足够图像相关支持时才予以采纳。