当查询计划改变答案：语义查询的成本-精度优化形式化
针对语义查询引擎中查询计划同时影响成本与结果的问题，研究者给出了成本-精度优化的形式化问题定义，基于决策模型（如 Jev）的校准置信度计算每个决策的期望误差，并按其对输出的贡献加权，从而无需标注数据即可估计计划的期望输出质量。
#推理
arXiv cs.AIAI 评分2222 arXiv cs.AIAI 评分3737 VisionWeave：将弹性视觉表征编织为 MLLM 的原生能力
研究团队提出 VisionWeave，通过门控空间池化器与粒度路由器，让 MLLM 端到端学习按内容自适应分配视觉表征粒度。基于 Qwen3.8-27B，该方法在八个基准上平均节省 43.0% token 并保留 98.9% 原生性能，而固定 50% 节省目标的 token 剪枝基线仅保留 88%。
arXiv cs.AIAI 评分3232 PixelTriage：让多模态助手在打开图片前先决定哪些检索记忆值得用像素
PixelTriage 是一个置于检索之后的小模型插件，不生成文本，只读取对话、简短笔记和每张检索记忆的缩略图，预测其像素能带来多少增益。
arXiv cs.AIAI 评分2424 Hybrid Latent Attention：面向循环语言模型的高效注意力机制
针对循环语言模型 KV cache 随循环次数 T 倍增的问题，研究者提出 Hybrid Latent Attention（HLA），在滑动窗口 W 内保留精确 key/value，窗口外旧 token 压缩为 latent 供各次循环的 query 直接读取。
arXiv cs.AIAI 评分2222 VAN-Flow：面向稀疏长时程环境的方差规避 n 步离线强化学习
研究者提出 VAN-Flow（Variance-Averse n-step Flow），一种面向生成式离线强化学习的框架，通过类别分布式 critic、方差规避期望算子与拒绝采样引导的流匹配生成 actor，在 D4RL 和 OGBench 的 40 多个任务上持续优于强基线，在长时程、高方差场景中提升最大。该工作已被 NeurIPS 2026 接收。
arXiv cs.AIAI 评分4343 ReFold：面向长程智能体的免训练可逆轮间上下文折叠
ReFold 是一种免训练的渲染层方法，通过将早前轮次已展示的内容替换为占位符、把智能体自报完成的轮次折叠为一行注释，压缩模型渲染上下文而不改动底层交互历史，且每次移除均可严格还原。
arXiv cs.AIAI 评分2424 赋能几何：将 empowerment 最大化与技能学习关联的新几何框架
研究将 empowerment 最大化与技能学习方法相关联，为解释和分析 empowerment 提供了新的几何视角，并回答了其与结构中心性之间长期存在的开放问题。分析还揭示了信息几何与奖励几何之间的差异，为构建可扩展的 empowerment 最大化方法提供了理论启示。
arXiv cs.AIAI 评分2626 越晚越好：分布偏移下 ViT 的 token 削减调度
研究提出一种单参数、后期集中的幂律 token 削减调度，在分布偏移下比均匀调度更稳。在 ImageNet-C 上用 DeiT-S，该调度以 26% 计算削减弥补了 83% 的精度差距（+1.17pp），在 7% 削减下弥补 99%（+0.26pp）。增益在 ToMe、EViT、ATS、ATC、PiToMe 五种方法与九种骨干上均成立，且无需逐输入或逐域调参。
arXiv cs.AIAI 评分2727 Cleave：通过解耦代数搜索与算子调度扩展张量程序优化
机器学习编译器 Cleave 通过符号化解耦，在符号形状计算图上做超优化发现变换，再对具体形状调度，生成的 kernel 比最优基线快最高 2.8 倍（平均 1.6 倍），编译时间比 Mirage 平均减少 5.9 倍。在生产服务动态负载上，Cleave 对每个算子仅编译一次，相对 FlashInfer 手写 FA2 和 FA3 后端分别取得 1.4 倍和 1.7 倍的几何平均加速。代码已开源。
arXiv cs.AIAI 评分2929 SanSi：面向 System 1.5 思维的循环类型化决策模型
SanSi 将预训练循环语言模型改造为类型化决策模型，每次循环后读取选项概率并用 proper scoring rule 训练，单次运行即可覆盖 1 到 8 次循环的任意预算。
arXiv cs.AIAI 评分2222 Transformer 的精确解体积与长度泛化研究
研究者提出归一化精确解体积（NESV）指标，衡量固定宽度单层 Transformer 在长度 n 输入上取得精确解的参数区域占比，并给出 FIRST（Θ(1)）、MAJORITY（Θ(1/(n log n))）、INDEX（Θ(1/n³)）和 PARITY（0）四个任务的渐近界。
arXiv cs.AIAI 评分2222 LORE-KV：用蒙特卡洛估计做 KV Cache 驱逐
研究者提出免训练的 KV cache 驱逐方法 LORE-KV，通过从冻结目标模型采样短自回归续写、用其响应侧 query 状态估计 prompt token 效用，把固定预算的未来感知驱逐建模为对模型条件查询轨迹的分布估计。
arXiv cs.AIAI 评分4141 无状态语言智能体 SLA：面向长周期自动化研究的扩展框架
研究者提出无状态语言智能体（SLA），核心是"有状态搜索 + 无状态智能体"：智能体不在多次调用间携带对话历史，由 harness 持有研究状态并为每次调用重建角色专属上下文。
arXiv cs.AIAI 评分2424 为世界模型建模潜在扰动以实现鲁棒决策
研究提出将潜在空间扰动建模为对世界模型学习到的潜在动力学的扰动，通过动力学感知相似度度量与分布外检测构建合理潜在动力学集合，并用共形预测校准不确定性集，再以博弈论优化联合求解鲁棒动作与最坏情况潜在扰动。在 Franka 机械臂硬件实验中，该方法使安全过滤失败率降低 70%、基于采样的策略引导失败率降低 54%。
arXiv cs.AIAI 评分4040 Recurrent Looped Transformer：用循环反馈让计算路径随序列长度增长
研究者提出 Recurrent Looped Transformer（RLT），将层拆分为并行因果编码器与循环解码器，解码器每步融合编码器输出与上一 token 的最终解码状态，使计算路径随序列长度增长而单 token 成本固定。
arXiv cs.AIAI 评分2222 GFlowNets 混合模型学习：SC GFlowNets 实现并行训练加速收敛
研究者提出描述 GFlowNets 混合的通用理论框架，将其分为连续索引（CI）和离散索引（DI）两类。CI GFlowNets 可通过随机特征展开解释，提升图结构任务采样器的表达能力并降低学习不稳定性；DI GFlowNets 涵盖此前训练方法，并衍生出受 Doob h-transform 启发的 Stratum-Conditioned（SC）GFlowNets。
arXiv cs.AIAI 评分2222 LADE：从暗知识中提取模型无关的潜在安全信号以防护 LLM
研究者提出 LADE（Latent Safety Signals for Defense），通过对比有害与良性查询，从首个 token 输出概率分布的暗知识中提取潜在安全信号，并借助 Tokenizer Mapping 与 kNN 判别实现跨模型防护。该方法在多种 LLM 和基准上能抵御多种越狱攻击、降低攻击成功率，同时保持安全与效用的平衡，且不依赖特定模型架构。
arXiv cs.AIAI 评分2222 用 LLM 推导的协方差做相关 Thompson 采样：组合半臂老虎机中的结构与信念
研究者提出一种组合 Thompson 采样（CTS）的最小改动：用 LLM 查询一次臂的分区，经 RBF 核在簇排名上转成正定相关矩阵 Σ，每轮后验样本按 Σ 采样，而 Beta 后验仍只用真实奖励更新，让 LLM 影响采样器的移动方式而非其信念。
arXiv cs.AIAI 评分2323 AlignQuant：面向高效 LLM 生成的 Tile 对齐混合精度量化
AlignQuant 是一种训练后量化方法，以 GPU 兼容的二维权重 tile 作为精度分配、紧凑存储与执行的统一单元，让精度在输出通道内跟随敏感度变化。该方法在 3B 至 14B 参数的四款 LLM 上实现最高 2.50 倍于 BF16 的生成加速并保持模型质量，评测覆盖三种 GPU 与最高 64K tokens 上下文。
arXiv cs.AIAI 评分2424 RELACE：面向长程语言智能体的基于回顾似然的动作信用估计
RELACE 是一个无需 critic 的框架，通过教师强制似然评分对比动作在原始上下文与结果增强上下文下的可能性，得到轨迹归一化的回顾因子，用于重加权折扣回报并构建局部优势。
arXiv cs.AIAI 评分3030 Apple 提出 Stepped MoE：段级路由实现可配置推理复杂度
Apple 提出 Stepped MoE 框架，将弹性结构与稀疏门控架构结合，让单一模型可在 1、2、3、4 billion 参数间灵活切换。该模型在知识密集型基准上比稠密版本准确率高 2-5%，延迟与稠密模型相当，并通过共享参数节省设备磁盘空间，适配边缘推理的 DRAM 与算力限制。
arXiv cs.AIAI 评分3333 SAG：面向长时程决策的成本感知 LLM 智能体选择性批评框架
研究者提出 SAG（Self-improving Agent with Gated critique），一种成本感知框架，将批评调用建模为长时程交互中的逐步决策问题，通过全局熵和局部 top-2 margin 等动作级歧义信号实现免训练门控，近似批评的信息价值（VoI）。
arXiv cs.AIAI 评分2222 FlexiFlow：基于多臂老虎机的 ML 工作流模型动态切换
FlexiFlow 是一个数据流系统，能在当前模型准确率偏低时动态切换到备选模型，实验显示切换模型可将工作流准确率提升最高 23%。该系统用多臂老虎机方法对模型排序，综合考虑模型运行时间、通过用户自定义断言的概率以及工作流计算结构，并指出标准 Thompson 采样不足以胜任这一任务。运行时切换模型并复用中间结果，相比顺序执行工作流不仅准确率更高，还带来 48% 的效率提升。
arXiv cs.AIAI 评分2222 最小见证强化学习 MWRL：让模型从验证器反馈中学会完整见证族
研究者提出最小见证强化学习（MWRL），将"找出产生结果的全部最小充分条件"形式化为最小见证识别问题。MWRL 对策略采样出的成功提案取集合并集，并按每个提案对并集覆盖的边际贡献分配信用，由此从单一黑盒验证器的 1 bit 反馈中同时满足最小性与多解恢复。
arXiv cs.AIAI 评分2424 能否预测 LLM 评审的位置翻转？基于残差流激活的线性探针研究
研究发现，LLM 评审在候选回答顺序调换后可能改变判定，而初始判定前的残差流激活可预测这种位置翻转。在 JudgeBench 的 534 对样本上，针对三个 Qwen3 评审和 Llama-3.1-8B 的线性探针 AUROC 达 .621-.850，比融合语言化置信度、判定标签 logits、回答长度和初始选择的基线高 .062-.113。
arXiv cs.AIAI 评分2929 SchemaFill：通过槽位并行推测解码实现高效 LLM 工具调用
SchemaFill 是一个通过槽位并行推测解码实现高效 LLM 工具调用的框架，可并发生成未来槽位值作为候选，无需预先知道实际调用序列或参数值，候选经目标模型在实际输出前缀下验证后才提交。在 Glaive 和 BFCL 上，SchemaFill 相比自回归解码端到端吞吐量最高提升 4.05 倍。
arXiv cs.AIAI 评分2424 TRIAGE：面向原生 NVFP4 强化学习的方向感知失配稳定方法
TRIAGE 是一种方向感知的稳定方法，通过段级诊断选择性再平衡策略梯度更新，并对残余严重失配做有界修复，同时保留采样器与学习器上的原生 NVFP4 W4A4 前向执行。在 Qwen3-4B 和 Qwen3-30B-A3B 上，该方法在整个训练周期内保持优化稳定，在五个数学推理基准上达到全精度水平，rollout 吞吐量较 BF16 最高提升 2.3 倍。
arXiv cs.CLAI 评分2828 推理模型自我进化为何崩溃？R-Quest 用问题有效性与新颖性反馈维持十轮稳定提升
针对自我进化推理模型多轮自训练后性能崩溃的问题，研究者提出 R-Quest，用问题有效性与新颖性反馈引导进化：先训练求解器识别并拒绝无效问题，再以其判断引导出题方奖励并过滤训练数据，同时用冻结基座模型比较问题对以提供新颖性反馈。该方法在数学推理、通用推理和代码生成共 12 个基准上取得最高平均性能，十轮自我进化中性能持续上升并在末轮达到峰值，超过 R-Zero 17.32 分。
arXiv cs.AIAI 评分1919 AdvWave-P 音频越狱在 Qwen2-Audio 上的频率与解码深度审计
研究对 Qwen2-Audio 上的加性音频越狱方法 AdvWave-P 的频率与解码深度主张进行审计，在 520 条 AdvBench 提示上主评判器将 76.7% 的对抗输入标记为越狱。
arXiv cs.AIAI 评分2424 MaskAhead：块扩散语言模型中的掩码引导 KV Cache 淘汰方法
针对块扩散语言模型生成时 KV cache 占用大、速度慢的问题，研究者提出免训练方法 MaskAhead，用单一掩码查询排序机制同时完成当前块的 KV 选择与未来块的淘汰。
arXiv cs.CLAI 评分2424 SeOPD：通过自生成 CoT 在线策略蒸馏实现自我进化的 LLM
研究者提出 SeOPD，让 LLM 无需外部特权信息即可自我提升：先用深度思考模式生成 CoT，再用非思考模式生成回答，并将 CoT 作为特权信息对回答做 token 级监督，使推理中产生的新信息内化到共享模型参数中。实验表明该方法同时提升了非思考与深度思考能力。
arXiv cs.CLAI 评分2929 Self-Indexing Attention：压缩兼容的稀疏长上下文 LLM 推理
研究者提出 Self-Indexing Attention，一个无需训练的稀疏长上下文推理框架，基于共享的变换域符号-幅值表示，用 1-bit 索引同时支持分组 prefill 选择和 decode 检索。
arXiv cs.CLAI 评分2424 研究揭示 LLM 不道德顺从机制：良性任务框架 token 掩盖了不道德线索 token
研究通过三种结构化方式向 LLM 呈现不道德场景，发现模型在"请求帮助"形式下表现最差。利用 Layer-wise Relevance Propagation（LRP）追踪发现。
arXiv cs.AIAI 评分2424 冻结语言模型技能注入新方法：低秩激活引导的决策算子
研究者提出一种通过行为克隆训练的 System-1 决策算子，默认版本仅用 330K 参数即匹配 1.33M 参数的强化学习算子，并将 3,685-token 的推理压缩为 6-token 决策且不损失准确率。
arXiv cs.AIAI 评分2727 AttSVD：基于注意力引导 SVD 的提示词自适应低秩 KV Cache 压缩
AttSVD 是一种免训练的低秩 KV Cache 压缩方法，通过对每个提示词做在线截断 SVD，只保留注意力实际读取的方向，按保留秩成比例降低每头 KV 常驻内存。
arXiv cs.AIAI 评分2424 Transformer 拒答机制中的组件与维度稀疏性
研究将拒答激活引导分解为组件级干预，在四个开源权重模型中发现拒答方向集中在仅占上游组件 28–48% 的稀疏子集，仍保留 88–101% 的引导效果。在这些机制内部，有效引导进一步集中于约 50% 的残差流维度，保留组件机制基线的 85–98%。结果表明拒答并非弥散编码，而是由结构化、可识别的机制组装而成，代码与原始实验结果已公开。
arXiv cs.AIAI 评分2222 对齐中线性奖励的公理可满足性
针对线性社会选择中最小化非递减凸损失（含 BTL）拟合奖励无法满足 PO 与 PMC 的问题，研究者放松线性模型允许逐候选松弛，求出满足公理且带 margin η 的最小总松弛量线性奖励，并将最优总松弛量上界限定为 O(1)（当 η 不超过 O(1/m²)、m 为候选数时），且证明该速率紧致。
arXiv cs.CLAI 评分2222 走快点但要小心：理解掩码扩散模型中的并行采样
研究以图上随机游走为可验证沙盒，分析掩码扩散模型（MDM）的并行采样策略，理论证明基于最低熵等常用评分的并行解掩码并不总优于随机并行采样，其表现取决于图结构诱导的条件依赖结构。
arXiv cs.AIAI 评分2222 DLR-NE：面向 APT 与移动目标防御随机博弈的动态低秩均衡计算
针对工业控制系统中 APT 与移动目标防御的零和随机博弈，研究者提出动态低秩 Nash 均衡算法 DLR-NE，证明其每步计算成本为 O(nr^2)，相比全秩值迭代实现 Theta(n/r^2) 加速。该方法利用攻防影响矩阵的内在低秩结构，并给出核心矩阵扰动下防御策略的认证敏感度界。在非线性电力系统测试平台上，六组实验实现 94% 参数压缩，效用损失仅 2.3%，代码与数据已公开。
arXiv cs.AIAI 评分1717 学习何时精修：面向预算受限神经算子 PDE 求解器的长时程强化学习
研究提出预算受限的自适应神经算子求解框架，用全局 Fourier 神经算子推进全场、局部算子提出分块残差修正、集合感知选择器决定修正位置，并由宏观策略决定何时花费剩余预算。