SpecFit：卸载式 MoE 推理中并非所有草稿 token 代价相同
SpecFit 通过选择预测吞吐量最高的已验证草稿子树，而非追求最长接受长度，来优化卸载式 MoE 推理中的推测解码。该方法用草稿路径概率估算提交 token 数，并根据子树激活专家的逐层并集预测周期时间，该并集为单调子模覆盖函数。
#推理
arXiv cs.AIAI 评分2323 arXiv cs.CLAI 评分3737 LALM 后训练究竟学到了什么？重新审视音频理解与推理能力
针对大型音频语言模型（LALM）后训练带来的性能提升，受控实验发现这些提升大多并非来自音频理解与推理能力的真实进步：即使没有有效音频信息，提升依然存在，而一旦更换问题格式，提升便基本消失。这表明后训练更多是让模型利用任务特定的文本线索和答题模式，而非习得可泛化的音频理解与推理能力。
arXiv cs.AIAI 评分1212 用 InputDSA 分析基于 WSBM 的 Echo State Networks 动力学
该研究用 Weighted Stochastic Block Model（WSBM）替换 Echo State Networks（ESN）中的随机网络，构建反映潜在功能子回路的储备池，并引入 Input Dynamical Similarity Analysis（InputDSA）分离结构先验对内在循环动力学与外部输入的影响。
arXiv cs.CLAI 评分2424 ActICL：面向智能体式多模态上下文学习的后训练方法
ActICL 通过两阶段后训练让 MLLM 智能体以工具增强推理自主获取 ICL 上下文，在七个基准和三个 MLLM 上平均性能比标准相似度检索提升 11.6 个百分点，比最强先前基线高 4.4 个百分点。其获取的上下文也可供前沿模型使用，GPT-5.6-Sol 进行 4-shot ICL 时性能比标准检索提升 3.5 个百分点。
arXiv cs.AIAI 评分4141 少比特多尝试：内存受限下如何恢复模型能力
在内存受限的本地部署场景下，用较小或压缩后的模型并行生成多个候选答案、再借助公开或模型自生成的测试筛选，可恢复因模型规模或压缩损失的大部分准确率。7B Qwen 模型八次并行尝试在 MBPP+ 上基本追平 32B 模型，在另外三个代码生成基准上超过它，同时模型内存占用约少 4 倍、速度最高快 6 倍、能耗更低（基于 Nvidia GPU 实测）。
arXiv cs.CLAI 评分2929 竞争性伦理框架的引导向量可互换：激活引导的竞争目标测试
研究者提出"竞争目标测试"，用于检验激活引导向量是否真正控制目标行为。在开放权重模型上，康德义务论与行为功利主义的引导向量在留出情境中使两个框架得分同向变化，且差异未达有效边界，说明二者共享了大部分方向——即"应用某种框架"的通用请求。相比之下，乐观与悲观语气的向量共享方向要少得多。
arXiv cs.AIAI 评分2323 CHEAR：面向低成本人类活动识别的混淆层级证据感知推理
针对 LLM 结合 RAG 做可穿戴传感器人类活动识别时在线推理候选与知识开销随活动词表增长的问题，研究者提出 CHEAR，将知识组织部分转移到离线：从跨受试者反复出现的检索错误中构建并验证活动层级，并建立活动对知识。
arXiv cs.AIAI 评分2424 RECAP：在推理模型读过的历史上下文上校准低比特量化
针对低比特量化会损害推理模型长链思维的问题，研究者提出训练后量化方法 RECAP，通过动态前缀校准和前缀读取几何，在模型实际读取的历史上下文上校准量化误差。在 W4A4KV4 设置下，RECAP 使 DeepSeek-R1-Distill-Qwen-1.5B 在 MATH500 上准确率较基线提升 13.3 个百分点，Qwen3-4B 在 AIME-120 上提升 15.8 个百分点。
arXiv cs.CLAI 评分2929 MA-Bench：衡量语言模型的任务规划能力
研究者推出 MA-Bench，基于军事作战规划第一步"任务分析"构建，包含 10 个专家场景、10 至 12 份文档和 1,257 条专家编写的通过/失败要求。在二十个前沿与开放权重模型中，最佳模型仅答对 62% 的评分项，文档中明述事实正确率 58%，需推断的判断仅 33%，六成失败属于遗漏而非错误。
arXiv cs.CLAI 评分2929 LayerTrim：通过注意力保留的 MLP 裁剪解锁推理语言模型的结构化剪枝
LayerTrim 是一种免训练的结构化剪枝方法，通过识别冗余解码层并选择性裁剪其 MLP 特征，同时保留注意力和解码深度，在不使用梯度或恢复训练的情况下维持长文本推理能力。
arXiv cs.AIAI 评分2222 统一 VLM 内部机制解析：从注意力探测到 HeadTuned-CFG 引导调优
研究通过探测注意力头发现，统一 VLM 在 T2I 与 I2T 生成中均存在对条件变化敏感与不敏感的两类注意力头，该功能分化模式跨样本稳定。基于此提出免训练推理干预方法 HeadTuned-CFG，在注意力头级别选择并调优条件引导，在两种生成方向上均取得一致收益，T2I 生成较强基线提升显著。
arXiv cs.AIAI 评分6262 减少循环次数会消除循环深度语言模型的拒答行为
arXiv 论文研究循环深度语言模型在运行时减少循环次数对安全性的影响。在训练深度一半时，Ouro-1.4B-Thinking 仍能解出 0.692 的 GSM8K 数学题，保留 89% 准确率，但协助有害请求的比例从 0.038 升至 0.205，高出 5.3 倍。
arXiv cs.CLAI 评分2929 从 DeepSeek-R1 到 Qwen2.5-7B：John O'Bryan 数学竞赛上的推理模型知识蒸馏案例研究
一项案例研究将 DeepSeek-R1 的 CoT 推理能力蒸馏到 Qwen2.5-7B，在 John O'Bryan 数学竞赛题上把准确率从 64.67% 提升到 69.43%（5 次独立训练均值，标准差 0.17%），并在 MATH-500 上达到 73.1%。
arXiv cs.AIAI 评分4040 Structural Chain-of-Thought：用可执行计算图进行推理
研究者提出 Structural Chain-of-Thought 框架，让大语言模型生成可执行计算图而非自由文本推理，最终答案由图确定性执行得出。模型通过基于图的强化学习训练，奖励结构有效性、答案正确性和与参考图的节点重叠。
arXiv cs.CLAI 评分4141 Latent Compaction：用测试时训练压缩 KV 缓存
研究提出 Latent Compaction，通过测试时训练学习文档专属的紧凑 KV 缓存，模型权重保持冻结，训练仅用文档通用提示词、不接触下游问答。在 RULER 上 32× 压缩下准确率达 96.7%，KVZip+ 仅为 40.0%，并在 Qwen3 和 MiniCPM5 上展现跨模型规模与家族的检索增益。
arXiv cs.AIAI 评分3232 Marvo：通过 Margin Reward 实现自进化视觉智能体
研究者提出 Marvo，一种从无标注图像中学习工具调用的自进化方法，由生成问答对的 challenger 和通过强化学习解题的 solver 两个智能体组成。其核心是 margin reward，即 solver 在有工具和无工具时表现之差，据此构建自适应课程以鼓励有效工具调用。在智能体推理、视觉搜索、数学及通用真实世界推理等基准上，Marvo 平均准确率最高提升 7.1%。
arXiv cs.AIAI 评分2424 简单离散世界之间的知识迁移
研究在类数独的小型离散世界中测试深度循环模型的知识迁移能力，训练单一模型掌握多种规则组合，并在四个新颖性层级上评估。在重组已训练规则时，符号描述达到99%、示例为95%；当规则组件从未在训练中共现时，描述方式低于无信息基线，而示例方式仍高于基线。该框架比 ARC-AGI 等基准更系统地测试泛化能力，为评估深度循环推理模型提供新依据。
arXiv cs.CLAI 评分3030 PerSo：在真实说服场景中考察 LLM 社会智能的多个维度
研究者提出 PerSo 基准，基于 Reddit ChangeMyView 社区的真实说服对话，用 LLM-in-the-loop 流程构建评估任务并经人工标注验证，同时考察 LLM 的认知智能与行为智能。对多个 LLM 的评测显示，性能总体随模型规模提升但各维度表现不一，最强 LLM 在行为任务上略超最佳人类表现，而最佳人类参与者在认知任务上仍保持领先。
arXiv cs.AIAI 评分1818 将 AI 推理暴露为 5G 用户面上的电信网络 API：Inference on Demand（IoD）
研究提出 Inference on Demand（IoD），一种按需推理抽象，通过类 CAMARA 的 API 暴露拆分推理，并在 5G 用户面路径上带内传递拆分感知的 tensor 上下文。
arXiv cs.CLAI 评分2424 VASPO：用特权价值估计实现自蒸馏的策略优化方法
VASPO 将特权自蒸馏信号与 PPO 结合，由 critic 基于预测的续写回报计算 token 级优势，自教师则通过有界概率比对选定的正优势进行调制。在六个数学推理基准上，VASPO 在 Qwen3-4B 和 OLMo3-7B 上平均准确率分别较 PPO 提升 2.59 和 1.81 个百分点，并在 Knights and Knaves 上取得所评估方法中的最高平均准确率。代码已开源。
arXiv cs.AIAI 评分2626 Belief Embedding Tree Search：用生成分布嵌入做信念树搜索的蒙特卡洛规划器
研究者提出 Belief Embedding Tree Search（BETS），一种蒙特卡洛规划器，用生成分布嵌入（GDE）表示每个节点的信念，并通过 POMDP 动力学更新，信念模型与策略、价值网络一同从经验中训练，以 POMDP 的真实隐藏状态为训练目标。
arXiv cs.CLAI 评分2323 ReaDy：用循环状态为混合线性注意力大模型做动态上下文推测解码
ReaDy 是首个利用混合线性注意力（HLA）模型循环状态进行位置特定上下文检索的推测解码方法，为每个草稿位置配备可学习 query，从目标模型已提交的循环状态中检索补充上下文。
arXiv cs.AIAI 评分1212 POMDP 与多环境 POMDP 之间的复杂度差距
研究扩展了多环境 POMDP（ME-POMDP）的复杂度图谱，识别出哪些 POMDP 子类在扩展到多环境设定后仍保持 PSPACE 完全性。作者证明了多环境盲 MDP 和确定性 POMDP 的 NP 完全性，并为不满足混合封闭条件的子类证明了 PSPACE 完全性，还给出了多观测 POMDP 的新复杂度结果。
arXiv cs.AIAI 评分2626 认证决策而非每个评分：CAS 如何从少量评估中精确选出 Top-k
研究者提出 Certified Adaptive Selection（CAS），在剩余不确定性无法改变结果时即返回精确 top-k 集合，其停止检验比较最差可接受入选者与最优可接受落选者，对信息不相交的笛卡尔区间该单切检验充要。
arXiv cs.CLAI 评分2424 MolLean：面向化学推理的过程可验证语言
针对化学链式推理中可能出现的结构与性质幻觉，研究者提出 MolLean——一种将化学推理锚定在显式分子状态上的过程可验证语言，通过分层 Lean 内核检查分子状态转换与断言，并用类型化见证协议区分原生结构检查与外部测量。
arXiv cs.CLAI 评分3232 同一主张，不同解读：LLM 智能体如何消解科学主张中的歧义
研究者提出 Claim Cards，让科学主张验证智能体在收集证据前以九个字段显式记录自身解读，并标注为 stated、inferred 或 default。
arXiv cs.AIAI 评分3131 FleetPilot：细粒度引导实现真实场景下的 LLM 个性化
FleetPilot 是一个细粒度、按实例定制的大语言模型个性化引导框架，可从用户数据动态生成样本级干预向量并注入模型前向传播。它通过 match contrast 提取用户相关信号、细粒度引导组件挂钩 attention 与 MLP 层激活、查询条件聚合模块合成上下文相关增强。
arXiv cs.CLAI 评分3131 COUNT：用 n-gram 计数在主机内存上扩展并实现免训练适配
研究者提出 COUNT（Counting Offline Unlocks N-gram Transformers），通过把预计算的 n-gram 计数存在主机内存、不新增可学习参数来构建 n-gram 嵌入。
arXiv cs.AIAI 评分2424 AlphaRLM：让语言模型从文献出发发现符号化因子
AlphaRLM 是一个强化学习框架，训练 LLM 直接从金融文献构建可执行的符号化因子，无需输入因子表达式。它通过文献引导的算子组装（LEGO）提供语义先验，并用可执行有效性与分组收益分离奖励对齐市场反馈。在 CSI 300、CSI 1000 和 S&P 500 上，其年化超额收益优于强因子挖掘与 LLM 基线，8B 模型展现出较强的跨市场表现。
arXiv cs.AIAI 评分3232 当激活引导被用作记忆时，什么能存活下来
一项预注册研究在 Qwen3.5-2B 和 9B 上测试了冻结 LLM 旁的无训练激活记忆：将经验引起的后层状态变化存为偏移，按对话要旨的白化键归档，仅在要旨匹配时回加。
arXiv cs.CLAI 评分2929 FOLD：面向长上下文投机解码的免位置远记忆方法
FOLD 是一种免训练的投机解码方法，保留精确的局部位置，并将所有远距离条目视为共享同一位置的远记忆，通过锐化注意力并单独控制其相对局部窗口的总权重来对抗注意力稀释。在六组目标-草稿模型组合、最高 256K token 的多种基准上，FOLD 大多取得最高加速比，最佳情况下较自回归解码加速从 2.08 倍提升至 4.22 倍。
arXiv cs.AIAI 评分2222 VC-OPD：面向视觉语言推理的视觉反事实在线策略蒸馏
VC-OPD 是一种面向视觉语言推理的在线策略蒸馏方法，通过对比原始图像与破坏实例证据的反事实图像下教师的输出差异，估计 token 级视觉依赖并据此对损失加权，再以保质量归一化稳定更新尺度。该方法在教师监督热启动后执行在线策略蒸馏，在多模态推理基准上提升了视觉推理表现，并产生更有效的 token 级蒸馏。
arXiv cs.CLAI 评分2222 从分诊到影响：面向可解释波斯语仇恨言论的多跳推理基准
研究者推出一个细粒度多跳基准，用于可解释的波斯语仇恨言论分析，覆盖内容分诊、目标识别、仇恨策略与道德基础分析、文本证据抽取、有害叙事推断和严重程度评估。评测显示，任务越依赖细粒度语义与推理，主流 LLM 表现越差；闭源模型整体优于开放权重模型，推理型模型并无稳定优势。引入中间推理步骤相比一次性评估能显著提升严重程度预测，基准已公开。
arXiv cs.CLAI 评分2626 MMLA-RSI：通过 RTT 与 RTMA 实现递归自我改进
MMLA-RSI 提出 Reasoning-Time Training（RTT）与 Reasoning-Time Memory Adaptation（RTMA）两条递归自我改进路径，分别改变策略状态 Φ 与权威记忆 M，并让各自的适应方法本身成为改进对象。
arXiv cs.CLAI 评分2424 PULSE：面向医学推理的步级检索时机控制方法
研究者提出 PULSE，一种轻量级探测方法，利用模型内部表征作为步级检索控制信号：错误推理步骤的层间波动显著高于正确步骤，据此训练紧凑探针在每步完成后检测事实错误，并自适应触发检索与步骤重生成。在四个医学基准上，PULSE 定时检索的准确率与逐步穷举检索相当，同时将检索调用减少 72%，并可迁移到未见过的法律领域。
arXiv cs.AIAI 评分2222 通过上下文建模弥合模型预测任务采样中的风险近似差距
研究将模型预测任务采样（MPTS）中的风险预测重构为上下文序列建模问题，以解决风险预测模型（RPM）因优化历史稀疏和风险近似滞后一步导致的两个失效模式。新方法结合一步前瞻机制与时间加权滑动窗口，无需额外 rollout 即可缓解数据非平稳与稀缺问题。在鲁棒 Meta-RL、域随机化（DR）及 LLM 提示课程 RL 后训练中，该方法给出更可靠的难度估计并取得一致的性能提升。
arXiv cs.AIAI 评分2222 递归自我改进的预注册创世记账：物理发现运行时中首批经审计的算子创世事件
研究者提出预注册的双层记账体系 M1/M2，用于区分机器生成内容与机器自创机制，并报告了首批经审计的 M2 创世事件。主事件中，深度受限的组合搜索在 NIST 氢原子 Balmer 测量上生成算子 sq(inv(n)) = 1/n^2，留出集 R^2 达 1.0000000，而最佳标准变换为 -0.546；外推至未见能级（n=8,9）相对误差约 10^-6。
arXiv cs.CLAI 评分3636 跨模型上下文神经反馈实验揭示 LLM 的（有限）激活控制能力
研究者用上下文神经反馈实验测试十个开源模型（来自五个模型族，规模 9B 至 32B）能否控制自身激活值。在固定句子预填充条件下，十个模型中有三个表现出小幅但一致的激活控制效果；在欺骗监测器测试中，没有模型学会降低监测分数，但有一个模型能将其提高。作者认为，模型对自身激活的上下文控制目前尚不构成对激活监测器的威胁，但已在少数模型中出现，需随模型演进持续追踪。
arXiv cs.CLAI 评分2727 TreeSpark：为投机解码学习起草待验证的树
TreeSpark 是一个统一训练与推理框架，扩展半自回归 DSpark 架构，通过一次主干前向构建父条件候选树，并在训练中重放其扩展、剪枝与预算打包。在 Qwen3-4B 与 Qwen3-8B 上，九个通用基准和六个写作领域的平均接受长度较 DSpark 提升 23.4% 至 31.6%，单请求吞吐提升 15.1% 至 25.0%。
arXiv cs.AIAI 评分2020 GREAT-ESDD：用图边注意力网络实现有效引导的配送决策
研究者提出 GREAT-ESDD 动态定价与路由框架，基于 Graph-Edge-Attention-Network（GREAT）训练 CVRP 神经求解器，可批量并行处理并重优化部分执行的路线，为上门与 OOH 两种配送选项估算成本增量以动态定价。