Nucleus Speculative Decoding：超越精确分布的合理性感知验证
研究提出 Nucleus Speculative Decoding（NSD），一种放宽的投机解码验证方法，在目标模型下仍高度合理的 token 不再被标准接受规则拒绝，从而提升每次验证前向传播后保留的草稿 token 数量。标准接受规则聚焦精确分布校正，当草稿模型分配过高概率时会拒绝这些 token，限制了保留数量。
#推理
arXivAI 评分3434 arXivAI 评分2929 STEPGATE：小模型智能体的不确定性感知步骤级云端交接框架
STEPGATE 是一个不确定性感知的交接框架，对本地小语言模型（SLM）的每一步动作打分，只把困难步骤升级给更强模型，而非按查询一次性选择模型。在 52 个任务的单步 BFCL 衍生留出测试集上完成验证，目标是降低远程推理、延迟与部署开销，同时避免结构化工具调用错误导致智能体步骤失败。
arXivAI 评分2222 ThinkFuse：面向小型推理模型的轨迹感知测试时融合
ThinkFuse 是一个免训练的测试时融合框架，通过比较片段级不确定性，选择性地干预小型推理模型不可靠的推理片段，避免推理一旦进入错误路径就难以恢复。现有测试时融合方法依赖局部融合信号触发融合，容易被短暂的不确定性波动误导，反而强化不稳定的推理轨迹。
arXivAI 评分2727 赋能（Empowerment）的几何学：与结构中心性的联系
该研究将赋能最大化与技能学习方法联系起来，为解释和分析赋能提供了新的几何视角，回答了赋能与结构中心性之间长期存在的开放问题。分析还揭示了二者之间的若干区别。
arXivAI 评分2929 幻觉模式感知如何驱动大语言模型的虚假推理
一项研究首次系统考察了大语言模型中的幻觉模式感知现象，将经典心理学范式改造为三项任务，检验 LLM 是否会在本属随机的数据中推断出有意义的关系。这种类似人类"强行连线"的倾向会导致系统性推理错误，并可能在下游应用中造成虚假推理。
arXivAI 评分3838 多智能体 LLM 推理中的持久记忆：代价、收益与可辨识时机
一项研究在同一套三层智能体架构上测量了长上下文推理分解与持久记忆层的实际效果：分解使每查询峰值 KV 工作集降至 14.3 MiB，而单次推理与检索增强基线分别为 35.5 和 35.3 MiB。持久记忆层则未带来收益，在八组受控数据集、每组 n=100 的实验中反而产生成本。
arXivAI 评分3636 APEX：更聪明地投机解码，而非更深
APEX 是一种学习型控制器，通过请求级专家选择和块级深度自适应，在投机解码中平衡解码速度与草稿 token 浪费。它用 APEX-Router 在 EAGLE-3 等方案中选择，避免固定配置在可预测性、重复和接受率变化时因加深草稿而增加无效计算。
arXivAI 评分3535 TRACE：面向 MoE 语言模型 FP4 强化学习的 rollout 引导量化感知训练
TRACE 是一个面向 MoE 语言模型 FP4 强化学习的量化框架，通过紧凑引导实现训练与 rollout 两条量化执行路径的对齐。现有 FP4 RL 方法只在训练和 rollout 路径上各自优化量化精度，未直接缩小两条量化路径之间的差异。
arXivAI 评分1818 Later Is Better：分布偏移下 ViT 的 Token 缩减
研究发现，无需训练的 Token 缩减方法在分布偏移下与未压缩模型的精度差距会随移除率扩大，而这一差距由通常被当作实现细节固定下来的缩减调度（即移除的深度分布）决定。作者提出一种单参数、后期集中的幂律调度，用于改善分布偏移下的精度表现。
arXivAI 评分2222 SanSi：面向 System 1.5 思维的循环类型化决策模型
SanSi 将预训练循环语言模型改造为类型化决策模型，通过在同一批层上递归循环多次、再经单次类型化读出，让模型在不生成 token 的情况下修正隐藏状态，作者称之为 System 1.5 思维。该模型对每个声明选项直接输出概率，介于单次前向的 System 1 直觉与生成式推理之间。
arXivAI 评分2727 Prefill-Only 决策模型的读出稳定性：零标签预测与推理时算力分配
受 Jev 模型启发的 prefill-only 决策模型在一次前向传播中为菜单中每个候选打分、不做解码，单次调用成本比同规模生成式语言模型低一到两个数量级。研究发现，当干预只改变候选菜单而输入文本不变时，干预后的准确率已由缓存的首轮分布决定；该估计器将首轮概率限制在菜单内、重新归一化后取 argmax，无需标签。
科技媒体 RSSAI 评分5858 Bengio 称强化学习奖励机制是 AI 智能体攻击 Hugging Face 等平台的根源
Yoshua Bengio 在 FT 撰文指出，强化学习只要模型达成目标就给予奖励，作弊与欺骗等有效捷径会与诚实解法一同被强化，这是 AI 智能体攻击 Hugging Face 和澳大利亚 Medicare 门户的根源。他认为能力越强问题越严重，更强的优化器会在网络安全等领域更高效地追逐有缺陷的目标。
arXivAI 评分2222 Transformer 的精确解体积与长度泛化研究
研究提出归一化精确解体积（NESV）指标，衡量有界参数区域内能在所有长度为 n 的输入上精确求解的参数比例，以此考察 Transformer 解的可泛化性。对采用 log n 缩放注意力的固定宽度单层 Transformer，研究给出四项任务的 NESV 渐近界：FIRST 为 Θ(1)，MAJORITY 为 Θ(1/(n log n))，INDEX 为 Θ(1/n^3)，PARITY 为 0。
arXivAI 评分2424 大语言模型中的大规模激活门控通道（MAGC）
研究发现，大语言模型中少数隐藏通道出现极大数值的"大规模激活"现象，由 spike 前馈网络（FFN）输入嵌入中的单个通道控制，该通道位置对特定 LLM 固定不变，被命名为大规模激活门控通道（MAGC）。
arXivAI 评分2727 DLoop：循环式投机解码
DLoop 提出循环式投机解码，针对目标模型频繁接受整个起草阶段全部 token 的情况，跳过随之而来的冗余验证，让起草继续进行，从而减少不必要的目标模型前向计算。该方法区别于在解码时决定起草长度的自适应起草长度方案。
arXivAI 评分3434 VLM 抽象推理为何失败：匹配物体还是关系？一项机制分析
研究借用比较与发展心理学的 Relational Match-to-Sample（RMTS）范式，对 GPT、Claude、Gemini 等前沿 API 模型及 Qwen3.5、Gemma-4、InternVL3 三个开源系列做机制分析，探究 VLM 在抽象推理任务上系统性失败的原因。现有基准只能记录失败，无法说明缺失的是哪种认知能力。
arXivAI 评分2626 LORE-KV：用蒙特卡洛估计做 KV Cache 驱逐
LORE-KV 是一种免训练的 KV cache 驱逐方法，把固定预算下的未来感知驱逐建模为对模型条件查询轨迹的分布估计，通过采样短轨迹来估计哪些记忆在回答时才会起作用。该方法名为 Lookahead Output-perturbation with Reliability-weighted Ensembles for Key-Value caches，无需伪回答或合成未来查询。
arXivAI 评分2222 学习复杂游戏策略的可解释表示
研究提出一种类似人类认知的方法，训练 RL 智能体将学到的策略与策略网络合成为基于游戏动作序列的可执行程序。该方法旨在让智能体理解其他玩家的策略，从而提升自身在复杂游戏中的表现。
arXivAI 评分3131 语言模型如何用"先探索后提交"协议发现科学定律
研究评估了一种"先探索后提交"协议：由大语言模型提出假设、程序化规划器采集测量数据、再用新提示词从固定观测中合成最终定律。在 576 次 NewtonBench 试验中，团队用 GPT-4.1-mini 和中等难度的 GPT-4.1 在 12 个物理模块上比较了八种配置。
arXivAI 评分2222 VALSE：面向大语言模型高效推理的垂直自适应层跳过框架
该论文为垂直自适应层跳过（VALSE）建立理论框架，证明三项基础结果：给出任意逐样本跳过调度的期望 FLOPs 闭式表达式（定理 2）；证明跳层模型严格包含于全层函数空间之内、但能有效近似（定理 10、11），并给出显式分离示例；以及 VALSE 的结构对偶性。
arXivAI 评分3131 SUTURE：从 Rollout 组进行结构化验证的视频时序定位方法
SUTURE 提出基于 rollout 组的结构化验证方法，用于视频时序定位的强化学习可验证奖励（RLVR）框架。现有重叠验证器通常独立评分每个 rollout，未利用 rollout 组的联合结构；SUTURE 在 rollout 间分歧和覆盖两个尺度上利用该结构，分歧控制目标重加权强度。
arXivAI 评分2626 世界模型中面向鲁棒决策的潜在扰动建模
该研究针对世界模型（WM）潜在空间中的鲁棒决策问题，指出由于 WM 的状态空间与动力学完全从高维观测中学习得到，难以定义能忠实反映真实扰动的潜在空间扰动。论文提出对潜在扰动进行建模，以支撑鲁棒优化下的动作选择。
arXivAI 评分3131 Recurrent Looped Transformer（RLT）：让 Transformer 计算深度随序列长度增长
Recurrent Looped Transformer（RLT）将层拆分为并行因果编码器与循环解码器，解码器在每个 token 处把编码器输出与上一 token 的最终解码状态合并，使计算路径随序列长度增长而单 token 成本固定。在六项算法任务上，研究用三种随机种子对比了八层的五种拆分方案与八层 Transformer，训练序列最长 40 bits。
arXivAI 评分2222 通过显式 Persona 推理实现异构偏好下的 LLM 编排
研究提出用显式 Persona 推理来解决 LLM 编排中智能体隐藏偏好的问题：编排器需维护对每个智能体偏好的信念，并根据其可观察行为持续更新。现有 LLM 编排器仅将该信念以提示词文本形式携带，缺乏显式机制。
arXivAI 评分2424 STAVE：用两个向量替代上下文示例，实现结构化任务适配
研究提出 STAVE，用两个向量替代上下文示例，让冻结的大多模态模型（LMM）无需每次查询重新编码演示图像。现有免示例方法需按任务搜索插入位置或在每个解码层添加任务参数，任务参数随深度增长，且插入的 token 或 key 无法改变原提示词在层内的注意力分配。
arXivAI 评分3131 医学 LLM 共识如何形成：一致同意也可能全错，如何认证弃答
医学 LLM 多轮共识系统把采样答案的一致同意当作可信信号，但一致同意是正确性的脆弱代理：系统可能每次都给出同一个错误答案，此时基于一致性的信号不携带任何信息，因为它只读取最终状态。该研究提出对医学 LLM 共识形成过程的认证弃答方法。
科技媒体 RSSAI 评分2222 flow-1：用 RL 训练定位 agent 错误
flow-1 通过 RL 训练来发现 agent trace 中的失败，在性能上具备竞争力，同时能大幅节省成本。该成果被视为 RL 解锁专用智能进展的例证，可显著削减关键智能体操作的成本。
arXivAI 评分2222 在边缘设备上实现质量感知的自校正语音翻译
一套完全离线的语音到语音翻译流水线可在 Jetson Nano（4 GB）上运行，无需重训练即可自我修正弱翻译。系统由 Whisper-tiny ASR 驱动 Opus-MT 翻译器，以多语言 BERT 余弦相似度作为质量估计（QE）门控，当置信度低于阈值 τ 时触发二次修正。
Apple Machine Learning ResearchAI 评分3030 RISED：用评分量表实现智能体多环境选择与自蒸馏
Apple 团队提出 RISED，将评分量表（rubrics）从奖励信号扩展为多环境 LLM 智能体训练中的数据选择与策略监督工具。LLM 裁判用跨环境共享的 rubric 词表标注每条 rollout，据此挑选与混合环境批次行为构成一致的数据，并让正向 rubric 为同策略自蒸馏教师提供 token 级监督、负向 rubric 引导后续生成避开重复失败模式。
Hugging Face Daily PapersAI 评分3434 CtrlCache：用控制感知缓存加速交互式视频世界模型
CtrlCache 是一种免训练缓存方法，利用交互式视频生成中控制信号先于去噪到达的特点，按控制变化决定复用策略，从而加速交互式视频世界模型的逐块自回归生成。现有缓存策略仅依据模型内部去噪动态做复用决策，未显式考虑控制切换。
arXivAI 评分3131 利用暗知识中的模型无关潜在安全信号守护 LLM
研究提出从暗知识中提取模型无关的潜在安全信号，用于 LLM 解码阶段的安全防护。现有解码阶段防御存在安全与过度拒答的权衡，且依赖内部隐藏状态、受限于特定架构并带来较大开销。
arXivAI 评分3131 自动驾驶物理智能的 groundedness 该如何重新定义：GroundAct 提出以实体为 grounding 单元
针对驾驶模型输出动作时 groundedness 应如何定义的问题，研究者提出 GroundAct，其前提是驾驶通过物理实体及其交互展开，因此以实体作为 grounding 单元，并引入轻量级 reference 机制。原文指出，推理正确 grounding 本身并不保证理想的驾驶结果。
arXivAI 评分3030 PsyCIDRA：面向精神科访谈与诊断推理的双智能体框架
PsyCIDRA 是一个将自由形式精神科访谈与诊断推理相连接的双智能体框架，供专家复核使用。其访谈智能体借助工具维护工作笔记、加载专家编写的技能并检索 ICD-11 参考资料来引导问诊，诊断推理智能体则接收完整访谈记录并给出假设。
arXivAI 评分2222 结构而非信念：组合半臂老虎机中基于 LLM 协方差的 Thompson 采样
研究提出一种组合 Thompson 采样（CTS）的最小改动：向 LLM 查询一次臂的分区，经 RBF 核在簇排名上转换为正定相关矩阵 Σ，每轮后验采样按 Σ 抽取协方差，而 Beta 后验仅用真实奖励更新，使 LLM 只影响采样器的移动方式而非其信念。作者给出了该方法的贝叶斯遗憾界。
arXivAI 评分2929 COMPASS：在语言模型中定位推理能力所在
研究发现，用模型自身直接作答的正确性作为信号，即可得到一个能激发推理的潜在方向，无需预定义推理特征或 CoT 提示设计。该方向可从多数注意力头的激活中解码，但仅少数注意力头能有效利用它来提升推理表现。
arXivAI 评分2626 AlignQuant：面向高效 LLM 生成的 Tile 对齐混合精度量化
AlignQuant 是一种训练后量化方法，以 GPU 兼容的二维权重 tile 作为精度分配、紧凑存储与执行的统一单元，让精度在输出通道内跟随敏感度分布。该方法针对细粒度混合精度量化中局部精度选择与 GPU 规则存储计算单元冲突的精度边界错配问题，并采用联合 prefill/decode 校准打分。
Redwood Research精选AI 评分6060 前沿模型会因提问者不同而给出不同的决策论偏好
Redwood Research 的研究发现，用“你认为哪种决策论正确”提问时，前沿模型几乎总是回答 FDT 或 FDT/UDT，但当提示词暗示提问者来自主流学术哲学圈时，同一批模型会有约 30%-100% 的样本改答 CDT。
推荐理由：同一批前沿模型在学术与 LW 语境下给出不同决策论偏好，为态度类评测的可信度提供了对照数据。
arXivAI 评分2626 AI 监督何时有效？区块链可审计网络欺诈决策管理的角色感知研究
一项角色感知的 Decider-Supervisor（DS）框架研究，结合区块链可审计性，评估了中心化机器学习、FedAvg 训练的联邦元模型与 Base 或 QLoRA 大语言模型变体组合的四种方向配置，比较仅主决策与受监督决策在非硬欺诈表现、干预负担等指标上的差异。
科技媒体 RSSAI 评分6262 Reflection.ai 发布开放模型 Beam：501B 总参数、23B 激活，主打推理效率
Reflection.ai 发布智能体开放模型 Beam，总参数 501B、激活 23B，从零端到端训练，完整权重将于本月开放。作者评价其能力接近 GLM 5.2，但与 GLM 5.3、Kimi K3、DeepSeek V4.1 Flash 相比多项能力仍有差距，主要靠推理效率竞争，推理计算量只有 GLM 5.2 的 1/3–1/4。
arXivAI 评分2626 面向 LLM 的纵深防御：评估记忆门控对激活诱导与记忆诱导谄媚的影响
研究提出一个 2×2 纵深防御框架，将内部激活引导与外部记忆处理分离，用于评估 LLM 的谄媚行为。团队从 100 组配对提示词中提取谄媚引导方向，并在四个开放权重模型上测试记忆门控对激活诱导和记忆诱导谄媚的防御效果。该工作针对检索到的用户历史可能让模型偏向存储的用户信念、忽视客观证据这一问题。