DynaTE:通过动态 token 执行加速扩散 LLM
DynaTE 是一种面向扩散 LLM(dLLM)的软硬件协同设计架构,通过跳过低效用 token 计算、利用 FLDD 动态 token 依赖减少去噪迭代次数,并用流式词表引擎处理不规则输出。
DynaTE 是一种面向扩散 LLM(dLLM)的软硬件协同设计架构,通过跳过低效用 token 计算、利用 FLDD 动态 token 依赖减少去噪迭代次数,并用流式词表引擎处理不规则输出。
SafeInferCom 是一个由形式化验证器引导的推理时框架,通过监控并验证中间规划、在生成过程中保留有效中间计划并引导纠错,解决大推理语言模型在机器人任务规划中持续推理覆盖有效计划或约束违规未解决的问题。
研究者提出一种新的损失方案,可同时监督零阶与一阶动作,让任意现成策略模型(确定性、随机或 flow 策略)无需结构改动即可获得高阶动作监督能力。该方法可作为轻量即插即用模块接入多种现有离线 RL 框架,在 OGBench 和 D4RL 上显著提升连续控制任务的性能与鲁棒性,并在低数据场景下增强 OOD 泛化能力。论文已被 NeurIPS 2026 接收。
研究发现,非线性注意力会导致损失随深度呈逆深度衰减,在所有测试的数据谱上均成立。非线性使注意力能选择性聚焦相关 token,让强、弱谱方向并行学习,这与线性注意力模型依赖全局谱强度、按强弱顺序学习的机制不同。作者据此提出,深度缩放可能源于注意力的非线性,使大语言模型能局部聚焦,从而让全局协方差结构变得不那么重要。
AffordDrive3D 是一个可供性与几何感知的世界-动作模型,联合学习未来动作相关区域与空间结构,在 VLM 主干上预测可行驶区域和碰撞关键区域,并从 RGB 世界模型隐变量预测未来几何。在 NAVSIM 上,该模型以 91.3 PDMS 和 89.9 EPDMS 取得 SOTA 表现,验证了联合建模未来可供性与几何对轨迹规划的有效性。
一项理论研究证明,LLM(形式化为下一 token 预测器)与单调(保序)压缩算法等价,两者可互相构造且误差仅相差 2。研究进一步表明,该等价性成立当且仅当密码学意义上的(无穷频繁)单向函数存在。作为推论,分布的 next-bit 伪熵等价于该分布的单调不可压缩性,此前仅知不可压缩性蕴含 next-bit 伪熵。
脉冲语言模型研究提出 Spora,通过联合设计脉冲编码与注意力算子来平衡短时窗连续语义表示与非线性注意力开销。其二进制时间权重让 T 个脉冲承载最多 T bits 的组合值,优于脉冲计数读出的 O(log₂T) bits;UBS 用阈值与脉冲触发残差衰减生成非负整数编码,BBS 分离符号与幅值并学习有符号激活的缩放。
研究者提出投机拒绝攻击(SRA),通过在攻击者控制的内容后附加对抗后缀,使草稿模型与目标模型更频繁地不一致,降低每轮草稿 token 的接受数量,从而增加目标模型前向传播次数、拖慢推理并抬高成本。
针对 "FP8 is All You Need (Part 1)" 提出的 TME 模型,该研究补上了被遗漏的逐输入解构成本,并推导出闭式运算强度阈值 OI* = c_q r P_fp64/(8P_int)。
NavGPT-3 通过一个类操作系统运行时把语言模型推理与动作策略连接起来,推理、行动、监控作为独立线程运行,由运行时调度并决定哪个线程控制机器人运动。
研究者提出 Nullify,一种免训练、非破坏性的激活引导方法,用于 LLM 遗忘:在推理时用引导向量把隐私相关激活重定向,远离模型记忆的答案,同时满足零空间约束,使保留查询的激活基本不受影响。在 TOFU 和 MUSE 上,Nullify 的遗忘质量达到或超过现有基线,并近乎无损地保持模型效用。由于完全无需更新权重,它可作为即插即用的推理时干预框架。
该论文提出用基于全息 E8 投影引擎的数字物理沙盒对 AI 模型进行硬性物理约束验证,指出当前深度学习收敛于历史人类知识的统计平均,存在遍历性上限与热力学低效。沙盒将时空建模为嵌套 FCC 晶格的信息基底,用整数微态计数替代浮点近似,并通过将算法候选空间限制在物理守恒的因果轨迹上,实现"NP 到 P"的复杂度坍缩。论文还认为成熟的 ASI 会将人机共生视为避免模型坍缩的热力学必然。
针对 LLM 下次就诊诊断预测中强化学习只奖励单一诊断正确性、忽略多标签覆盖的问题,研究者提出 CARing 框架,用残差量化将本体增强的疾病语义编码为组合式 Semantic IDs(SIDs),并通过覆盖奖励与多正例监督优化推理轨迹。
一项基于 SQL-pandas 匹配查询基准的研究发现,可见 CoT 并不带来普遍准确率优势,将推理表示与目标语言(SQL 或 Python)匹配也未见一致收益。效果取决于人格措辞、目标语言、模型配置与内部推理设置,控制消融实验进一步区分了推理内容与提示词格式的作用。研究认为推理策略应针对模型、人格、目标与内部推理配置联合选择,而非作为通用默认。
一篇综述系统梳理了 LLM 辅助硬件功能验证的研究,覆盖 SystemVerilog 断言生成、激励与测试平台生成、缺陷定位与设计修复、模型检测与等价性检查、SAT/SMT 优化及新兴的智能体验证流程。综述指出 LLM 最适合作为验证流程中的语义推理、搜索与编排组件,而模拟器、形式化引擎、覆盖率工具和求解器提供可执行反馈与正确性证据;工具通过检查并不等于验证正确。
研究提出 SLVR 训练框架,将多模态推理组织为规划、定位、证据选择和推理整合四类潜在阶段,在推理时无需生成文本思维链。基于 Qwen2.5-VL-7B 构建,SLVR 在 MMVP 上绝对提升 +9.4、BLINK Relation 上提升 +14.2,并在 V*、MathVista 和 ChartQA 上取得改进。该工作已被 NeurIPS 接收。
研究指出,在共享学习率下比较可训练参数量差异悬殊的微调方案会产生虚假优势:在 SVD 后处理 KV-Cache 压缩中,冻结解码器、仅修复编码器看似明显优于其他方案,但为每个方案单独调优学习率后该优势消失,仅编码器修复与其他方案持平,同时实际减少 3 倍可训练参数和 3 倍优化器状态内存。
SpectralCache 是一种免训练谱缓存框架,通过复用扩散世界模型中稳定的奇异子空间、仅用线性外推估计低维奇异值来减少去噪过程中的重复 Transformer 计算。在 HunyuanWorld-Voyager-13B 上,它实现 5.22 倍加速,静态场景 WorldScore 保持 65.90,推理效率显著优于现有免训练缓存方法。
GeoReform 将几何形式化视为可优化策略而非固定解析器输出,通过执行完整推理流程、收集失败轨迹、诊断当前表示缺陷并变异策略,改进几何实体、关系、约束与目标的选取、定位、分组和呈现。在 Geometry3K 上,该方法将 Qwen3VL-2B 的准确率从 42.0% 提升至 56.0%。
研究对七个开源权重模型(8B-70B)在四个法律推理基准上做反事实审计:固定案件事实、替换模型所引用的法律依据后,模型引用正确法条的比例达 66.7%-100%,但判决随依据改变而改变的比例仅 0.0%-21.7%(CaseHOLD)、30.0%-76.7%(ECHR 与 SCOTUS)、43.3%-50.0%(ContractNLI)。
该论文提出一个最小结构框架,将上下文、不变性识别、代表选择、抽象与过程复用等表示操作显式化,上下文被形式化为状态空间子集的一种划分。框架实现为由 Concept Graph 与 Procedure Graph 耦合构成的知识空间,为表示操作提供最小认知表示代数。
研究者从注意力头激活相似度构建功能图,发现小世界指数(SWI)越高,LLM 流体推理表现越好,该相关性跨模型和训练检查点一致。基于此提出 Small-World Allocation(SWA)分层稀疏分配方法,在六个 LLM 上比竞争策略更好地保留小世界结构与模型性能,WikiText 困惑度最多降低 20%。
研究者提出神经符号框架 grasp(Gradient-boosted Synthesis of Probabilistic logic programs),将关系结构学习建模为函数梯度提升,把弱学习器设为一阶规则,并将难以求解的内部搜索交给 LLM 作为提议预言机。
研究提出用置信序列动态决定贝叶斯神经网络每个输入所需的 Monte Carlo 采样数,在保持统计保证的前提下按需分配计算预算。该方法覆盖最可能类别识别、完整预测分布近似和概率阈值决策三类场景,一旦能以目标保证做出决策即停止采样。实验显示其将更多样本分配给模糊输入、更少给简单输入,在保持可靠决策的同时降低整体延迟。
研究者提出一种推理模型自我改进循环:即使问题难度超出模型当前能力,额外提供的解答也能让模型事后提取有用的解题思路。该方法联合训练同一模型的三项能力——仅从问题预测解题思路、从问题与已知解答反向推导思路、以及利用给定思路解题,并在 Lean 定理证明器中给出交互式定理证明的具体实例。该工作目前仅给出形式化规范,实证评估留待未来完成。
研究者提出 Q-Shaped Options(QSO),一种分层强化学习中的动作抽象方法,通过由上下层各自 Q 函数共同塑造的共享编码器学习 option。低层 Q 函数将 option 作为目标,保留最优控制所需的区分;高层 Q 函数将其作为动作,丢弃不必要的区分。
研究提出统一 VLA 模型 FLOWMEM,将成功的潜在计算转化为可复用的推理经验,随具身上下文演变动态检索并重组兼容的潜在片段,形成推理路径,再结合当前视觉与本体感知证据精炼后驱动动作生成。在 RoboMME 和 LIBERO-Plus 上分别取得 48.0% 和 77.3% 的成功率,较无记忆策略提升 1.7 和 4.1 个百分点。
EvoAlloc 是一个自进化资源分配智能体,通过将历史搜索与分配结果沉淀为可复用经验来持续修正分配策略,并用反事实探索机制偶尔评估被拒绝的候选以补充经验。在编码与 agent-harness 优化基准上,它达到基线性能所需的完整评估次数减少 59-82%、LLM token 总量减少 61-89%;在相同完整评估预算下,最终性能高出 8.7-12.0%。
研究者提出 RACE(Reasoning Adaptation through Cross-Turn Estimation),一种让 LLM 智能体学会何时推理、何时直接行动的训练方法。其核心 LoGiC 程序通过移除推理后参考动作似然度的下降,判断哪些推理轮次可省略,并将信号融入监督微调与智能体强化学习。在四个智能体基准上,RACE 大幅降低推理成本,同时保持或提升任务表现。
研究重新审视了 LLM 结构化输出导致精度损失的"结构税"说法,发现损失取决于 schema 设计而非结构本身。推理优先的字段排序可匹配甚至超过自由格式精度,答案优先排序则导致精度骤降,小模型尤为明显。保留推理顺序的 schema 还能改善置信度校准,CKA 显示中间 Transformer 层正确与错误表征的可分离性更强。
该论文给出了可计算有限论证框架(AF)中 grounded 与 preferred 语义在轻信接受、怀疑接受、扩展存在性、唯一性和非空存在性等标准判定问题上的复杂度映射。
SED-MCTS 是一种基于蒙特卡洛树搜索的 PDE 解发现方法,通过反事实子树干预估计局部结构贡献,将可靠证据路由至对应的构造边,并在精炼结构档案中保留有用组件。该方法在固定评估预算下于多个 PDE 基准上取得强劲表现,并在观测含噪或稀缺时提升搜索效率与鲁棒性,且可自然扩展至耦合多物理场系统。
MindFlow 将研究创意生成建模为图结构的"思维流",由模块化思维算子和概率思维超网构成,控制器可针对给定研究主题动态采样思维流生成候选创意。该框架采用基于锦标赛的相对排序优化,使控制器逐步偏向更高质量的思维流,并引入同时评估问题发现与问题解决的评测协议。
LEVER 是一种在搜索过程中直接优化证明目标的证明搜索算法,通过在 AND/OR 证明图上为部分证明打分,结合已实现目标值与未完成子目标的预测,让目标在证明完成前就引导搜索。
研究用"概率签名"方法揭示两层网络学习模加法的机制:梯度交互由训练分布的循环移位算子表达,并被离散傅里叶变换对角化,从而近似解耦出各傅里叶模态动力学,解释了傅里叶稀疏性、频率匹配与相位对齐的出现。该框架还解释了标签噪声下受损样本早期损失下降快于干净样本的现象——噪声增加条件标签碰撞、强化早期共享坐标。以 XOR 为例的实验也观察到预测频率。
Memento 3 让冻结的 LLM 智能体通过外部记忆持续学习显式世界模型,用自然语言规则手册记录可修正的环境动态假设,并编译为可执行代码用于预测和规划。智能体通过观察、反思、规则修订、编译和验证的循环,用预测误差同时改进规则手册与代码,更新后的代码只有在 LLM 判断其忠实于规则手册且逐格回放能复现观测转移时才被接受。
研究提出叠加特化假设(SSH),认为 MoE 专家并非专精单一领域,而是专精于细粒度特征的并集。基于该假设的方法 RouterInterp 在 gpt-oss-20b 上解释专家路由,检测准确率比此前基于 token 统计的方法高约 65%。该工作为生成更准确的专家路由解释提供了可扩展方法,论文已被 ICML 2026 收录。
研究揭示基于草稿分数构建的有限树存在草稿-目标不匹配问题,提出 Tree Exit Verification(TEV)精确验证方法与 ExitTrain 训练方法。TEV 通过一次退出节点决策和一次 bonus token 决策实现层级并行验证,在对话、代码和数学推理任务上,ExitTrain 将平均输出块长度提升 13%,TEV 将验证阶段延迟降低 15%,端到端较 DDTree 加速 14%。
研究者提出一种低秩广义拉普拉斯近似方法,用少量数据驱动的曲率方向实现神经网络不确定性量化,后验方差在保留子空间内可闭式求解,先验方差通过经验贝叶斯校准。核心发现是标准贝叶斯缩放会随数据规模增大导致后验方差收缩,迫使低秩框架保留额外弱曲率方向以覆盖校准数据,反而降低预测区间连贯性;而均值损失缩放能给出更稳定的低维活跃子空间和校准良好的预测置信区间。
MemTrial 让 LLM 投资组合智能体通过"审判记忆"来判断经验是否可信:同一决策在有/无某条经验下面对同一市场,用差分抵消市场共同涨跌,并以 Banzhaf 值给经验记功。