无需额外训练即可超越 Jev:开放决策模型的简单微调方案
研究者发现,开放指令微调语言模型无需额外训练,仅通过读取最后一个 token 位置输出 logits 中 A、B、C 等字母的概率,即可实现与 Jev 相当的决策性能。
研究者发现,开放指令微调语言模型无需额外训练,仅通过读取最后一个 token 位置输出 logits 中 A、B、C 等字母的概率,即可实现与 Jev 相当的决策性能。
对 BitNet b1.58、Falcon-E 和 BitCPM 三个实验室的三值语言模型导出流程审计发现,文档化的 bf16 转换会大幅回退微调效果:Falcon-E-1B-Base 的 GSM8K 严格准确率从 58.79% 降至 0.78%。
ResizeCO 是一种无标签规模泛化方法,通过强化学习(适配 GRPO,以路径长度为训练信号)在大规模实例上微调小规模训练的扩散模型,并将 k-opt 建模为树搜索、用 GPU 上的 beam search 求解。
研究者提出一种基于电路的框架,将基于训练动态的数据价值评估与机制可解释性(MI)相连接,沿可学习性、挑战性和对齐三条效用轴识别出模型内部因果控制这些信号的专用电路,并将其作为可控接口主动引导生成效用定向数据。
SPARK 是一种轻量自适应机制,利用目标模型的验证反馈在生成过程中修正 draft 模型预测,以加速 GRPO 训练中的投机式 rollout。在 21 个模型-数据集设置上平均,SPARK 相比 EAGLE3 风格和 DFlash 风格基线,生成加速分别提升 32.7% 和 11.4%,端到端 GRPO 训练加速分别提升 32.2% 和 8.5%。
研究者推出 CausalDS 基准,用于评估数据科学智能体工作流中的因果推理能力。每个测试实例由采样的结构因果模型(SCM)、生成的观测数据和基于真实领域的合成自然语言故事构成,任务覆盖 Pearl 因果阶梯的全部三个层级,多数任务包含数据科学编码与工具调用环节,并对图无法识别的目标直接测试弃答。由于生成器完全合成,基准的组成、难度和规模均可作为参数调整,可随时抽取全新考题。
研究证明离散扩散模型中 denoiser、bridge plug-in 与 concrete score 三种方法学习的是同一对象——加噪过程的精确时间逆转,只是坐标不同,并给出三者间的精确转换关系。
多模态深度搜索框架 Neos 通过可训练的多模态证据接口(MEI)将检索内容转化为目标条件观测,并用智能体-环境协同演化流程交替进行策略强化学习与 MEI 监督微调,使证据获取与证据驱动决策形成闭环。Neos-9B 和 Neos-35B 在十项基准上取得专业多模态深度搜索智能体中的领先表现。
针对自我修改系统(重写自身代码的智能体、递归自我改进循环),论文将一步自我修改建模为代码的全可计算变换,证明若变换仅依赖行为,保持性即 Rice 定理的升格;若读取代码,则保持性至少与停机问题同等困难。沿整条轨迹的持续性可高出一个算术层级,任何全监督器都会在无法定位的系统集合上出错,且基于有限行为证据的认证方案存在被逐阶段认证却违反性质的演化轨迹。
该研究提出一个面向金融服务的双用途意图预测框架,用自监督 Transformer 将多模态点击流编码为紧凑会话嵌入,并用 LLM 分类体系生成与蒸馏流程产出可解释意图标签。
针对 KV cache 显存瓶颈,研究者提出轻量压缩框架 OScaR(Omni-Scaled Canalized Rotation),指出 Token Norm Imbalance(TNI)是 per-channel 量化在极致压缩下失效的主因,并通过 Canalized Rotation 与 Omni-Token Scaling 缓解该问题。
研究对比了视觉语言模型物理推理中的外部奖励与内部注意力奖励:外部奖励(规则化格式与答案正确性检查、LLM-judge 评分)贡献了大部分准确率提升,奖励推理 token 时推理链更连贯。内部注意力奖励无需标注或评判模型,可改善空间关系推理,与外部奖励互补,在 Molmo 2 上以零额外标注成本提升平均准确率并泛化到分布外任务。
研究者提出 Neural Bayesian Networks(NBNs),将贝叶斯网络中的每个条件分布替换为可微分的张量机制,同时保持图结构与分解方式不变,从而可表示任意可学习的条件分布并原生运行在 GPU 上。团队同时发布基于 PyTorch 的 NBN 库及公开基准,在大规模网络和大批量查询上借助 GPU 并行实现两个数量级的加速。
Draft-Thinking 是一个轻量适配框架,让长链式思维 LLM 学会一种紧凑的“草稿 CoT”,直接支撑最终答案。它通过渐进式草稿适配(先 SFT 再两阶段 RL)解决“跨规模草稿错配”,无需事后轨迹压缩或长度惩罚奖励。
研究提出双演化强化学习框架 DERL,通过外层提议器与内层策略的双重训练实现奖励结构的自主发现,提议器利用内层策略的验证表现进行策略梯度学习。在 ALFWorld、ScienceWorld、GSM8K 和 MATH 等推理任务上,DERL 优于强基线,在分布外任务上提升显著,并在数学任务中改进了结果奖励。代码与模型已开源。
论文提出 GeoVec-VLM,将地理空间矢量几何作为 VLM 的原生空间模态,通过结构化几何表示与几何交互策略,让感知和推理在共享几何参照上进行。在五项空间推理任务上,其平均准确率较最强基线提升约 11%,并在地理迁移下保持增益,几何一致性更强。
研究测试 Llama 3.1 8B、Qwen 2.5 7B、Qwen 3 8B、Gemma 3 12B 四个指令微调模型在 876 条有害提示、20 种采样配置(4 温度 × 5 种子)下的拒绝决策稳定性,发现 18-28% 的提示出现 REFUSE/PARTIAL/COMPLY 标签翻转。
针对现有 Token 通信(TokenCom)研究假设 token 可即时传输、忽略 token 负载生成与无线服务能力时变之间失配所产生排队动态的问题,研究者提出 Queue-Aware TokenCom,将 token 队列显式纳入 AI 服务流程,并给出融合 AI 表征生成、token 负载管理、无线传输与下游任务推理的端到端架构。
研究提出"经验支持动态"框架,逐题追踪 RLVR 对已验证解法的影响,发现在所评估的模型级基准聚合上,观察到的支持收缩超过扩张——失去已验证成功的问题多于新增的问题,尽管 pass@1 同时上升。部分 RLVR 模型平均 token 级熵升高而最终答案熵降低,token 选择更不确定但答案更集中。这揭示出当前 RLVR 实践存在"隐形缰绳":让已有成功更可靠,却丢失了其他已验证解法。
预注册研究用 299,463 次调用测试托管决策模型 jev-1.13.0,发现每新增一个选项都会移动 gold label 与最强错误标签之间的对数几率,均方根系统性偏移达 0.20-0.52 nats,为运行间波动的 1.2 至 3 倍。
对 12 个开源模型(3B 至 72B)组成的 48 对组合测试显示,在数学、知识、代码和推理任务中,审查仅在 96 个审查方向中的 9 个胜过更强模型,且能力差距越大表现越差。原因是锚定效应:审查者大多跟随生成者,丢弃了自己的正确答案。审查成本是单独使用更强模型的 2.6 至 2.8 倍,而同样两次调用的选择器比审查准确率高 2.7 至 4.2 分且更便宜。
研究者提出一种可训练的原子链接器,在神经符号 NLI 中联合预测命题单元间的链接存在性、源选择与关系类型,无需原子对标注,仅用句子级 NLI 标签训练,翻译器与 SAT 推理器保持固定。
针对现有视觉 token 压缩方法将相关性-多样性权重视为与输入无关的固定常数,研究者提出免训练的 SAVER 框架,通过 Geometric Intent Prior(GIP)为每个样本推断专属权重,并结合 Weighted Text Centroid(WTC)与 Visual Marginal Coverage Gain(VMCG)联合选 token。
针对可验证结果奖励与推理质量不匹配的问题,该论文提出 double-rollout 强化学习:对每条 rollout 截断推理轨迹后采样多个续写,用续写奖励均值替代原始奖励,以更稳健地估计推理质量。
研究者提出几何锚定世界动作模型 G²WAM,用于图像目标导航。它通过学习式场景坐标定位模块将当前、目标与历史帧锚定到统一参考系,无需显式 3D 重建,并完全在潜空间中联合预测未来状态与动作,省去 CEM 式规划。在四个轨迹预测基准上,平均 ATE 与 RPE 分别降低 40.1% 和 35.2%;闭环导航成功率从 54.0% 提升至 63.0%,SPL 从 36.4% 提升至 59.2%。
针对多智能体讨论全图蒸馏中"过度教学"与"学习不足"的错配问题,研究者提出学习者中心蒸馏方法 FAR(Fold–Attempt–Revisit):训练前将同一讨论状态下的多个正确解折叠为代表性课程,训练后依据学生自身尝试定位遗漏问题并针对表征不足的聚类补写课程。在两个学生模型和四个推理任务上,FAR 以远更少的训练目标超越全图蒸馏,并降低学习不足率。
研究发现,在演化图流中,模型自身的归因解释可作为共形覆盖失效的早期预警信号。作者修正了朴素漂移统计量:将重要性以边存在为条件,并按结构角色聚合以消除边重标记带来的虚假漂移(合成图0.69、真实自我网络0.83均降至0.0)。双通道监测器在四类渐变场景下提前8至14.5步预警覆盖崩溃,真实交易自我网络上无调参的质量通道提前27步预警,且是唯一在平稳流上从不误报的通道。
研究者提出 XFD,一个由可解释 AI(XAI)引导的傅里叶域泛化框架,用于纯仿真的 sim-to-real 强化学习。它从仿真观测中提取可解释性归因图,转化为策略条件化的傅里叶域干预,在扰动外观敏感频谱成分的同时保留任务相关的空间结构,从而完全在仿真内构建增强鲁棒性的视觉域。
RAP-WAM 将预测排练(Predictive Rehearsal)与动作扰动(Action Perturbations)结合未来监督查询和 Coupled Action Projection 进行策略学习,无需独立评分网络或部署时探针,基座直接从视频预训练骨干学习。
研究提出链维度扩展(CDS),通过参数共享的单一特征交互块反复迭代,把迭代次数(链长)变成不增加参数的新扩展维度,并用轻量链内残差连接稳定优化。在生产级大规模多任务短视频排序系统中,压缩模式下 CDS 离线质量与基线差距在 0.03% 以内,可训练参数减少 26.6%,训练吞吐提升 6.4%;质量扩展模式下质量随链长单调提升。
一项系统受控研究发现,基于 LLM 的新颖性评估表现不佳:仅告知评审者认为某个想法新颖,就能让同一对想法中超过一半的判定发生翻转,成对准确率波动超过 50 个百分点,有时甚至低于随机水平。检索与更大的推理预算帮助有限,两个专门构建的新颖性评估器还不如最便宜的提示词基线。
MemoryAthena 通过直接 Engram 检索(E)、基于检索线索的生成(GE)和不查表的因果骨干生成(GH)三条路径,用轻量因果路由头判断生成记忆何时介入。在冻结骨干、记忆、生成器与读取器的情况下,问答五任务平均分从 37.65 提升至 39.28,六任务通用 NLP 平均分从 76.73 提升至 79.13。记忆侧系统约含 201M 参数,不含冻结骨干。
RetroPlanner 是一个基于 LLM 的逆合成规划器,可同时比较多条合成路线,并按反应合理性、往返一致性和起始原料价格引导搜索。它被训练在化学证据上推理,包括目标分子的结构进展、键变化与反应类型、候选路线的分歧点及多目标排序。在多步逆合成基准上,RetroPlanner 比此前的 LLM 规划器找到更多替代路线,同时提升路线质量并保持高成功率。
ChronoScribe 用语义-数值分工架构做指令驱动的时间序列预测:LoRA 微调的 LLM 负责解析指令、提出执行路径与上下文长度,冻结的 TSFM 负责生成分位数预测轨迹,LLM 不生成也不修改预测值。
研究者提出 LASE(Leader-Adaptive Structured Engagement),一种以领导者为中心的多智能体辩论框架,仅在非中性场景下选择性触发交互,默认使用简单聚合。
研究测试了以目标为中心、带缩放的 conceptor 补集中,拟合协方差滤波器对语言模型行为变化的贡献。在 α=.05、β=2 时,三个模型七个目标的 21 个拟合映射在生成干预层均扩展所有方向,矩阵校正仅占匹配对照位移的 0.093%–7.815%;1920 条回复的 480 组配对比较显示,保留矩阵会改变许多单条文本,但未能在四目标面板上确立一致的额外目标抑制收益。
TreeGraft 是一个多草稿模型框架,让不同成本的草稿模型共同构建一棵共享草稿树,用更强的草稿模型为弱草稿模型的候选重新打分、重选嫁接位置并恢复被遗漏的有希望路径,同时以非破坏性方式整合强模型扩展。它引入从离线价值系统蒸馏的轻量调度器来决定何时调用强草稿模型。在 10 组模型对和 6 个基准上,TreeGraft 平均超越两种固定单草稿模型端点策略中更优者 15.1%,最高增益 26.6%。
ReTAC 是一个免训练的多智能体框架,用于视频空间推理,主张测试时计算应当是"残差式"的:只对基座模型未解决的需求分配额外计算,并在局部失败后仅重算受影响的状态。它通过有序规划获取缺失的空间证据、用阶段对齐验证将失败定位到规划、感知或推理环节,并基于依赖关系恢复。在三个主流 MLLM 和两个基准上,ReTAC 取得对比方法中最高的综合得分。
研究者提出 PDRA(Paradox-driven Reasoning-based Attack),通过将恶意行为者与良性任务配对构建悖论叙事核心,并嵌入强制三阶段分析框架(表层目的、潜在意图、操作重建),引导 LLM 生成有害内容。该攻击使模型内部表征偏离拒绝相关模式,抑制安全触发词并激活规划类词汇,在多种 LLM 上取得 SOTA 攻击成功率。
DCGC 是一个基于掩码扩散模型(MDM)的全局纠错框架,以上游求解器的不完美解答草稿作为辅助上下文,结合任务特定 SFT 与推理时机制 Dynamic Dual-CFG。在数学、代码和知识推理基准上,DCGC 优于标准采样和更简单的 CFG 变体,并有结果提示可迁移到不同扩散骨干。在无真值失败标签的测试时设置中,DCGC 通过纠正低共识的上游输出提升全测试集准确率。