跳到正文
10月2日周五
  1. arXiv22

    用贝叶斯辩证论证为多 LLM 议会校准置信度并抵御持续不可靠智能体

    针对多 LLM 议会中置信度只反映决断性而非正确性、且无法识别持续不可靠智能体的问题,研究者提出贝叶斯辩证论证方法,用于在持续对抗条件下校准多 LLM 议会的置信度并折损不可靠智能体。该方法将议会置信度重新定义为回答正确的校准概率,并据此聚合各模型意见。

  2. Hugging Face Daily Papers31

    Periscope:让冻结语言模型突破上下文窗口限制

    Periscope 是一种免训练的推理方法,将文本的 N 个分块排成 K×K 网格,让冻结模型对 K 个连续分块的局部片段和 K 个跨全文的跨步片段回答同一问题,并读取每个答案的对数几率。该方法针对在有限选项集上做判断的任务(如哪篇文档相关、哪个选项成立、哪段是证据),无需训练即可将冻结语言模型扩展到超出其上下文窗口。

  3. Hugging Face Daily Papers22

    6G Open RAN 意图解读:Jev 决策模型与 LLM 在 RIC 时延尺度上的对比

    研究对比 Jev-1.13.0 等决策模型与 LLM 在 RANIntent v1 基准上的意图解读表现,测试覆盖闭环 ns-3 仿真及真实 A1、E2 路径。Jev-1.13.0 返回带类型的策略字段,LLM 则逐 token 生成策略;中位解读耗时为 0.286 至 2.35 秒。研究关注 LLM 的额外延迟是否影响控制截止时间、RIC 容量或无线性能。

  4. arXiv26

    MoLE:面向互补视觉推理的潜在专家混合方法

    针对潜在视觉推理中多个 latent token 通过共享 value 投影访问同一视觉证据、导致潜在表示冗余的问题,研究者提出 MoLE(Mixture of Latent Experts),让不同 latent token 提取互补的视觉信息。该方法面向 vision-language 模型的连续中间状态推理,无需显式文本推理链或重复图像操作。

10月1日周四
  1. Hugging Face Daily Papers32

    如何更省成本地解码 Looped Transformers

    研究提出 LoopCD,一种免训练的对比解码框架,通过将最终预测与更早的循环轮次输出对比来引导 token 选择,从而更充分地利用 Looped Transformers 的中间表示。由于早期循环计算量更小,这种循环结构天然提供了对齐的弱-强预测对,无需辅助模型或额外训练。

  2. Hugging Face Daily Papers40

    超越记忆:用显式信念状态驱动长时程 LLM 智能体

    研究者提出 PoS,一种推理时框架,为 LLM 智能体构建并持续维护显式信念状态作为决策上下文,每个信念结合当前世界状态估计与未解决的任务需求,明确智能体仍需了解与完成的事项。PoS 通过校验一致性并持续监控来保证信念可靠可用,从而支撑长时程任务。

  3. Hugging Face Daily Papers28

    OmniSeek:面向多轮音视频推理的原生工具集成框架

    OmniSeek 是一个将 Omni-LLM 转变为具备原生工具调用能力的多轮推理智能体的框架,让证据获取成为推理过程的一部分,动态决定看还是听、以及覆盖哪个时间窗口,从而在长上下文中跨模态检索稀疏但关键的证据。检索到的原始音频或视觉片段通过迭代多轮协议回传,供模型继续推理。

  4. Hugging Face Daily Papers37

    后训练中的"锐化税":预训练 LLM 配轻量推理框架即可胜任智能体任务

    一项关于 LLM 强化学习后训练的研究发现,预训练模型配上轻量推理框架就能充当可用的智能体,尽管其 pass@1 准确率远低于后训练模型。该研究质疑了 RL 后训练只是"锐化"基座模型已有行为、以牺牲解法覆盖率为代价提升单次准确率的假说,指出这一权衡在需要多轮工具调用的智能体任务中未必成立。

  5. Hugging Face Daily Papers31

    AgSpec:在编码智能体流水线中突破基于检索的投机解码极限

    AgSpec 是一个面向编码智能体流水线的基于检索的投机解码框架,为现有检索引擎补上缺失的语料与草稿长度策略。现有方法在智能体流水线中表现不佳:大量可复用文本不在其语料中,或存储形式与智能体实际输出不一致,且草稿长度忽略了接受长度随智能体和轮次变化的问题。

  6. Hugging Face Daily Papers22

    Kinematic MeanFlow:面向机器人基础模型的一步式动作生成策略

    研究提出 Kinematic MeanFlow,用于在机器人基础模型(RFM)中实现一步式动作生成,以克服多步 flow matching 的高推理延迟。作者发现 MeanFlow 直接应用会导致性能崩溃,原因在于 RFM 速度场存在两种动态特性:局部加速度在去噪早期稳定但末期急剧上升,且其幅度在样本间的分布随去噪推进而变宽。

  7. Hugging Face Daily Papers24

    Jev 式类型化决策模型中标签覆盖定义

    针对 Jev 式类型化决策模型(为路由、审核与分诊设计的接口,每个选项带短标签和书面定义),研究对可检查、可修补权重的开源实现进行检验,发现概率跟随标签而非定义。该操作同样出现在语言模型通过给标签字符串打分充当分类器时。

  8. Google DeepMind85

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,随后逐步扩展到开发者、企业和消费者,起步价每百万输入 token 2 美元、输出 token 10 美元。

    推荐理由:官方给出 Argon 在编码、企业知识与网络安全防御上的评测成绩和内部落地案例,可据此判断前沿模型的能力边界。

9月30日周三
  1. Hugging Face Daily Papers38

    JevSpawn:通过组合式动作空间实现自适应智能体推理

    JevSpawn 是一种组合式策略,将自然语言任务描述与有限域上的概率探索连接起来,通过并行动作生成缓解 LLM 智能体逐 token 生成推理与动作带来的高延迟和高算力开销。它针对 Jev 风格模型需预先指定有限域、难以自主求解任务的问题,使可用动作能从自然语言指令中推导并随交互自适应调整。

  2. Hugging Face Daily Papers27

    更小的模型,更好的拒绝样本:偏好蒸馏的规模规律

    研究发现偏好蒸馏中"拒绝样本"不必来自与学生同等或更大的模型:在 7B 到 72B 的学生模型上,用更小的冻结模型生成拒绝样本,推理算力更低,却比自生成拒绝样本训练出更强的学生模型。该结论在代码生成与数学推理任务上、以及在序列级知识蒸馏前后均成立。

  3. Hugging Face Daily Papers24

    Neighborhood On-Policy Self-Distillation:用邻近参数扰动增强数学推理监督

    研究提出 Neighborhood On-Policy Self-Distillation,在 on-policy 自蒸馏(OPSD)中对特权教师模型做局部参数扰动,发现邻近参数设置能在同一参考解上下文中提供互补的、与参考对齐的修正,且不同专家在不同参考位置给出修正,其合集覆盖的位置多于未扰动的特权教师。该方法用于训练数学推理模型。

  4. Hugging Face Daily Papers22

    大语言模型注意力机制演进:机制、权衡与新兴趋势

    一篇综述将 LLM 注意力机制的发展统一视为模型内部上下文记忆,并提出记忆表示、记忆更新、访问、读出与整合五个维度作为分析框架。文章指出,自注意力虽能提供细粒度、依赖查询的上下文访问,但密集 token 交互带来二次方预填充成本,且 KV cache 随上下文长度增长,因此研究覆盖显式记忆压缩、稀疏访问、循环状态构建、结构化状态动力学与异构机制组合等方向。

  5. Hugging Face Daily Papers34

    超越记忆世界:面向演化环境的预测式 4D 信念持久导航

    研究提出"演化世界导航"任务,要求具身智能体在目标于未观测期间移动的情况下,从间歇性观测推断目标位置、预测其被检查时的状态,并利用视觉信息修正信念。现有记忆检索与状态预测方法难以应对持续发生的隐藏世界演化,以及在有限可见度下更新信念的挑战。

  6. Hugging Face Daily Papers31

    LEAP:面向长音视频感知的学习式分块证据检索

    LEAP 是一个让模型自行检索证据、无需将整段录像放入同一上下文的长音视频问答框架。它把录像切成固定时长分块,用轻量定位流程为每块内的候选短窗口打分,再将排名最高的窗口汇聚并在一次有界回答流程中重新编码,以缓解整段编码耗尽上下文与均匀时间压缩稀释细粒度音视频证据的两难。

  7. Hugging Face Daily Papers31

    Soft Spatial Reasoning:为 LVLM 空间推理引入软思考的后训练框架

    针对 LVLM 用 CoT 做空间推理时每步必须锁定单个 token、易因过早离散化传播错误的问题,研究者提出后训练框架 Soft Spatial Reasoning,在空间任务中引入软思考。该方法在每一步保留对空间解释的不确定性,而非强制提交单一 token,从而减少错误 token 选择带来的连锁推理偏差。

  8. Hugging Face Daily Papers31

    DAGent:面向深度研究智能体的“先评估再生长”规划方法

    DAGent 提出 Evaluate-then-Grow 规划方法,用于基于 DAG 的深度研究智能体,替代先规划后修补(Plan-then-Patch)策略。现有 DAG 智能体在执行前就实例化任务级计划,只在观察到失败或证据缺失后才修复图结构,在深度研究场景中较为脆弱。DAGent 让智能体在证据尚不充分时不必过早固化计划,而是边评估边扩展。

  9. Apple Machine Learning Research32

    LLM 条件控制中的有效性-流畅性权衡:一项系统性研究

    研究系统考察了 LLM 概念注入与移除场景下的多种条件控制方法,发现高效激活引导(activation steering)方法往往以流畅性大幅下降为代价。激活引导在指令微调模型上的效果远不如基座模型,而简单提示词与完整监督微调适合概念注入、却不擅长概念移除。低成本文本指标与昂贵的 LLM-as-judge 评分高度相关。

  10. Hugging Face Daily Papers35

    OmniReasoning:推动音视频联合推理的边界

    研究团队提出 OmniReasoning,包含音视频证据缺一不可的 OmniReasoningBench 基准、数据引擎与学习方法,该基准覆盖两类任务共 1,150 道选择题与开放题。现有基准、训练数据和学习方法大多将各模态独立处理,音视频联合推理能力因此缺乏充分评估与激发。

  11. Hugging Face Daily Papers31

    早期题目的计算能否帮助 LLM 解决新问题?

    研究发现,同一对话中保留的历史计算既可能提升也可能降低 LLM 后续题目的准确率,即使题目属于同一领域。作者用受控重放隔离出每个题目-历史配对特有的内部状态变化,发现不同历史下这些变化对当前题目间关系的保持方式相似,并提出改进保留历史下推理的方法。