跳到正文
10月4日周日
  1. arXiv36

    多智能体证明搜索中的验证与累积失败:Viva La Vida 研究

    一项对智能体证明系统端到端追踪的研究分析了三次完整运行中的 51,754 条观测记录(186 小时,花费 5,694 美元),发现三种相互关联的失败模式。三模型验证器要求一致同意,并将解析或 API 失败视为不通过;在 12 次验证事件中有 10 次因某成员未返回可解析输出或出现 API 错误,使接受在算术上不可能。

  2. arXiv24

    Sparse Asymmetric Group-Query Attention:用非对称稀疏注意力加速 LLM 解码

    研究者提出 Sparse Asymmetric Group-Query Attention,通过减少 key head、保留更多 value head 来加速 LLM 推理。该方法发现稀疏注意力中概率与 value 的相乘已可忽略,瓶颈转移到 query-key 计算,因此削减 key head 能提速,而保留 value head 可在解码开销有限的情况下维持模型容量。

  3. arXiv27

    动态路由:LLM 测试时适应性的新维度

    研究探索动态路由程序能否为 LLM 开辟独立于 CoT 的第二条测试时适应轴,且无需梯度更新。这类程序执行模型部分层或迭代某些层,此前已被证明能在相似问题上带来准确率和效率提升,本文进一步追问能否从少量样本中快速识别出这类程序。

  4. 科技媒体 RSS39

    Yann LeCun:靠扩展 LLM 实现 AGI 不可能

    Yann LeCun 在 ETH Zürich 演讲中称,靠扩展 LLM 实现 AGI 是"不可能的"。他指出 LLM 训练约 30 万亿 token(约 10^14 字节文本,人类需读约 40 万年),而 4 岁儿童仅靠视觉在约 1 年 10 个月内就接收同等数据量。他认为智能是快速学习新任务的能力,扩展只增加存储知识,并不产生这种适应能力。

10月3日周六
  1. 科技媒体 RSS22

    SemiAnalysis 周报:GPU 是印钞机吗

    SemiAnalysis 新一期周报由 Jordan Nanos 等人拆解 GPU 经济性,涵盖 InferenceX 团队的 Engram 内存卸载、AgentX 利润计算器、TPU v7 与 Vera Rubin 对比 Blackwell,并讨论更快的 token 是否值得溢价。此外,TileRT 正在进一步压榨 NVIDIA GPU,周报也探讨了这对专用芯片意味着什么。

  2. Hugging Face Daily Papers31

    面向实时 VLA:阶段感知两步 Flow 去噪与系统级评测

    针对 VLA 模型低推理速率与机器人高执行速率之间的时序差,研究通过端到端延迟测量拆解了模型推理与机器人执行链的开销,发现重复 Flow Matching 去噪是推理成本的主要来源,机器人侧延迟则主要来自感知采集、通信调度与物理响应。基于速度场在积分早期幅值与方向较稳定、末端步骤方向修正更强的分析,提出阶段感知的两步 Flow 去噪方法,并给出系统级评测。

  3. 科技媒体 RSS71

    Google 论文 Cogentic:用多智能体编排让 Gemini 为 5 个未解数学问题找到新证明

    Google 发布论文 Cogentic,用多智能体编排让 Gemini 在 5 个未解数学问题上找到新证明,并经人类专家逐一确认。系统由多个 Agent 并行尝试不同思路,审查者默认每步有错直到被证明,已证明的中间结果留存到下一轮,多数问题约 100 次模型调用完成。论文地址为 arxiv.org/abs/2609.40324。

  4. arXiv41

    Queen:会下棋并解释走法的 4B 参数语言模型

    研究者提出 Queen,一个 4B 参数的国际象棋语言模型,能在达到典型特级大师(Grandmaster)水平的同时解释自己的走法和计划。该框架通过编码器-解码器架构与迭代蒸馏算法实现领域特定推理,弥补了传统棋力强但不解释、语言模型能解释但棋力弱的缺口。

  5. arXiv31

    FrugalEvo:面向成本感知的 LLM 引导程序进化

    FrugalEvo 是一个成本感知的 LLM 引导程序进化框架,由成本更高的强 LLM 探索解题策略、更便宜的 LLM 负责实现并迭代优化代码,以最大化单位成本收益而非固定迭代次数下的性能提升。该工作还设计了缓存高效的进化流程,针对圆堆积等计算优化问题,对标 AlphaEvolve 一类方法。

  6. arXiv22

    Pivot-SD:面向掩码扩散语言模型的高效自蒸馏方法

    针对掩码扩散语言模型(dLM)中少数去噪承诺决定整体输出的信用分配难题,研究者提出 Pivot-SD 自蒸馏方法,不再只训练最终文本或给整个去噪步骤分配奖励,而是定位并训练那些塑造响应的关键承诺 token。该方法面向 dLM 的并行推理场景,具体效果与可用性原文未给出。

  7. arXiv31

    面向终端智能体的依赖感知策略优化:Credit Where It Matters

    针对终端智能体在编码、调试等多步任务中,后续命令常依赖前序命令产生的信息或中间结果,而现有轨迹级与步骤级信用分配方法未显式追踪命令间的读写依赖,导致训练信号被分配给无关操作,该论文提出 Dependency-Aware Group Policy 方法,将信用分配与命令读写依赖对齐,以强化对关键步骤的学习。

  8. arXiv31

    推理模型在因果识别任务上准确但不健全

    研究发现推理模型在因果效应可识别性判断上存在"准确但不健全"的失败模式:会为可证明不可识别的查询给出公式,而这类答案无法用观测数据验证。为此研究者构建了 CERTID 形式化识别流水线,用可证明不可识别的查询和接受等价公式的评分方式弥补以往评测的不足。

10月2日周五
  1. arXiv26

    分阶段强化学习该用单一策略还是多策略?

    针对可分解为多个阶段、每阶段有独立转移概率与奖励函数的非平稳强化学习问题,该研究分析了分阶段场景下单一状态增强策略与多策略方案的差异,指出共享策略在理论上可以达到与多策略相当的性能,从而解释了此前多策略更优这一现象的原因。

  2. arXiv31

    EdgeAgent:在 CPU-GPU 统一内存架构上为终端多智能体系统编排端侧 LLM 推理

    EdgeAgent 面向终端多智能体 LLM 的隐私保护端侧部署,解决统一内存架构(UMA)上内存受限解码阶段引发的总线争用问题,避免朴素 CPU-GPU 协同执行失效。该系统还针对多智能体负载中投机解码草稿难度差异极大、工具调用频繁停顿导致的执行碎片化问题做了优化。

  3. MIT Technology Review · AI32

    别被迷惑——LLM 并不会推理

    前 Google DeepMind 研究员撰文指出,LLM 靠逐个预测 token 生成答案,本质只是 System 1 式的快速直觉,并非真正的推理。他认为 ChatGPT 类模型的思维链仍由同一套 next-token 预测产生,缺乏可检视的持久认知状态、知识与推理的分离,且常事后编造推理过程。他因此离开 Google DeepMind,主张借鉴 AlphaGo 的搜索架构来构建机器推理。

  4. arXiv27

    FERPO:前向熵正则化策略优化

    研究者提出 FERPO(Forward Entropy-Regularized Policy Optimization),一种 on-policy 最大熵强化学习算法,其策略改进直接使用 critic 的价值而不对 critic 关于动作求导,以规避价值预测准确却动作导数不可靠的问题。该方法针对连续控制中依赖 critic 动作梯度更新策略的现有方法所存在的策略更新不可靠风险。