跳到正文
10月9日周五
  1. arXiv cs.AI12

    合成血管预测表示中的干预锚点与科学验证

    一项合成数值审计研究提出,完整正交预测坐标本身无法将潜在方向绑定到具名干预,需借助干预锚点才能恢复可解释性。容量匹配的最小二乘预测器在固定输出变换下完全等价,六组三维配置跨 64 个随机种子给出最大配对预测差异 6.7e-15,但未传输编辑误差中位数达 1.513,坐标传输可消除该误差。

  2. arXiv cs.AI22

    面向智能序贯决策的 3D 表征框架

    研究者提出一个三维表征框架,将 AI 方法投影到 MDP 序贯决策形式化,并从自主程度、技能与计算成本三个维度进行分析。该框架以汉诺塔为基准,对比了 Neurosolver、FBRL 与 AutoToS(含双智能体扩展 DA-ToS)三类方法。结果显示,基于 LLM 的方法因动作空间约束较弱,将复杂度从架构转移到推理时验证,内存与运行成本显著高于 Neurosolver 和 FBRL。

  3. arXiv cs.AI24

    ReTeach:通过多轮反思与重试构建自教师模型

    ReTeach 是一个反思式自蒸馏框架,仅用自生成尝试和结果级验证,通过多轮反思与重试构建自教师,无需参考答案、外部诊断反馈或跨样本记忆。在数学推理、科学问答和工具使用等六个基准上,ReTeach 平均准确率较 GRPO 提升 1.39 个百分点,学生模型经 on-policy 蒸馏后仍保持单次推理。

  4. arXiv cs.AI27

    BEVPIPE:用可移植 GPU 计算部署 BEV 感知管线,解决算子不匹配问题

    BEVPIPE 是一个用可移植 GPU 计算 API 部署多模态 BEV 感知管线并接入生产推理运行时的框架,通过将模型拆分为运行时管理的稠密子图与体素化器、稀疏编码器、BEV 投影器三个外部算子扩展,并以共享 GPU 内存空间连接,实现相比传统部署 19.5 倍的端到端加速,同时保留 98.5% 的参考 mAP,并可跨不同 GPU 后端移植。

  5. arXiv cs.AI23

    Fed-GRPO:奖励信号驱动的联邦群体相对策略优化

    Fed-GRPO 是一个联邦 GRPO 训练框架,让多个客户端在不共享原始数据的前提下协作训练 LLM 推理能力,并利用 GRPO 训练中自然产生的奖励统计作为零成本信号。它包含信号加权聚合、全局奖励校准和自适应稀疏通信三种机制。在数学推理任务上,其性能优于 FedAvg 并接近集中式训练,通信量无损降低 32 倍,在紧张带宽预算下最高支持 621 倍压缩且精度仅轻微下降。

  6. arXiv cs.AI22

    BridgeGuard:面向扩散模型自动驾驶的显式安全漂移约束方法

    BridgeGuard 是一种安全约束扩散规划方法,在去噪过程中逐步强化约束项,将中间轨迹推向场景相关的安全域,修正仅在低维曲线空间进行以保持几何连贯。其 DistanceFieldNet 模块从鸟瞰图特征预测时变距离场,通过在专家轨迹之外采样查询进行值与空间梯度监督,学习安全与不安全区域。

  7. arXiv cs.AI20

    利用势函数高效估计自回归语言模型下的期望值

    研究者提出用势函数(prefix 上的实值函数)分解测试泛函,利用采样时附带产生的下一 token 条件概率来降低自回归语言模型期望估计的方差。该方法给出了势函数降低方差的条件,并为多种估计目标设计了实用势函数,在相当计算成本下实现了显著方差缩减。

  8. arXiv cs.AI22

    扩散模型中的扰动传播:相同路径代价为何产生不同输出影响

    研究提出一个理论框架分析扩散模型采样中扰动的传播机制,用扰动与参考轨迹分布间的 KL 散度定义"路径代价",证明其能约束但不决定输出分布的变化。在预训练扩散模型上以相同路径代价进行受控干预,发现输出敏感度随采样阶段和空间频率呈现不同模式;将该分析用于缓存加速时,能可靠识别缓存导致较大图像误差的采样区间。

  9. arXiv cs.AI28

    RaReCache:基于秩不一致选择性重算的跨模型 KV Cache 复用框架

    RaReCache 通过秩不一致度量识别信息密集 token,仅重算部分位置即可让大模型准确复用小模型预填充的 KV Cache。在 Qwen3-0.6B 到 14B 的 23 倍参数差距下,重算 30% 位置保留 95-99% 目标精度;Llama3-8B 到 70B 的 8.8 倍差距下,重算 40% 保留 96.5% 精度,并实现最高 3.04x 预填充加速。

  10. arXiv cs.AI24

    RL-ARC:通过推理引导的不确定性校准大型推理模型

    针对 RLVR 训练导致推理模型校准退化、过度自信的问题,研究者提出校准感知训练框架 RL-ARC,联合利用推理置信度与答案置信度,将推理置信度作为正确样本的推理引导正则项、错误样本的过度自信惩罚项。在 ID 与 OOD 设置下,RL-ARC 在改善校准的同时让推理模型能根据问题自适应估计置信度,且未显著牺牲推理性能。

  11. arXiv cs.AI22

    ORDO:面向 MIP Presolve 的操作级轮次感知动态排序

    研究者提出 ORDO,将混合整数规划(MIP)的 presolve 规划重构为统一原子动作空间上的自回归序列生成,把决策对象从参数配置转为动作序列。该方法在多个未见领域实现端到端零样本加速,据称是 presolve 动作序列上的首次。部署时采用序列 racing,通过修改 SCIP 源码注入序列并记录实际执行的动作及其轮次。

  12. arXiv cs.AI22

    用可能性推理实现开放式科学发现

    研究将开放式科学发现问题形式化为溯因自主科学发现(AASD),基于可能性理论提出可计算的溯因效用度量,并给出首个 AASD 算法 possibility frontier search,在合适条件下保持 anytime 有效性并渐近达到 ε-最优溯因效用。合成与真实科学发现任务实验显示其表现强劲。

  13. arXiv cs.AI24

    LLM-IDEA:可辨识性驱动的实验智能体,自主发现机制世界模型

    研究者提出可辨识性驱动的实验智能体 LLM-IDEA,其可辨识性引擎对实验平台期给出三分类判定:能力上限、设计类内可解、或已证明穷尽。在 ODEBench 上,62 个含自由常数的系统中 60 个在第 0 轮即可辨识,RC 电路被判定为穷尽,收获模型仅需增加一个初始条件即可求解。

  14. arXiv cs.AI22

    推理强化学习轨迹采样中参考引导与自由生成的平衡

    研究提出 Adaptive Reference Guidance(ARG),通过前缀续写让模型从参考解前缀继续生成轨迹,验证通过则保留、否则回退到参考解,并用续写结果学习跨题目共享的前缀选择器。该方法应用于 GRPO 的全失败组,在 Qwen3-4B 和 Qwen3-8B 的五个数学推理基准上取得所评估方法中最高的 aggregate pass@12,平均采样准确率也具竞争力。

  15. arXiv cs.AI31

    OpenProblemBench:在基础理论科学开放问题上评测 AI

    OpenProblemBench 是一个包含 82 个未解数学与理论物理问题的基准,每题附研究背景、假设与已有进展,并选取其解答的关键数学或计算主张可被较清晰检验的问题。四个评估模型在无参考解的情况下独立评判提交的正确性、完整性与进展程度,七个配置中 GPT-6-Astra 平均判定解决率最高,为 14.0%,全尺寸开源模型为 5.5-6.7%,Flash 模型为 2.4-3.7%。

  16. arXiv cs.AI22

    Agentic AI 的验证与自我改进:基础与边界

    研究提出用有界验证框架区分 Agentic AI 系统性能提升的不同机制,将阶段定义为可接受转录、多项式界、交替验证协议与终端检查器的组合。在均匀逐点概率间隔与任务相对可靠性下,独立多数放大可保持原生可达与闭包前沿两类语言,而随机磁带上的存在性接受可能引入错误输出。递归自我改进中,在共同可靠解释器与固定验证协议下的一致有界自我修改仍处于同一验证类,另设条件误差预算控制自适应候选选择中的误选。

  17. Hacker News24

    自剪枝 Transformer:Universal Attention 实现极端 KV-Cache 压缩

    研究者提出 Universal Attention,一种端到端可训练架构,用复合衰减机制作为自适应剪枝准则,剔除对注意力计算贡献最小的 token,同时保留 RoPE 位置嵌入与 Softmax 注意力。该架构在自然语言和合成任务数据上实现 SOTA 的 10× 压缩,下游性能优于 SOTA 基线和未剪枝 oracle,并在 16k 长度下实现 25× 压缩,展现出更强的长上下文泛化能力。

  18. Hacker News60

    在 CPU 上从零构建并训练 25M 参数 LLM

    freeCodeCamp 发布一小时视频教程,教你在笔记本或普通 CPU 上从零构建、预训练并微调一个 2500 万参数的语言模型。课程涵盖混合线性/稀疏注意力、MoE、绑定嵌入权重和多模态图像 patch 输入等现代 LLM 架构,并演示模型从随机字符生成逐步学会 Python 语法。后训练部分搭建轻量 RL 循环,让模型写代码、跑单元测试并获取奖励,任务成功率从 0% 提升到通过多数评测。

  19. Hacker News13

    用拓扑斯理论设计生成式 AI 与 LLM 新架构

    研究者提出用拓扑斯理论研究 LLM 架构,将 LLM 视为函数构成的范畴,证明其具备(余)完备性并构成拓扑斯,从而支持拉回、推出、(余)等化子、指数对象和子对象分类器等通用构造。论文进一步用反向传播的函子刻画给出 LLM 拓扑斯架构的潜在实现方案,探索超越线性链式与 MoE 的新型组合结构。