跳到正文
10月16日周五
  1. arXiv cs.AI66

    ERA:用 LLM 引导树搜索自动生成多病原体疾病预测模型

    研究团队前瞻性评估了自主系统 ERA,它用大语言模型引导的树搜索迭代生成、评估并优化可执行的预测软件。在 2025-26 美国呼吸道季的实时评测中,ERA 为流感、COVID-19 和 RSV 生成了方法多样的模型,其集成模型在 CDC 季后官方评估中排名第一,并在三种病原体上均超过 CDC 的黄金标准预测集成。

  2. arXiv cs.CL60

    把任意地球观测任务变成递归自我改进:智能体自主构建遥感模型

    arXiv 论文提出把任意可验证的地球观测任务拆成 harness 与 verifier 两部分,由通用编码智能体据此自行构建并递归改进 EO 模型。在覆盖光学、SAR 和多光谱时间序列的六个 EO 基准上,智能体构建的模型全部超过当前最优水平,其中土地覆盖制图仅用 11% 的训练标签。作者认为这确立了人类设计 harness 与 verifier、智能体构建模型的新范式。

  3. arXiv cs.AI40

    语言模型智能体的自编程执行(SPE)与 Spell 语言

    论文提出自编程执行(SPE),让模型补全本身充当编排程序,harness 只负责求值而不施加固定编排策略。为此作者设计了可自我编辑并重新求值的 Lisp 方言 Spell,使模型调用等副作用表达式在重求值时不重放。未经 SPE 或 Spell 训练的前沿模型可在上下文内学会 Spell 并完成挑战性智能体任务,代码已开源,论文被 NeurIPS 2026 接收。

  4. arXiv cs.CL32

    KV²:一种自精炼的 KV Cache 压缩方法

    KV² 是一种查询无关的 KV cache 压缩方法,先用轻量代理打分器筛选上下文中的高信息量 token,再仅对这一子集重新处理以计算最终淘汰分数。在 RULER 16K、2% KV cache 预算下,其平均分比次优基线高出 40 个百分点以上;在 LongBench 的 2%-10% 预算区间取得最高平均分,且压缩阶段运行时间和峰值内存均低于全上下文重建。代码已开源。

  5. arXiv cs.AI40

    语言模型能识别自身激活上的 dropout 与高斯噪声

    研究发现语言模型能检测、定位并一定程度描述施加在其激活上的语义无关扰动。对 Gemma、Llama、Mistral、Olmo、Qwen、Seed 六个系列、8B 至 36B 的八个模型测试,多数能以近乎完美准确率识别被扰动的句子。Olmo 在预训练中形成该能力,Qwen3-32B 与 Qwen3.8-27B 识别扰动类型的零样本准确率与扰动强度相关。

  6. arXiv cs.CL22

    混合来源大语言模型文本中的最优水印定位

    研究将水印定位形式化为基于枢轴统计量的 token 级多重检验问题,用隐变量记录每个位置的水印依赖是否在改写、插入、删除或改写后存活。理论推导给出全局检测的锐利边界,以及发现与分类的相变,证明发现严格难于检测、一致分类在该参数区间内不可能。作者提出自适应阈值方法,无需已知稀疏指数或时变下一 token 分布,即可达到最优发现边界。

  7. arXiv cs.AI26

    JEPA-DNA:用联合嵌入预测架构为基因组基础模型注入功能语义

    JEPA-DNA 是一个模型无关的持续训练框架,将联合嵌入预测架构(JEPA)与生成式目标结合,通过监督潜空间中的全局序列嵌入,让模型预测被掩码基因组片段的功能表征,把学习信号从 token 还原转向语义对齐。在 17 项基因组基准任务上,无论底层 GFM 架构或生成目标如何,线性探测与零样本性能均获一致提升,并在线性探测协议下刷新 GFM 的 SOTA。代码见补充材料。

  8. arXiv cs.AI32

    Agent Skill 框架:中小型语言模型在工业环境中的潜力研究

    一项大规模实证研究评估了 Agent Skill 范式在 270M–80B 开源模型上的可行性,覆盖保险理赔分类与 Python 编程两类任务。结果显示极小模型常无法检索或选择正确技能,而 30B–80B 模型从技能增强中获益显著。研究还给出面向部署的 GPU 显存时间占用(GB·min)画像,揭示技能增强收益随模型规模、任务复杂度与 GPU 预算的变化。

  9. arXiv cs.AI27

    从自产数据中泛化:超越人类约束的模型训练框架

    该论文提出一种让 AI 模型通过与环境的直接交互自主生成并验证新知识的框架,核心是一个不可博弈的无界数值奖励(如磁盘占用空间或粉丝数),无需人类基准即可引导学习。AI 智能体迭代生成策略和可执行代码以最大化该指标,成功结果用于自我再训练和增量泛化,并通过 GRPO 支持微调以缓解模型崩溃和冷启动问题。系统采用模块化智能体完成环境分析、策略生成与代码合成。

  10. arXiv cs.AI22

    Atomic-PPO:面向电动 Robo-Taxi 调度与充电桩分配的原子近端策略优化

    研究提出 Atomic-PPO 深度强化学习算法,通过原子动作分解缩减动作空间,以较低算力开销求解电动 Robo-Taxi 的车队调度与充电桩分配问题。基于纽约市真实网约车出行记录标定的仿真显示,该算法能产出接近最优的调度策略,并可作为系统评估工具。实验还表明,充电桩布局应贴合乘客需求分布,充电桩数量与充电速度需均衡投入,且充电基础设施应与车队规模协同规划。

  11. arXiv cs.CL22

    面向跨模态与跨解剖部位的放射学报告评估:更对齐的 LLM 评判模型研究

    研究系统评估了 LLM 作为放射学报告评判模型在多种成像模态和解剖部位上的表现,提出新指标 VERT,其与放射科医生判断的 Kendall 相关性较 GREEN 最高提升 26%。在现有指标中 GREEN 最稳健;对 Qwen3-30B 进行集成和轻量微调分别带来最高 9.9% 和 25% 的提升,后者延迟降低 37.2 倍。误差分析显示这些指标虽整体与专家评分相关,但易在遗漏类错误上计数失准。

  12. arXiv cs.AI26

    LIBERO-PeRM:个性化机器人操作基准发布

    研究者推出 LIBERO-PeRM,一个用于具身智能体偏好学习的基准,基于 LIBERO 构建,覆盖运动、技能和用户画像三类可观察偏好,包含 5 个任务套件共 312 个任务。实验显示当前 VLA 策略难以零样本个性化,SFT 可让偏好变得可学习,混合训练在无偏好保持上优于顺序适配,但偏好泛化、分解与冲突处理仍是难点。

  13. arXiv cs.AI37

    用大语言模型发现最先进的量子电路

    研究者提出一个进化框架,由 LLM 提出量子电路设计、独立评估器负责验证与打分,并在数值计算、化学、优化、量子模拟和数论等任务上测试。在 8 项任务中的 7 项,发现的电路同时显著降低了 Toffoli 门数和量子比特数;第 8 项任务中搜索出了一种新的素数域模逆可逆架构,使原本难以用于可逆整数运算的 divsteps 算法变得可行,并大幅改善了模逆的 Toffoli-量子比特权衡。

  14. arXiv cs.CL24

    解决跨任务干扰:面向模型合并的专家适配方法 RI

    研究者提出轻量适配框架 Resolving Interference(RI),通过将各专家模型解耦为与其他任务空间功能正交,降低模型合并中的跨任务干扰。RI 仅需无标注辅助数据即可应用,在数据稀缺场景下也能使用,将 SOTA 合并方法性能最高提升 3.8%,对未见域泛化最高提升 2.3%。该方法对辅助输入来源稳健,且对合并超参数调优的敏感度显著更低。

  15. arXiv cs.AI34

    T2-Z:面向机器人世界模型的环境隐变量测试时优化

    T2-Z 通过为机器人世界模型附加可学习的环境隐变量,在测试时冻结世界模型、仅用一次或多次交互轨迹优化该隐变量,从而适应未见过的环境配置。在 7 个模拟设置和 4 项真实机器人任务中,物体预测误差指标从 15.20 降至 7.00,动作成功率从 33.73% 提升至 72.96%。消融实验显示,T2-Z 仅凭单条测试时交互轨迹即可高效推断环境隐变量。

  16. arXiv cs.CL22

    CE-RAG4EM:面向 LLM 实体匹配的成本高效 RAG 分块批处理框架

    研究者提出 CE-RAG4EM 框架,通过基于分块的批量检索与生成,降低 LLM 实体匹配中 RAG 的端到端开销。在九个真实实体匹配基准数据集上,该框架在零样本设置下取得相当或更优的匹配质量,并在属性模糊或数值稀疏的数据集上显著提升 F1 分数。分析还揭示了分块批量大小与检索粒度上的性能-开销权衡。

  17. arXiv cs.AI22

    重新思考现代 MoE 中的路由探索:MirrorMoE 如何化解探索困境

    研究指出现代 MoE 架构中细粒度专家分割与共享专家之间存在"探索困境":共享专家降低了 token 表示的多样性,削弱路由探索,而细粒度分割又因组合爆炸式扩大的路由空间更需要探索,导致其表达能力难以充分释放。为此提出的 MirrorMoE 通过 token 自适应抑制冗余专家来缩小探索空间,在不同模型规模上均稳定提升性能。

  18. arXiv cs.CL24

    AlignSAE:概念对齐的稀疏自编码器

    AlignSAE 通过“先预训练、后后训练”的两阶段方法,将稀疏自编码器(SAE)特征与预定义本体对齐,在 GPT-2 上实现精确因果干预,1-hop 概念替换成功率达 94.8%。其解耦效果较标准 SAE 提升 9 至 ∞ 倍(以互信息差衡量),并支持多跳推理与类 grokking 泛化动态的机制探针分析。该方法与模型无关,已发表于 TMLR。

  19. arXiv cs.CL24

    LLM 生成文本如何影响基于词项的检索模型?

    研究发现,LLM 生成文本呈现更平滑的高频 Zipf 斜率、更陡峭的低频斜率和更高的词项特异性,文档级多样性也更强。基于词项的检索模型并不存在固有的来源偏见,而是优先返回词项分布与查询更接近的文档。该工作为理解和应对混合来源内容下基于词项的 IR 系统潜在偏见提供了基础。

  20. arXiv cs.AI36

    DSP:从监督式玩耍中学习灵巧操作

    机器人框架 DSP 通过行为克隆从数分钟人类玩耍数据中学习玩耍策略,再自主部署收集数小时交互数据训练世界模型,推理时由该策略为 MPC 提出候选动作序列。团队还提出在世界模型内通过自博弈蒸馏闭环目标条件策略的方法。真实世界实验中,该方法成功率比 hindsight 行为克隆高 69.6%,并以少 490 倍的交互数据达到与强化学习相当的成功率。

  21. arXiv cs.AI24

    ACEdit:用非对称条件化实现稳定的多轮图像编辑

    ACEdit 提出一种训练方案,让图像编辑模型在多轮编辑中保持稳定:训练时强制编辑器处理自己前几轮的输出,把 Self-Forcing 引入图像编辑。由于自生成轨迹偏离真值、直接监督不可靠,该方法用蒸馏目标让教师编辑器提供可靠信号,并采用非对称条件化——学生基于自身输出顺序编辑,教师始终锚定原始干净图像并接收复合编辑指令。实验显示长多轮序列中的质量退化显著降低,同时保持编辑质量与指令遵循。