Harmony Harness:Agent Harness 的多目标自进化框架
Harmony Harness 将 Agent Harness 的进化建模为多目标优化问题,用基于分解的进化搜索在 Pareto 前沿不同区域维护解,避免依赖手工设计的结构多样性指标。
Harmony Harness 将 Agent Harness 的进化建模为多目标优化问题,用基于分解的进化搜索在 Pareto 前沿不同区域维护解,避免依赖手工设计的结构多样性指标。
研究者提出 Welfare-Aware Preference Acquisition(WAPA),用辅助参考模型估计每条查询的边际福利增益与个体效用,在固定查询预算下按估计增益选择查询并更新受试者效用,并证明了该算法对估计福利目标的精确最优性。
研究者提出 RetroRLFF,从监督训练的 decoder-only Transformer 出发,用冻结的前向反应模型预测产物,以参考一致性与前向一致性组成的序列级奖励优化逆合成反应物生成。
论文提出 The Agentic Scientist,一个面向人类研究者的端到端分布式流水线,可与现代编码智能体协同开展计算研究。系统把研究拆分为任务起草、想法生成、规划、沙箱实验、结果聚合、基线与消融构建、事后分析和报告撰写,由 meta-controller 管理并行研究智能体并在各阶段执行 rubric 验证。
研究指出,将信任校准作为 AI 辅助决策的核心框架过于局限:信任 AI 只是管理不确定性的策略之一,且当 AI 面对目标与状态仅部分可知或不可知的"大世界"决策问题时,信任校准常被误用。在此类场景中,人机对齐需处理更高阶的决策过程,作者据此提出面向过程的人机耦合系统设计思路。
研究者提出 forecast grounding 预训练原则,要求语言对齐的时间序列表示在适配下游任务前仍能预测未来演化,并据此构建 LOTUS:将每个时间序列通道切分为不重叠 patch 映射进 LLM 嵌入空间,再由时间序列 token 的隐藏状态预测下一个 patch。
研究者提出 GesBench,一个基于人类交互的线索级社会感知基准,用累积子话语片段测量多模态 LLM 何时形成对说话人意图和社会可供性的稳定解读,并用人类注视引导的破坏评估人类关注区域对模型判断是否功能重要。该基准由 6000 多个话语级片段构建,涵盖开放式与闭源多模态模型,发现明显的人机差距:人类更早形成预测性理解且修正更频繁,模型则常在不同片段间含糊或重复。代码已公开。
一项案例研究将 DeepSeek-R1 的 CoT 推理能力蒸馏到 Qwen2.5-7B,在 John O'Bryan 数学竞赛题上把准确率从 64.67% 提升到 69.43%(5 次独立训练均值,标准差 0.17%),并在 MATH-500 上达到 73.1%。
研究者提出 Structural Chain-of-Thought 框架,让大语言模型生成可执行计算图而非自由文本推理,最终答案由图确定性执行得出。模型通过基于图的强化学习训练,奖励结构有效性、答案正确性和与参考图的节点重叠。
研究提出 Latent Compaction,通过测试时训练学习文档专属的紧凑 KV 缓存,模型权重保持冻结,训练仅用文档通用提示词、不接触下游问答。在 RULER 上 32× 压缩下准确率达 96.7%,KVZip+ 仅为 40.0%,并在 Qwen3 和 MiniCPM5 上展现跨模型规模与家族的检索增益。
研究者提出 Marvo,一种从无标注图像中学习工具调用的自进化方法,由生成问答对的 challenger 和通过强化学习解题的 solver 两个智能体组成。其核心是 margin reward,即 solver 在有工具和无工具时表现之差,据此构建自适应课程以鼓励有效工具调用。在智能体推理、视觉搜索、数学及通用真实世界推理等基准上,Marvo 平均准确率最高提升 7.1%。
巴西葡萄牙语原生 LLM Manacá-1B-Instruct-2 发布,基于 1.72B 参数的 Manacá-1B 用 291,223 条 SFT 语料完成第二代后训练对齐,三次 DPO 尝试全部为负结果。
研究在类数独的小型离散世界中测试深度循环模型的知识迁移能力,训练单一模型掌握多种规则组合,并在四个新颖性层级上评估。在重组已训练规则时,符号描述达到99%、示例为95%;当规则组件从未在训练中共现时,描述方式低于无信息基线,而示例方式仍高于基线。该框架比 ARC-AGI 等基准更系统地测试泛化能力,为评估深度循环推理模型提供新依据。
研究者提出 PerSo 基准,基于 Reddit ChangeMyView 社区的真实说服对话,用 LLM-in-the-loop 流程构建评估任务并经人工标注验证,同时考察 LLM 的认知智能与行为智能。对多个 LLM 的评测显示,性能总体随模型规模提升但各维度表现不一,最强 LLM 在行为任务上略超最佳人类表现,而最佳人类参与者在认知任务上仍保持领先。
研究提出 Inference on Demand(IoD),一种按需推理抽象,通过类 CAMARA 的 API 暴露拆分推理,并在 5G 用户面路径上带内传递拆分感知的 tensor 上下文。
论文提出 PrismaForge 分层数据流水线,以合成的评分标准把程序正确性、构建质量和渲染后的视觉正确性拆解为可检查的准则,同一套评分标准既用于筛选监督语料,也用于驱动视觉编码任务的强化学习。
研究者提出 Trace Evolution Bench(TEB),将端点增益拆分为重打分与上下文或权重更新,并给出三套冻结的 80/20/40 数据包,仅当验证集不下降时才接受更新。
VASPO 将特权自蒸馏信号与 PPO 结合,由 critic 基于预测的续写回报计算 token 级优势,自教师则通过有界概率比对选定的正优势进行调制。在六个数学推理基准上,VASPO 在 Qwen3-4B 和 OLMo3-7B 上平均准确率分别较 PPO 提升 2.59 和 1.81 个百分点,并在 Knights and Knaves 上取得所评估方法中的最高平均准确率。代码已开源。
研究者提出 Belief Embedding Tree Search(BETS),一种蒙特卡洛规划器,用生成分布嵌入(GDE)表示每个节点的信念,并通过 POMDP 动力学更新,信念模型与策略、价值网络一同从经验中训练,以 POMDP 的真实隐藏状态为训练目标。
ReaDy 是首个利用混合线性注意力(HLA)模型循环状态进行位置特定上下文检索的推测解码方法,为每个草稿位置配备可学习 query,从目标模型已提交的循环状态中检索补充上下文。
研究扩展了多环境 POMDP(ME-POMDP)的复杂度图谱,识别出哪些 POMDP 子类在扩展到多环境设定后仍保持 PSPACE 完全性。作者证明了多环境盲 MDP 和确定性 POMDP 的 NP 完全性,并为不满足混合封闭条件的子类证明了 PSPACE 完全性,还给出了多观测 POMDP 的新复杂度结果。
一项针对 10 个开源模型、8 种语言的偏见审计研究发现,全部 70 个模型-语言组合的刻板印象分数均低于英语水平,但这一下降主要来自测试项本身的变化而非模型更公平。翻译后的测试项与英语原项的分数相关性仅 0.23(忠实翻译为 0.27),远低于改写英语项的 0.48,说明平均分无法区分偏见降低与分数模式改变。研究还记录了三种会静默抹除偏见信号的常见流程错误,并开源了代码。
研究将偏好模型集成体之间的分歧作为预测误差的代理,把寻找评估器可能反转偏好的比较样本建模为 Leader 与 Follower 之间的零和 Stackelberg 博弈。
针对预训练 VLA 模型在未见长程任务中中途失败的问题,研究者提出按需递归自我改进框架 AdaRSI,先由编码智能体改进技能与执行框架,再通过从保存状态重试失败子步骤来归因,仅微调仍不可靠的子步骤。
研究者提出 Certified Adaptive Selection(CAS),在剩余不确定性无法改变结果时即返回精确 top-k 集合,其停止检验比较最差可接受入选者与最优可接受落选者,对信息不相交的笛卡尔区间该单切检验充要。
研究提出 semCER,在保留 CER 对齐方式与分母的基础上,由 LLM 评判为每个字素编辑赋予严重度权重,且无需分词。在英语、越南语和中文中,其评分逐条编辑地贴合读者评分,并能将读者认为最严重的编辑排在排序列表前列;在 CER 与 semCER 分歧的样本对上,英语和中文读者更常支持 semCER。研究还发布了 6100 万条已评判编辑、聚合读者评分及蒸馏评分器。
针对化学链式推理中可能出现的结构与性质幻觉,研究者提出 MolLean——一种将化学推理锚定在显式分子状态上的过程可验证语言,通过分层 Lean 内核检查分子状态转换与断言,并用类型化见证协议区分原生结构检查与外部测量。
研究者提出一种泰语 Klon Pad 诗歌生成器,以 WangchanBERTa 初始化的掩码语言模型在双层画布上解码:音层以硬掩码约束押韵、声调与音节数,词层保证整词不被切分,温度 0.4 每主题单次采样,无筛选、重排或修复。
研究者提出 Claim Cards,让科学主张验证智能体在收集证据前以九个字段显式记录自身解读,并标注为 stated、inferred 或 default。
FleetPilot 是一个细粒度、按实例定制的大语言模型个性化引导框架,可从用户数据动态生成样本级干预向量并注入模型前向传播。它通过 match contrast 提取用户相关信号、细粒度引导组件挂钩 attention 与 MLP 层激活、查询条件聚合模块合成上下文相关增强。
研究者提出 COUNT(Counting Offline Unlocks N-gram Transformers),通过把预计算的 n-gram 计数存在主机内存、不新增可学习参数来构建 n-gram 嵌入。
研究者提出 SkillHorizon 基准,通过技能组合在七种商业环境中构建长时程任务,任务依赖输入输出、共享资源与状态更新,参考交互负载从 64K 到 1M tokens。在 1,050 个任务上评测五个语言模型,平均局部目标完成率从 90.4% 降至 46.8%,负载越大智能体越常在工作未完成时提交失败答案。代码已开源。
一项研究分析了 RAG 模型在南亚多语言问答任务中的表现,探讨检索增强生成相比无上下文与有上下文回答能否提升正确率,以及 RAG 对文化类与非文化类问题的增益差异。研究还考察了 RAG 对热门与冷门文化问题的不同影响,旨在提炼高性能因素以指导优化混合 RAG 系统的设计。
AlphaRLM 是一个强化学习框架,训练 LLM 直接从金融文献构建可执行的符号化因子,无需输入因子表达式。它通过文献引导的算子组装(LEGO)提供语义先验,并用可执行有效性与分组收益分离奖励对齐市场反馈。在 CSI 300、CSI 1000 和 S&P 500 上,其年化超额收益优于强因子挖掘与 LLM 基线,8B 模型展现出较强的跨市场表现。
一项预注册冻结评测用 DeepSeek-V4-Flash、GLM-5.3-Flash 和 GPT-6.1-Sol 在 354 个事件活动语料上抽取实体,micro 精度仅 0.03-0.34,旗舰层级也未缩小差距。
一项预注册研究在 Qwen3.5-2B 和 9B 上测试了冻结 LLM 旁的无训练激活记忆:将经验引起的后层状态变化存为偏移,按对话要旨的白化键归档,仅在要旨匹配时回加。
MCPDisCo 是一个面向 MCP 原生智能体的生态级强化学习框架,基于 Thought-MDP 在 70 个 MCP 服务器、527 个工具的真实长程交互上训练。它针对推理与工具使用相互拖累的"跷跷板"失效模式,结合 token 掩码奖励归因与双向梯度手术进行缓解,以更少 CoT token 取得更高成功率。在 MCP-Atlas 与 GAIA 上保持单调增益,模型权重与实现已开放。
FOLD 是一种免训练的投机解码方法,保留精确的局部位置,并将所有远距离条目视为共享同一位置的远记忆,通过锐化注意力并单独控制其相对局部窗口的总权重来对抗注意力稀释。在六组目标-草稿模型组合、最高 256K token 的多种基准上,FOLD 大多取得最高加速比,最佳情况下较自回归解码加速从 2.08 倍提升至 4.22 倍。
VC-OPD 是一种面向视觉语言推理的在线策略蒸馏方法,通过对比原始图像与破坏实例证据的反事实图像下教师的输出差异,估计 token 级视觉依赖并据此对损失加权,再以保质量归一化稳定更新尺度。该方法在教师监督热启动后执行在线策略蒸馏,在多模态推理基准上提升了视觉推理表现,并产生更有效的 token 级蒸馏。
研究者推出一个细粒度多跳基准,用于可解释的波斯语仇恨言论分析,覆盖内容分诊、目标识别、仇恨策略与道德基础分析、文本证据抽取、有害叙事推断和严重程度评估。评测显示,任务越依赖细粒度语义与推理,主流 LLM 表现越差;闭源模型整体优于开放权重模型,推理型模型并无稳定优势。引入中间推理步骤相比一次性评估能显著提升严重程度预测,基准已公开。
共 2000 篇论文