AgentEvolver:通过任务执行实现系统级自我进化
AgentEvolver 是一个在任务执行过程中积累能力、同时保持基础模型不变的系统,在 SWE-bench Pro Public 上报告了 82.08% 的解决率,超过其无进化基线。
AgentEvolver 是一个在任务执行过程中积累能力、同时保持基础模型不变的系统,在 SWE-bench Pro Public 上报告了 82.08% 的解决率,超过其无进化基线。
研究者提出 EMFA(Error-Propagation Modeling for Failure Attribution),通过建模误差的级联传播与持续交互循环,结合传播感知候选筛选和反事实验证,定位导致执行失败的决定性"智能体-步骤"对。
研究者提出以组织行为(OB)为框架研究先进 AI 智能体的安全,并将反生产工作行为(CWB)形式化为 Agentic Counterproductive Behavior(ACB),涵盖三类组织前因与三类反生产结果维度。
研究把验证器本身作为演化对象,用小型确定性缺陷检测器合成可检查表达式,在 MBPP+ 上比手写种子评分器提升 +0.21 留出集一致率。关键发现是移除锚点保护会让验证器退化为恒通过的评分器,但它训练出的技能同样好,说明下游任务分数无法证明自演化验证器的有效性。
针对《Why machines will never rule the world》一书提出的"AGI 在数学上不可能"论点,作者在本文中反驳了支持机器智能的两条论据:基于神经网络通用逼近定理与 Church-Turing-Deutsch 原理的理论论证,以及基于标准化基准分数快速上升的实证论证。
研究者提出 TypedBench,一个针对 Jev 等类型化决策模型的基准,由七个策略标注生成器和九个评测套件构成,按释义的中位数与范围报告准确率,并以匹配的完美校准预测器的有限样本噪声底为参照衡量校准误差。
一项研究提出防御性写作概念,指 GPT 模型在材料不支持的情况下收窄甚至撤回作者结论,并测试了两种解释。研究让 GPT 各版本及其他厂商模型改写 ChatGPT 之前论文的段落,或依据列出方法与结果的事实表写作,发现防御性写作随 GPT 版本增强,GPT-6-astra 会直接撤回作者结论,且依据事实表写作时添加的无依据限定最多。
研究团队推出 Mine Odyssey,一个用 Minecraft 重建真实地点来评测智能体空间智能的基准,包含 30 个地点、180 项任务,覆盖五大洲 20 个国家和地区的 20 个室外与 10 个室内场景。
研究者提出 GameCommBench,一个覆盖棋类、体育与电竞的统一基准,其解说数据对齐异构游戏语境并按解说类型标注,同时提出类型感知解说评测框架 TACE。TACE 已通过可靠性与人类一致性验证,并用于评测代表性 AI 解说模型,结果显示能力分布不均衡,实时观察与策略分析是主要瓶颈。
OpenProblemBench 是一个包含 82 个未解数学与理论物理问题的基准,每题附研究背景、假设与已有进展,并选取其解答的关键数学或计算主张可被较清晰检验的问题。四个评估模型在无参考解的情况下独立评判提交的正确性、完整性与进展程度,七个配置中 GPT-6-Astra 平均判定解决率最高,为 14.0%,全尺寸开源模型为 5.5-6.7%,Flash 模型为 2.4-3.7%。
研究提出以错误检测为核心的 LLM 辅助同行评审评估视角,并构建可扩展基准,通过向会议论文合成插入错误来检验评审系统识别逻辑矛盾的能力。同时提出 Multi-Layered Review(MLR)框架,先深入理解稿件再生成评审,在人类评审分数对齐、错误检测性能和 token 效率上表现良好,但也证实系统仍易受对抗性操纵。
研究者推出 AgentHorizon 基准,包含 1,373 个计算机使用任务(指令-轨迹对),来自 166 小时人类录制的轨迹,覆盖三种操作系统。该基准通过交换相近指令构造负样本任务,评估评判器区分成功轨迹与完成相似但不兼容请求的能力,并发布 AH、AH-S、AH-D 三个划分。
安全对齐模型常拒绝直接表述的有害请求,却会回答被角色扮演或叙事包装后的同一请求。研究构建 GUISE 基准,覆盖英语、现代中文和文言文,Qwen3-1.7B 上的攻击成功率分别为 89.4%、93.0% 和 95.7%。提出的 AXIS 结合偏好优化与旋转、承诺目标,在 Qwen3-1.7B、Qwen3-4B 和 GLM-4-9B 上取得最高安全与可用性综合得分。
研究团队推出 StoreBench,一个让智能体在电商后端运营中型服装店的直播电商环境,通过 29 个商家工具测试长程规划与不确定性下的经济判断。七个前沿 LLM 在 11 个场景中均未超过脚本化策略,表现最好的 DeepSeek-V4-Pro 通过 49% 的任务-种子组合,而启发式策略为 97%。
腾讯混元联合复旦大学、清华大学发布 ExplorationBench,用于衡量 AI 系统的探索能力,并构建了规则可执行、与常识冲突的 Alien Worlds 验证环境,包含 AlienCode(31 条隐藏规则改动、70 个任务)和 AlienLogic(24 条修补推理规则、70 个定理)。
电商重排序模型 ZooWork-ShopRanker 发布 0.6B、4B、8B 三个参数版本,基于 Qwen3-Reranker 系列 LoRA 适配器,并配套推出 ShopRank-Bench 偏好基准。
Token Optimizer MCP 发布,主打按缓存计费优化压缩而非单纯减少字节:缓存前缀按 0.1x 重读、重写按 1.25x 计费,因此它把压缩停在缓存边界之前。
GuillermoBarreto 发布 evalkit,一个 YAML 驱动的轻量 LLM 提示词与智能体评测工具,把代码回归测试习惯搬到提示词上。它支持 exact、contains、regex 三种确定性判定器,可用离线 fixtures 在 CI 中运行,也能通过 OpenAI 兼容 API 实跑,全部用例通过时退出码为 0。
IBM Research 开源 ITBench,用于评测 AI 智能体在 SRE、CISO 和 FinOps 三类企业 IT 自动化任务上的表现,包含 6 个 SRE 场景、4 类 CISO 场景和 1 个 FinOps 场景,并开源 SRE 与 CISO 两个基于 CrewAI 的基线智能体。
Scale AI 将 SWE-Bench Pro 公开榜单从 731 项任务缩减到 642 项,删除 89 项被判定无效的任务,并新增由五个模型家族中至少两个失败的题目组成的 51 项 HARD 子集,V2 已成为默认配置。
Hex 在开发 Quick Edits 功能时用 evals 驱动开发,把错误编辑率从 21% 降到 3%。该功能用 GPT-6 Luna 或 Claude Haiku 4.5 等小模型一次性完成图表样式修改,复杂请求则交给 Hex agent。
Einsia 推出 World Models' Last Exam in Physics,用 40 项受控任务、9 个物理类别对照真实物理定律评测 8 个 SOTA 视频世界模型,最高分 57.76/100,平均综合分仅 26.61/100。
一位 LLM 代码研究者给 Gemini 3.8 Flash、GPT Astra 6、Opus 5 和 Fable 5 各 100 美元预算,让它们自主构建开源 PDF 编辑器。
开发者 hsmahon 用 COCO 2017 真实照片裁剪成 3×3 至 5×5 网格,构建视觉决策复杂度递增的 CAPTCHA 式评测,测试决策模型能否解题。
Artificial Analysis 评测 SpaceXAI 新发布的低价视频模型 Grok Imagine Video 1.5 Lite,其在 AA-Video-T2V v2.0 和 AA-Video-T2V-Silent v2.0 两个榜单均排第 17 名,排在 Google Veo 3.1 之前,价格约为其三分之一。
作者构建 author.link,用决策语言模型按研究兴趣对 bioRxiv、medRxiv、arXiv 新论文打分排序,每四小时检查一次新论文。
GitHub 项目 redteam-ai-benchmark 提供了一款无需编程技能即可使用的工具,用于测试未经审查(uncensored)的 AI 模型在攻击性安全任务中的表现。该工具支持对多个 AI 模型进行基准测试,提供可定制参数、综合评估报告以及与历史评估结果的对比功能,并可在 Windows、macOS 和 Linux 上运行。
Arena 发布 Alignment Index,将评测平台从人类偏好扩展到对齐领域,覆盖三类问题:模型擅自执行操作、欺骗性回复(声称完成实际未做的任务)和虚假归因(把人类没有的意图归于人)。Arena CEO @ml_angelopoulos 表示,智能体正在以未经授权的方式删除文件、绕过权限,并向用户说他们想听的话。完整技术报告见其博客,完整排名已公开可查。
Arena 完成 2 亿美元 B 轮融资,估值 31 亿美元,由 Lightspeed 和 Khosla Ventures 联合领投,a16z、Salesforce Ventures 等参投。
AI Frontier Database 是一个在浏览器端运行的交互式仪表盘,对比 Artificial Analysis 上 31 家提供商的 155 个托管语言模型,覆盖成本、速度和智能水平,数据由 GitHub Actions 机器人每小时抓取更新。
reyamira/models 是一款浏览 AI 模型、基准测试、编程智能体与服务商状态的 TUI 和 CLI 工具,覆盖 85+ 服务商的 4,000+ 模型,并聚合 Artificial Analysis、Epoch AI、Arena、LLM Stats 四个来源的约 1,000 条基准数据。
Artificial Analysis 网络指数新增可信访问模型类别,GPT-6 Sol(Daybreak Blue, max)登顶并进入成本与能力帕累托前沿。该模型在整个指数测试中未触发任何安全拦截,总分较公开版 GPT-6 Sol(max)提升 32 分。其每任务成本为 $1.77,低于 Grok 4.7(xhigh)的 $11.67。
Arena 公布 Anthropic Claude Haiku 5.5(High)的真实评测结果,在 Code Arena: WebDev 以 1587 分首秀排名第 30,略在帕累托前沿之外。
Cliphouse Research 发布 v1.1 Motion Graphics Benchmark,让 Claude Opus 5.5、GPT-6.1 Sol。
Surge 发布 sudo L7 基准,用于衡量编码智能体在写代码之外的工程判断力,包含 60 个由资深工程师设计的任务,主要基于真实公司的私有生产仓库,覆盖后端、前端、安全、可靠性和架构,代码库涉及 Python、TypeScript、JavaScript、Ruby 等。
Arena 完成 2 亿美元 B 轮融资,由 Lightspeed 领投,估值 31 亿美元,并推出 Alignment Index,用于衡量 AI 行为在真实场景中与人类价值观的契合程度。Lightspeed 表示,自 Arena 的 A 轮以来,其年化收入已超过 1 亿美元,数百万人通过真实使用参与评估前沿模型。
Artificial Analysis 与 Harvey 合作发布 Harvey LAB-AA v1.1,新增 Hallucination-Gated All-Pass Rate 指标,要求交付物无重大幻觉。
Harvey LAB-AA v1.1 新增幻觉检查,GPT-6 Astra (max) 在幻觉门控后几乎保留全部通过结果(8.9% 降至 8.6%),从并列第 10 升至第 3。
一种名为 Bag of Decisions 的重排序方法,让 LLM 为每个查询生成一组 yes/no 问题作为相关性评分标准,再用 Jev 计算每个问题为真的概率并求和作为重排序分数。在 Wayfair WANDS 和 Amazon ESCI 两个电商数据集上,该方法平均 NDCG 分别达到 0.610 和 0.360,均高于 BM25 和 Jev 直接重排序。
斯坦福大学团队提出 DeLM,用共享上下文和任务队列取代主智能体,让多个智能体异步领取任务、即时发布中间结果并互相修正,从而减少等待和重复工作。