小路和你读 AI 论文第 1017 期:智能体记忆评估、量子电路优化与语言对防护安全的影响
本期解读三篇 AI 论文:一是引入 FEB-30 基准,直接检验智能体记忆操作的正确性;二是用大语言模型配合进化算法发现更高效的量子电路设计,显著降低门数和量子比特数;三是揭示语言差异对智能体防护系统安全性的影响。
本期解读三篇 AI 论文:一是引入 FEB-30 基准,直接检验智能体记忆操作的正确性;二是用大语言模型配合进化算法发现更高效的量子电路设计,显著降低门数和量子比特数;三是揭示语言差异对智能体防护系统安全性的影响。
Anthropic 于 2026 年 10 月发布内部就业研究报告,基于就业记录、AI 使用遥测、员工调查、日历数据及 17 次深度访谈,分析深度应用 AI 后公司劳动力结构的变化。报告显示初级技术岗位招聘占比从 27% 降至 9%,智能体工时达到人类的 6 倍,员工转向管理智能体的「元工作」。报告提出四项核心发现。
Hao AI Lab 发布 AI 侦探推理基准测试,每个案件设 100 个地址、10 名嫌疑人和 12 小时时限,要求指认凶手、动机与藏身之处。侦探团队分两个角色:Holmes 负责推理决策,可选 GPT6-Astra、Jev 或证据计数启发式方法;The Irregulars 负责搜索,使用 Jev 智能体或搜索启发式方法。
Hao AI Lab 将 Jev 集群、GPT6-Astra 以及 GPT6-Astra 带领 Jev 集群三种组合送入维多利亚晚期伦敦,调查 200 起案件。结论是 Jev 集群能覆盖线索,但需要 GPT6-Astra 这样的推理型领导者来发现矛盾并深入挖掘。
在 100 个较简单的解谜案例中,GPT6-Astra 带领 12 个 Jev 智能体解出 96 个,GPT6-Astra 单独解出 57 个,Jev 集群单独解出 38 个。这些案例中每个谎言都来自单个证人,而每个真实事实会出现两次,因此一个只统计线索的基于规则的领导者加上 Jev 集群能解出 97/100。
Hao AI Lab 测试了 GPT6-Astra 与 Jev 集群在 100 个更难的案例中对抗被收买证人的表现。GPT6-Astra 加 Jev 集群得分 93,仅 GPT6-Astra 为 59,仅 Jev 集群为 42,基于规则的领导者加 Jev 集群仅 0–1。结论是面对有组织的谎言,需要一个会追问"是谁在说话"的推理型领导者。
Hao AI Lab 提出一种智能体集群分工思路:让快速智能体承担跑腿类任务,强推理者负责思考,即"一个天才,多个头脑"。该团队公开了全部 200 个案例的回放,以及相关代码和更多关于智能体集群行为的博弈案例研究。
北京大学与三星的论文提出 TORSI,让慢推理模型在局间研究快模型的失败并写出指令,供快模型在实时游戏中执行。在 RealtimeBench 的 180 个任务、6 类游戏中,两轮后 Jev 平均分从 13.51 升至 24.19,6 类游戏全部提升。
Ethan Mollick 推荐了一篇关于一队 Gemini 4 智能体如何通关 Minecraft 的论文,论文链接为 https://arxiv.org/pdf/2610.22319。他表示这是一个通俗易懂的案例,部分原因是论文由 AI 撰写,展示了智能体之间为实现复杂目标而自发协调,以及它们的方法与人类有何不同。
StarSkirmish 发布 v0.2 基准,让每个 LLM 在一小时内用 C++ 写一个 Protoss 机器人,再与人类编写的机器人对战,以平均胜率计分。
Databricks 提出在推理阶段注入领域知识,提升 LLM 对 npm 包内嵌二进制恶意载荷的检测能力。其扫描器自 2025 年 11 月起收集样本,在 11,413 个经 OSV 核验的包版本中,3.8%(432 个)捆绑二进制,这类包无法得出明确恶意结论的比例为 14.4%,是纯源码包 6.2% 的两倍多。团队用五种 .node 载荷测试九款模型,并设计能力画像作为加权条件编码恶意技术。
Redwood Research 推出 Screwtape 管线,把攻击插入真实 agent 转录并反复编辑,直到仅看动作的监视器不再识别。团队在 94 份转录上运行 252 次,得到 35 个逃逸自家 Opus 4.8 与 Gemini 3.1 Pro 监视器的攻击,其中 6 个也逃逸了某前沿开发者的留出监视器并经人工复核确认。
Google DeepMind 展示四个 Gemini 4 Argon 智能体在共享的 Minecraft 世界中从零击败末影龙,全程无人类帮助,耗时 27 小时。智能体在只用代码和文本的沙盒中编写了 2,783 个程序,通过聊天分工、共享笔记并共同调试错误。
Redwood Research 提出 Screwtape,一条把真实智能体轨迹改写成攻击、并反复迭代直到绕过只看动作的监控器的流程,配套论文已公开。
Databricks 针对 npm 恶意包中占比 3.8%(432 个包版本)的捆绑二进制样本,提出在推理阶段注入预计算静态证据的"能力画像"方案,而非微调模型权重。在 9 个模型上测试显示,含二进制包无法得出明确恶意结论的比例为 14.4%,是纯源码包 6.2% 的两倍以上。
SWE-Nexus 是一个全自动流水线,通过测试执行构建仓库级实现任务,由四个构建智能体筛选测试、适配追踪与评估协议并生成行为规范。其基准包含来自 105 个仓库、六种编程语言的 600 个任务(116 个原子任务、484 个组合任务),在三种智能体脚手架下评测 12 个模型,最佳配置单次尝试解决 37.8% 的任务。
研究者提出 KV-streams,一种与任意压缩策略兼容的即插即用方法,通过将 KV cache 向前流式传递而非每次压缩后清空,在三种压缩策略下实现 2.6 至 5 倍的训练墙钟加速。流式 KV cache 还可充当循环状态,携带已从上下文中消失的信息,且仅靠 RL 即可让该行为涌现。
研究者提出 DroneCATS 基准,让 MLLM 通过四类动作直接控制无人机,覆盖目标可见性、目标运动、场景与模拟器变化,并扩展至真实无人机、多无人机及"指挥官+子智能体"套件,评测了十款从前沿到小型开源的 MLLM。
一项研究通过 Reddit 讨论、21 位从业者访谈(含 8 位工具开发者)和 SpecMine 语料库(73,030 个 GitHub 仓库的 470,795 个 spec 文件)考察了规范驱动开发(SDD)的实际使用情况。
针对 GPU、NPU 等加速器内核生成中大量"近失"候选被丢弃的问题,研究者提出领域专用调试智能体,通过检索模式、诊断插桩、反作弊检测与收敛保护实现自主修复。其 Debug Pass@1 达 66.7%,高于重新生成的平均 Pass@1 25.9% 和 Pass@3 40.7%,且每次成功消耗的 token 比三次重新生成少 92.8%。
研究者提出 MemSyco-Bench,一个评测 Agent 系统中记忆诱发谄媚行为的基准,覆盖五项任务:判断 Agent 能否拒绝将记忆当作事实证据、遵守记忆的适用范围、解决记忆与客观证据的冲突、跟踪记忆更新,以及用有效记忆做个性化。现有记忆基准只关注记忆是否正确存储、检索或更新,忽略了检索到的记忆如何影响下游推理与决策。相关资源已向社区开放。
研究者提出 MIRAGE,一种视觉间接提示注入框架,可在仅控制广告位等受限区域的第三方威胁模型下劫持 Web 智能体的下一步动作。该方法用扩散模型生成感知上自然的对抗图像,并结合曲率感知对抗扩散引导与稀疏暗像素残差扰动优化攻击效果。在 SeeAct 和 OpenClaw 上的评测显示其攻击有效、真实且隐蔽。
SecureClaw 是一种双边界架构,在可信执行器中强制授权,并将原始敏感数据隔离在 LLM 运行时之外。敏感读取经可信网关替换为引用 ID,写操作遵循 PREVIEW→COMMIT 协议,仅可信执行器可执行经策略授权的请求。
论文提出语言智能体控制(LBAC),一种将编程语言与语言安全技术引入智能体控制的新编程模型,要求智能体生成在脚手架代码上下文中类型良好的程序,不安全程序在执行前即被类型检查器拒绝。该模型保留表达能力,智能体可执行任意无副作用计算并递归调用子智能体,子智能体在相同或更严格策略下保留完整工具访问权限。论文通过文件系统能力实现 I/O 沙箱、数据溯源和信息流控制三个案例研究进行演示。
FinPILOT 是一个受 MPC 启发的插件式推理时策略优化框架,利用多步价格预测器在每步决策前优化预训练策略,无需改动原始 RL 训练流程。在 DJ30 股票与外汇数据上,用 PPO、SAC、A2C、TD3、DDPG 五种预训练策略测试 30 种设置,28 种提升总回报、27 种提升 Sharpe 比率。预测误差越小,FinPILOT 的性能提升幅度与一致性越高。
CoPE 通过在多步动作序列上增加预测性监督,让语言智能体的行动与预测能力在共享骨干网络中协同进化,推理时仍逐步行动、无额外开销。
CTXGAP 测量研究发现,编码智能体在按需回答任务状态问题时准确率达 93.6%,但仅读报告的监督者只能恢复 52.0%,与全上下文读者的 92.7% 相差 40.7 个百分点。在 30 个已验证修复的最终检查点上差距仍有 34.8 个百分点,完整终端回滚可将恢复率提升至 73.6%,但仍不及全上下文。该研究将基于报告的任务状态可恢复性确立为一项补充评估维度。
研究提出有界陈旧度异步进化策略(bounded-staleness asynchronous ES),在 WebShop 上系统改变策略滞后程度与陈旧适应度测量比例,并设计两项压力测试探测极端陈旧情形。结果显示自然异步几乎与同步 ES 表现持平,即便全部适应度测量均陈旧,评估精度下降仍很小,表明 ES 无需显式离策略校正即可容忍显著策略陈旧,支持其用于长程 LLM 智能体的异步后训练。
论文提出"全局一致性"问题:AI 智能体各自做出局部有效决策,联合结果却无效,根源是共享状态缺失而非智能不足。其 Observation-Aliasing Impossibility Theorem 给出精确边界——若 k 个不可区分世界需要两两不相交的动作,随机化最坏情况成功率上限为 1/k,更多推理、角色、消息或采样都无法弥补。
研究者推出 CompMat-Bench,一个源自近期计算材料研究、包含 94 项任务的 AI 智能体基准,通过预先复现研究步骤来评估智能体准备输入与分析输出的能力,从而避免评测时运行昂贵模拟。基于三个 LLM 的智能体在单任务完整指导下通过率为 66.0-90.4%,更长工作流与减少指导会以不同方式限制不同智能体表现,失败多归因于科学错误而非软件使用错误。
研究用全国调查、受控审议实验和真实审议民调评估六款 LLM 能否模拟公众审议,发现智能体常产生过度集中的意见,无法可靠复现人口统计差异。在模拟审议中智能体虽会交换论点并频繁改变立场,但在看不到彼此发言时也会出现类似变化,而仅重述初始立场则大幅减少立场变动。
研究团队提出 Agent Gym,一个模块化、领域无关的框架,可将任意现有 LLM 智能体包裹进持续评估与进化循环,无需修改智能体源码即可在部署后修正行为。框架包含 Act、Evaluate、Investigate、Correct、Learn、Observe 六项可组合能力,核心技术为带 21 个条件算子和三级动作的确定性-LLM 混合修正引擎,以及三层调查架构。
EvoFlux 是一种推理时搜索方法,通过对工具调用与依赖的结构化图进行进化循环来修复工具计划,并利用真实工具服务器的执行错误指导替换工具、修正参数、插入缺失步骤和删除冗余步骤。
SkillDAG 将类型化技能图作为 LLM 智能体可调用的接口,通过 search 返回向量匹配、类型化边邻居与冲突信号,并用 propose-then-commit 协议在执行中注册有执行依据的边。
研究者推出 Harness-Bench,一个在真实 Agent 工作流中评估配置级 harness 效应的诊断基准,包含 106 个沙箱离线任务,在共享任务环境、预算和评测协议下对比多种模型后端与代表性 harness 配置。
研究者提出 Life-Harness,一种生命周期感知的运行时框架,在不改变模型权重和评测环境的前提下提升冻结 LLM 智能体的表现。它从训练轨迹中把反复出现的交互失败转化为可复用干预,覆盖环境契约、流程技能、动作实现和轨迹调控。
研究团队前瞻性评估了自主系统 ERA,它用大语言模型引导的树搜索迭代生成、评估并优化可执行的预测软件。在 2025-26 美国呼吸道季的实时评测中,ERA 为流感、COVID-19 和 RSV 生成了方法多样的模型,其集成模型在 CDC 季后官方评估中排名第一,并在三种病原体上均超过 CDC 的黄金标准预测集成。
arXiv 论文提出把任意可验证的地球观测任务拆成 harness 与 verifier 两部分,由通用编码智能体据此自行构建并递归改进 EO 模型。在覆盖光学、SAR 和多光谱时间序列的六个 EO 基准上,智能体构建的模型全部超过当前最优水平,其中土地覆盖制图仅用 11% 的训练标签。作者认为这确立了人类设计 harness 与 verifier、智能体构建模型的新范式。
论文提出自编程执行(SPE),让模型补全本身充当编排程序,harness 只负责求值而不施加固定编排策略。为此作者设计了可自我编辑并重新求值的 Lisp 方言 Spell,使模型调用等副作用表达式在重求值时不重放。未经 SPE 或 Spell 训练的前沿模型可在上下文内学会 Spell 并完成挑战性智能体任务,代码已开源,论文被 NeurIPS 2026 接收。
BLOOM-WILT 是一套无需训练、仅依赖目标模型 next-token 分布的 LLM 审计流水线,通过多轮修正对话策略并混合诱发提示与无提示的 next-token 分布,来诱发罕见的多轮行为实例。