论文：智能体自改harness提分却丢任务

UC Berkeley、中国科学技术大学等机构的论文发现，通过 harness evolution 在模型冻结下自行改写提示词、技能、工具或代码的智能体，平均分提高的同时会丢失原本能完成的任务。 研究用 GPT-5.4 在 2 个 harness 和 2 个基准上运行 GEPA、HyperAgents 等 4 种进化方法，并将每个进化后的智能体与其初始版本对比重测 8 次。16 个进化后的智能体全部有得有失；其中一个可靠性提高 5.2 分，却丢掉了原本能完成的 10 项任务。在 11 个可靠性提升的智能体中，有 8 个每次运行成本也上升。论文称，平均分掩盖了这种任务层面的得失。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。