跳到正文
arXiv cs.AI· Yuchen Zhang·· 11 小时前AI 评分26

CausalEvo:面向健康 LLM 智能体的因果技能自进化方法

CausalEvo: Causal Skill Self-Evolution for Health LLM Agents

AI 导读

CausalEvo 通过估计刻意变更技能集的相对效应来实现健康 LLM 智能体的技能自进化,在 6 项 MedCalc-Bench-Verified 任务、120 个留出案例上达到 60.00% 准确率,高于 SkillOpt 的 55.83% 和无技能基线的 51.67%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:面向健康领域的大语言模型(LLM)智能体可以从任务反馈中积累可复用的文本技能,例如计算标准、测量时间点和公式单位。决定保留哪些技能会产生重要影响:有用的规则会改善后续回答,而错误的泛化则会传播错误。我们提出 CausalEvo,一种因果技能自演化方法,它在保持模型权重、反馈案例和规则数量不变的情况下,估计有意改变的技能集合的相对效应。在每个演化步骤中,一个冻结的 LLM 提出候选规则,这些规则与现有技能一起汇入候选池,使当前技能集合始终是一个可行选择。针对共享背景规则的成对技能替换在同一批反馈案例上评分;最小二乘法将分数差异转换为相对技能价值,并保留排名靠前的规则,在平局时优先保留现有技能。一个决策损失界将候选支持、近似和估计误差分离开来。在六个 MedCalc-Bench-Verified 任务、120 个留出案例上,CausalEvo 达到 60.00% 的准确率,而 SkillOpt 为 55.83%,无技能时为 51.67%。在记录的、使用不同优化预算的训练配置中,它比 SkillOpt 少消耗 55.6% 的训练 token。收益集中在特定计算上,同时在其他计算上出现退化,且成对准确率区间包含零。CausalEvo 将任务反馈转化为关于技能保留与替换的受控决策。项目仓库:此 https URL
评论: GenAI for Health Workshop @ NeurIPS 2026,悉尼
主题: 机器学习(cs.LG);人工智能(cs.AI)
引用为: arXiv:2610.21016 [cs.LG]
  (或 arXiv:2610.21016v1 [cs.LG] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.21016

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Yuchen Zhang [查看邮箱]
[v1] 2026年10月14日星期三 23:23:52 UTC(225 KB)

来源:arXiv cs.AI · arxiv.org