跳到正文
arXiv cs.AI· Qingyue Zhang, Huaze Tang, Minyu Zhang, Yuxiang Yan, Wenbo Ding, Shao-Lun Huang·· 3 天前AI 评分26

CB-Agent:基于概念的上下文学习用于序列动作选择

CB-Agent: Concept-Based In-Context Learning for Sequential Action Selection

AI 导读

CB-Agent 将基于概念的上下文学习扩展到序列动作选择,从专家轨迹中提取环境-动作决策,通过最大似然拟合概念向量,结合冻结语言模型特征与先验建模候选动作的条件分布,使 ReAct 智能体无需在动作评分上下文中放入演示即可选择动作。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:上下文学习(ICL)允许大型语言模型使用演示而无需更新其参数。对于交互式智能体而言,演示是展示如何完成任务的一系列推理、动作和观察轨迹。在新情境中复用演示具有挑战性:直接输入完整轨迹会消耗有限的提示空间并限制整体效果,而自然语言摘要则要求智能体将通用指导转化为具体的动作选择。因此,我们研究专家动作选择能否直接监督一个可复用的评分规则。我们提出 CB-Agent,将基于概念的 ICL 扩展到序列动作选择。我们从专家轨迹中提取环境-动作决策,并通过最大似然拟合一个概念向量,以建模给定上下文下候选动作的条件分布。该模型将概念与冻结的语言模型特征和先验相结合。在 ReAct 交互过程中,智能体使用该分布来选择环境动作,而无需在动作评分上下文中包含演示。在 TextWorld、ALFWorld 和 ScienceWorld 上,CB-Agent 在所有三种测试模型规模下均取得了所评估方法中最高的跨基准平均值,并在每种规模下于 TextWorld 和 ScienceWorld 上排名第一。ALFWorld 实验支持了所学概念在仅先验评分之外的贡献,并显示与 Reflexion 结合时获得进一步收益。代码可在 此 https URL 获取。
主题: 人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2610.14574 [cs.AI]
  (或 arXiv:2610.14574v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.14574

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Qingyue Zhang [查看电子邮件]
[v1] 2026年10月10日星期六 04:48:07 UTC(278 KB)

来源:arXiv cs.AI · arxiv.org