LangChain 提出 Goal Engineering：按反馈易度设计智能体目标范围

LangChain：Blog·2026-11-15 00:00· 1 小时前AI 评分53

目标工程

AI 导读

LangChain 发文提出 goal engineering 理念，认为设计智能体范围时应让人类反馈尽可能容易给出，因为智能体出错常源于缺乏只存在于专家脑中的隐性上下文。

正文 · 原文

过去几年，智能体能够承担的任务范围急剧扩大。它们已从简单的文本生成，发展到工具调用与决策，再到执行完整任务。智能体的未来是承担开放式目标并推动这些目标走向完成。像 Hone 这样的发布让我们得以一窥这一未来。

在这个世界里，设计智能体的范围至关重要。把它们指向错误的方向，你会浪费大量 token。Hone 智能体设置的一个关键部分是为它们定义要优化的指标。

如何设计目标

在开发类似风格的智能体时，我们意识到关于为智能体设计范围的一点：你希望设计智能体的范围，使得在智能体于该范围内运作时，给出反馈尽可能容易。

为什么是这样？

当智能体出错时，一个很大的原因是缺乏正确的上下文。为了解决这个问题，你需要给智能体正确的上下文。上下文有不同的类型。有些类型的上下文是诸如访问正确的文档或 API——这相对容易解决。最难给智能体的上下文是尚未被写下来的上下文。这种上下文需要作为人类专家的反馈提供给智能体。

随着智能体超越可验证任务，开始在组织内与人类一起承担主观性工作，这一点尤为重要。例如，如果你想让智能体帮助优化某个业务指标（比如改进你的广告以优化营销效果），除了事实性上下文之外，还有太多细微之处，你希望借此来治理智能体的行为。你可能对什么听起来、看起来好有某种品味。你对你的品牌可以有多大胆或出格有自己的看法。一个无法有效获取反馈来快速学习这些的智能体很快就会变得无用。

如果你的智能体范围让给出大量关于智能体工作的高质量反馈变得非常容易，那将极大地帮助你构建一个能够可靠追求长期目标的智能体。

一个相关的认识是，你希望在审阅智能体工作的直观且令人愉悦的 UX 上大量投入。智能体表现的瓶颈往往是它们从反馈中学习。因此，你应设法优化反馈收集的便捷性和质量！为此投入清晰的 UX 是值得的投资。

案例研究：Actively AI

让我们看一个来自 Actively AI 的例子，它为销售团队构建智能体。

Actively 的第一个目标导向智能体体验的设计方式是，每个账户（销售团队想要推销的潜在客户）对应一个智能体。该智能体被赋予推动账户前进的目标，并生成供销售代表批准的行动。直观上，这说得通——这是一个相对受限且有明确方向的目标，并有扎实的成果。天真地看，似乎关于账户的上下文是智能体最重要的上下文，因此你应围绕它来定位智能体。

在智能体工作过程中，他们发现智能体还需要另一类重要的上下文：如何高效地完成工作。具体来说，就是如何进行外呼、如何回复、如何制定交易策略、该有多积极、如何在大组织中周旋等等。这类上下文分散在多个智能体之间——如果你在一个客户账户上学会了某种外呼方法，你往往也会希望把这一经验迁移到其他账户上。

Actively 发现，当智能体处理单个账户时，销售人员很难高效地使用智能体，也很难向智能体提供反馈。智能体在推进单个账户时需要完成许多不同的工作，而这些工作往往分散在不同时间。他们发现：(a) 智能体之间存在大量上下文切换（因为对单个智能体而言，任一时刻只有少数几件事需要审核）；(b) 跨智能体共享经验的学习方式在用户体验上很别扭（但这是必要的，因为它们在学同样的东西）。

Actively 智能体体验的第二版解决了这个问题。他们新的目标导向型智能体（基于 Deep Agents 构建！）被称为“motions”。一个 motion 就是一项特定的待办工作——比如外呼或早期交易推进。如何完成这项工作并没有明确定义，其中很大一部分甚至与单个销售代表的偏好有关。大量知识存在于销售人员的头脑中，需要作为反馈提供给负责该 motion 的智能体，以便它学习。由于一个 motion 是一组相似的任务，销售人员很容易将它们放在一起审核。在一个 motion 中从某项任务学到的任何反馈，都会直观地迁移到该 motion 中的其他任务。

这使反馈（包括反馈的范围和提供反馈的难易程度）与智能体本身对齐，从而大大更容易创建强大的智能体。

这并不是说账户上下文不重要——它显然很重要！但账户上下文通常已经被写下来，而且客观得多。因此，Actively 有负责收集上下文的智能体在后台运行，为每个账户汇集上下文；但推动账户沿漏斗前进的实际工作，现在由跨多个账户运作的 motions 来处理。它们负责销售流程中的某一环节，从反馈中学习得快得多，并按需引入每个账户的上下文。

在未来

未来，智能体将发展到这样的程度：你只需给它们一个目标，它们就会出去工作以优化该目标。

人工审核这些智能体所做的工作需要大量时间——但这非常有价值。这正是你教会这些智能体该做什么、并让它们适应你所在领域的方式。这些只存在于人们头脑中的知识非常重要，需要以易于传递给智能体的形式提取出来。

为了最好地做到这一点，你会希望让智能体的目标与人类最容易审核的内容对齐。这让你能够打造令人愉悦的审核体验，提取尽可能多的信息，并使你的智能体能够持续学习，从而随着时间的推移变得越来越有用、越来越自主。

提示工程和上下文工程将消失，但目标工程将保留。

‍

来源：LangChain：Blog · langchain.com