LangChain 博客：为什么人类洞察是构建更好智能体的战略优势

LangChain：博客·2026-11-04 05:07· 1 小时前AI 评分43

为什么人类洞察是构建更好智能体的战略优势

为什么人类洞察是构建更优智能体的战略优势

AI 导读

LangChain 博客提出高效 human-in-the-loop 工作流的三条原则：由领域专家定义质量标准、在完整会话上下文中评估智能体、把人工反馈转化为可复用的评测数据。LangSmith 的标注队列支持以单次 run 或完整 thread 为审核单元，评审者给出分数与理由，这些标签可用于对齐 LLM judge、更新在线评估器并构建 golden dataset。

正文 · 原文

随着智能体承担更长、更复杂的任务，评估其表现意味着不能只看最终由 AI 生成的答案。人工审核在智能体开发中扮演重要角色：它帮助团队定义何为“好”，在上下文中评估表现，并将专家判断转化为驱动改进的数据。

在本文中，我们探讨高效 human-in-the-loop 工作流的三条原则：通过专家判断定义质量、在上下文中评估智能体，以及将人工反馈转化为可复用的评测数据以驱动持续改进。

什么是智能体 trace？

智能体 trace 是对智能体在单次尝试中所做一切事情的记录：用户消息、模型响应、工具调用以及中间步骤。团队利用 trace 调试行为、评分质量并决定需要修复什么。

通常，当某处看起来不对劲时，工程师或在线评估器会标记某个 trace。标记是一个信号，而不是解释。它通常不足以让人知道该如何修改智能体。

被标记的 trace 会进入标注队列。人工评审者打开该交互并留下反馈：智能体做对了吗，为什么对或为什么不对？自动化决定审核什么，人类提供构建者据以行动的判断。

在 LangSmith 中，队列项可以是一个 run（单个步骤或 span），也可以是一个 thread（完整的多轮会话）。使用 thread 时，评审者看到的是用户所进行的对话，而不是从中截取的一个步骤。

原则 1：人类视角定义何为“好”

每位评审者都带来 trace 本身并不包含的领域判断：在该工作中“好”意味着什么、用户试图做什么，以及智能体本应怎么做。这种专家判断往往高度特定于公司、角色或个人的专业能力，是构建差异化智能体的关键部分。或者正如 Snoop Dogg 在其 CSU Long Beach 毕业典礼演讲中所说：“没有人能像你一样做你。”

当领域专家审核 trace 时，评审中最有价值的部分之一就是他们的理由。专家能说明某个输出为什么对或错，以及高质量的智能体应当如何表现。

评审者不仅能发现自动化评估遗漏的问题，还能揭示智能体答案之外的问题。例如，他们可能发现某个评估在给错误的行为打分，或者评分标准存在缺口。队列中的一条备注可能揭示出值得在评估器本身修复的更广泛模式。

这种专家反馈会改变评估，并最终改变智能体的构建方式。在标注队列中，这种视角以分数加评审者推理的形式存储在 run 或 thread 上，因此构建者可以把单次专家评审转化为对下一轮迭代更清晰的质量定义。

原则 2：上下文让判断站得住脚

审阅者的判断力，取决于摆在其面前的交互内容。如果他们只看到多轮会话中的某一步，就可能错过解释最终答案的早期消息、工具调用和决策。正因如此，完整的 HITL 工作流需要审阅完整的线程。

标注队列中的线程会把整个会话呈现在审阅者面前。他们可以看到用户想做什么、智能体如何得出答案，以及该答案是否站得住脚。修改一句话，与修改这句话所属的文章，并不是一回事。

一条回复单看可能没问题，但对用户早前说过的内容而言仍可能是错的。错误可能发生在好几轮之前，却只在最后一条消息中才变得明显。随着智能体运行时间更长、步骤更多，这种缺失的历史记录越来越难以手工诊断。

对于多轮智能体，审阅的单位应当是对话。标注队列中的线程就是把该会话作为一个审阅项，让审阅者阅读交互，而不是自行拼凑交互。

原则 3：将专家判断转化为高质量评估数据

构建更好的智能体，依赖于能够反映良好表现究竟是什么样的数据。领域专家（SME）带来了这一标准，因为构建者通常无法仅靠自动化指标获得它。

人工审阅就是把这一标准以系统可复用的形式记录下来。在实践中，它看起来是这样的：

1. 审阅者在标注队列中打开一次运行或一个线程，并按照评分标准（通过/不通过、1–5 分、“共情”、“正确的工具”等）打分，通常还会附上简短的原因说明。
2. 这个带标签的示例会成为该交互的基准真值：不只是“差”，而是哪个维度失败了，以及“好”本应是什么样。
3. Builders use those labels in a few concrete ways:
   • 对齐 LLM 评判器：在同一批轨迹上比较评判器的分数与人工分数。在二者不一致的地方，更新评判器提示词或评分标准，直到它们更频繁地一致。
   • 更新在线评估器：如果人工反复发现同一个遗漏，就修改本应发现它的评估器，然后在新流量上重新运行。
   • 构建黄金数据集：将高质量的人工标注示例提升为数据集，并在智能体或提示词发生变化时，针对它们运行离线实验。
4. 下次运行评估时，它依据的是来自专家审阅的标准。

当这些数据与其所描述的运行和线程关联起来时，构建者就可以用它来识别失败模式、改进评估器、完善评分标准，并构建用于持续测试的数据集。其结果是一个反馈闭环：专家知识成为智能体开发中可复用的资产，而不只是审阅队列里的一个分数

随着时间推移，这会为评估创建一个可复用的基础：对特定线程的专家判断 → 结构化的分数和备注 → 更好的评估器和数据集 → 按同一质量定义进行评分的评估。标注是评估的原材料，团队可以反复运行这些评估，而无需每次都请教专家。

我们为什么在标注队列中构建线程

审阅者凭借自身的专业知识、摆在面前的完整交互，以及一种构建者可以使用的反馈方式，能做得更好。一旦智能体跨越多轮对话和多个工具工作，单条轨迹就会遗漏判断所依赖的上下文。

轨迹是对话的另一种视图。它按消息和工具调用发生的顺序展示它们，去除了嵌套的运行树和其他重复信息，以可读的形式呈现。队列项仍然是线程，因为被评判的对象是对话。评审者在标注线程时阅读轨迹。

标注队列中的线程将评审与用户实际进行的交互放在一起。领域专家可以专注于对话内容，而无需先学习如何阅读跟踪树。今天就在 LangSmith 中试用此功能。

案例研究：Fetch Rewards

Fetch Rewards 使用标注队列将人工判断转化为其自动评判器的参考基准。评审者评估 AI Rewards Assistant 的各个轮次——一个输入和一个输出——但对话记录只是起点。为了判断响应是否良好，他们通常需要进一步调查。一个流畅的回答如果并非基于真实数据，仍然可能是错误的，因此评审者会检查跟踪元数据，查看助手调用了哪些工具，以及其回答是否与结果相符。

例如，当用户询问某个优惠时，他们会确认助手搜索了优惠，并且其响应准确反映了返回的优惠。他们还会将产品卡片图片与其代表的产品进行核对：例如，确保 20 盎司可口可乐的卡片不会显示 2 升瓶装。由于推荐只有在接收者实际能用时才有用，评审者会查看用户的优惠，以确认这些建议对他们可用。

有些情况存在歧义：图片可能几乎正确，优惠在技术上有效但无帮助，或者准确的响应可能偏离了用户意图。评审者权衡证据，并在标注队列评论中记录他们检查了什么、哪些仍不清楚，以及为什么给出每个分数。工程师随后利用这些推理来识别自动评判器的逻辑与人工评审的差异，并相应调整。

将人工评审纳入你的智能体开发生命周期

我们相信人工评审是构建更好智能体的重要组成部分，并且我们一直致力于通过 LangSmith 让将其引入你的工作流变得更加容易。

尝试让人类评审者评审你的智能体跟踪。你可能会惊讶于所发现的见解和有用的数据点！我们很想知道你的发现。在 LinkedIn 上联系我们，分享你的发现。

来源：LangChain：Blog · langchain.com