跳到正文
RadarAI· LangChain:Blog(RSS)·· 4 小时前AI 评分38

LangSmith 新增三项控制,保护 trace 中的敏感数据

AI 导读

LangSmith 新增三项控制以管理敏感 trace 数据访问:限制谁能查看 trace 输入输出、按用户组管理团队权限、基于 metadata 设置 trace 级访问策略。三项控制可叠加使用,让工程师在不暴露客户敏感信息的前提下调试智能体。新控制现已在 LangSmith Enterprise 套餐中可用。

正文 · AI 翻译

LangChain:Blog·2026-11-18 02:00· 20 分钟前AI 评分42

保护 trace 中的敏感数据:LangSmith 新增控制项

AI 导读

LangSmith 新增三项控制以管理敏感 trace 数据访问:限制谁能查看 trace 输入输出、按用户组管理团队权限、基于 metadata 设置 trace 级访问策略。这些控制可叠加使用,让工程师在不暴露客户敏感信息的前提下调试智能体。新控制现已在 LangSmith Enterprise 套餐中可用。

正文 · 原文

在生产环境中运行智能体,就必须管控它们所触及的数据。当这些数据包含敏感的客户信息时,控制访问便成为监管和合同层面的义务。这使工程需求与安全需求产生冲突。工程师需要生产 trace 来调试问题、提升智能体性能。安全与合规团队则需要执行最小权限原则:人们只应看到其工作所需的数据。

因此,我们在 LangSmith 中新增了三项控制,帮助团队管理对敏感 trace 数据的访问:

  • 控制谁能查看 trace 输入和输出(即用户消息和模型响应)
  • 通过用户组管理逐团队权限
  • 使用 metadata 设置 trace 级访问策略

让工程师获得可见性,同时保护客户数据

Trace 让工程师了解智能体的行为方式,并帮助他们找出需要改进之处。当 trace 记录生产活动时,其输入和输出往往包含敏感的客户数据,例如姓名、健康信息或支付详情。公司需要限制对这些数据的访问,以满足: 

  • 监管要求——如 GDPR、HIPAA 和 CCPA——这些法规要求公司限制谁可以访问敏感数据,并在数据泄露时追究公司责任
  • 客户合同,这些合同可能通过要求遵守 ISO 27001 等框架或接受 SOC 2 审计,增加额外的数据管理要求

这些要求让团队面临两种选择。

第一,他们可以构建自定义可观测性方案,使用重复的 trace 和多个工作区。工程师获得了 trace 访问权限,但平台团队需要配置和维护更多内容。另一种选择是完全不将 trace 发送到可观测性平台,这使智能体工程师失去可见性,并拖慢产品迭代速度。

我们构建这些新控制,是为了让组织无需繁琐的变通方案,就能同时满足工程团队和安全团队的需求。

其工作方式如下。你将 trace 以完整的数据保真度发送到 LangSmith,然后仅向需要的人授予访问权限。调试在最小权限下进行,因此处理延迟等性能问题无需暴露任何敏感数据。如果客户报告问题,你可以仅授予对该客户输入和输出的访问权限,且仅限解决问题所需的人员或团队。一切均可通过精细的管理控制进行配置。

限制 trace 输入和输出

LangSmith 新的输入和输出控制让管理员能更好地控制用户可查看 trace 的哪些部分。trace 输入和输出正是敏感用户数据最常出现的地方。其他 trace 数据,如运行树、性能统计和 metadata,对智能体改进至关重要,且敏感程度低得多。

借助这些控制,智能体工程师无需查看敏感内容,就能发现并解决问题——例如重复或缓慢的工具调用——而需要完整信息的人可按需获得访问权限。

按团队管理访问权限

管理员还可以在 LangSmith 中将用户组织到群组中。每个群组都有自己的权限,这些权限针对每个工作区单独定义,并叠加在组织范围内使用的现有基于角色的访问控制(RBAC)和基于属性的访问控制(ABAC)之上。这使管理员能够按照其组织对每个团队角色的理解来管理权限。

例如,临床医生可以属于一个能够查看 trace 输入和输出的群组,以便进行准确的 trace 标注。Agent 工程师可以属于一个只能查看运行树、延迟和 token 使用量的群组,从而获得改进其 agent 所需的数据。这些访问策略保留了现有的限制,例如针对不同地区员工的不同访问策略。

从元数据设置 trace 访问策略

为了实现更细粒度的控制,管理员可以使用 root run 元数据定义 trace 级别的 ABAC 策略。每个策略都会检查 trace 上的元数据,并根据你设置的条件授予访问权限。

这是 LangSmith 最细粒度的访问控制级别,它赋予管理员相当大的灵活性,可以根据其 agent 使用场景和数据处理要求来定义控制措施。管理员可以使用客户 ID 仅授予客户支持 agent 访问其支持客户的 trace 的权限,或者根据用户 ID 仅授予开发者访问其自己的编码 agent trace 的权限。

如果相关属性已捕获在 root run 元数据中,就可以用它来实施最小权限访问。

组合控制以实现最小权限访问

每种控制单独使用都很有用,但它们被设计为可以分层组合,以管理对生产 trace 的访问。你的 agent 以完整的数据保真度将 trace 发送到 LangSmith,并且你附加 root run 元数据,例如客户 ID 或用户 ID。LangSmith 存储完整的 trace,无需脱敏或重复副本。上述 LangSmith 中的控制措施决定了每个团队可以查看什么。

例如,支持团队只能查看其支持客户的输入和输出,而 agent 工程师可以查看所有 trace 的运行树和性能数据,但输入和输出被隐藏。当支持团队承接另一个客户时,你可以更新其基于元数据的策略,而无需更改其输入和输出权限或工程团队的访问权限。工程师获得了改进 agent 所需的可见性,安全团队则确保敏感数据只留在应该看到它的人手中。

开始使用

这些新控制措施现已在 LangSmith Enterprise 计划中提供。

现有客户可以阅读我们关于 输入和输出访问、用户组和 基于元数据的访问策略的文档来开始使用。

如果你刚接触 LangSmith 并对这些控制措施感兴趣,请联系我们的团队。

来源:LangChain:Blog · langchain.com

来源:RadarAI · aihot.news