跳到正文
RadarAI· Databricks:Blog(RSS)·· 3 小时前AI 评分38

Claude Platform 支持原生 OpenTelemetry,追踪数据可导出至 Databricks MLflow

Claude Platform 支持原生 OpenTelemetry,可将追踪数据导出至 Databricks MLflow

AI 导读

Databricks MLflow 成为 Claude Platform 原生 OpenTelemetry 导出的支持目标,使用 Anthropic SDK、Messages API 和 Managed Agents 的开发者可将原生 trace 发送至 Databricks。

正文 · AI 翻译

Databricks:Blog·2026-11-04 05:00· 26 分钟前AI 评分42

Claude Platform 现已在 Databricks MLflow 中支持原生 OpenTelemetry 可观测性

AI 导读

Databricks MLflow 现已成为 Claude Platform 原生 OpenTelemetry 导出的支持目标,使用 Anthropic SDK、Messages API 和 Managed Agents 的开发者可将原生 trace 发送至 Databricks,用 MLflow 调试智能体并评估改动。

正文 · 原文

智能体可能返回一个看似合理的答案,却遗漏了重要发现,或反复读取同一来源。仅凭答案无法解释原因。Trace 展示了其背后的模型调用和工具调用,因此你可以调查失败原因、查找相关案例,并测试某项改动是否有帮助。

Databricks MLflow 现已成为 Claude Platform 原生 OpenTelemetry 导出的支持目标。借助向 Databricks MLflow 的原生导出,使用 Anthropic SDK、Messages API 和 Managed Agents 的开发者可将原生 trace 发送至 Databricks,并使用 MLflow 调试其智能体并评估改动。

原生 OpenTelemetry,统一于 Databricks

MLflow Tracing 构建于 OpenTelemetry 之上,后者是用于收集和导出服务信号的开放标准。Trace 将智能体的执行记录为一个个独立步骤,称为 span,例如模型请求和工具调用。Claude 的原生插桩会生成这些 span,并使用 OpenTelemetry Protocol 将其导出。

Databricks 通过 Zerobus Ingest 接收这些 span,并将其存储在关联到 MLflow 实验的 Unity Catalog 表中。你可以使用相同的调试和评估工具,将 Claude trace 与其他已插桩服务的 trace 一并查看。Unity Catalog 控制对数据的访问,你还可以用 SQL 查询这些数据。借助 Zerobus 与 Unity Catalog 的结合,企业可获得两项关键优势:在高 QPS 下实现低延迟的 trace 摄取,以及对存储在智能体 trace 中的敏感数据进行访问治理的能力。

Unity Catalog and Databricks MLflow
Claude 的原生 OpenTelemetry trace 流入 Unity Catalog 和 Databricks MLflow。

3 步连接 Claude

1. 创建实验

在 Databricks 中,打开 Experiments 标签页并点击 Create Experiment。在 Trace storage location 下,保持选中 Unity Catalog。选择一个现有的 catalog 和 schema。这会创建新的 MLflow 实验,并关联到存储 OpenTelemetry trace 的 Unity Catalog 表。
详细设置指南涵盖了权限和 SQL warehouse 要求。

2. 配置原生导出

使用你的 workspace ID、region 和 spans 表设置 Databricks 目标。Zerobus 连接指南说明了如何获取表级范围的 OAuth token。

新的原生 OTel 集成涵盖 Anthropic SDK、Messages API 和 Managed Agents。对于 Anthropic SDK,请安装以下软件包,并配置 OTel tracer provider 和 exporter,以便为 Anthropic SDK 调用创建 span。按照 Claude Platform OpenTelemetry 指南,将来自 Messages API 和 Claude Managed Agent 的 trace 发送到你的 Databricks 目标。

Claude Code 和 Claude Agent SDK 也支持 OpenTelemetry。要将它们的 trace 发送到同一目标,请在启动应用前设置以下额外变量:

3. 运行任务并检查 trace

运行你的 Claude agent,然后在实验中打开 Traces。打开一条 trace 以检查其模型调用、工具活动、时序以及捕获的输入和输出。请注意,只有当你通过将 content mode 设置为“full”来选择加入时,输入和输出才会被捕获。

OTel trace in Databricks MLflow
Databricks MLflow 中的原生 OTel trace,包含模型和工具 span。

使用 trace 调试和改进你的 Claude agent

一旦 Claude trace 到达 MLflow,你就可以在整个开发过程中使用它们。一条 trace 提供了用于调试的记录、供专家审查的案例,以及评估下一版 agent 的证据。

借助 trace 调试答案

意外的答案可能源于缺失的上下文、失败的工具调用,或模型如何使用工具结果。MLflow 的Analyze trace操作将Genie Code引入调查。它会检查记录的执行过程,并帮助解释出错的地方。

针对缺失的上下文、失败的工具调用或代价高昂的步骤提出后续问题,以检查解释背后的相关上下文。这有助于你决定是修改指令、改进工具,还是更改 agent 可用的上下文。

claude analyze gif
点击 Analyze trace,使用 Genie Code 调查选定的 Claude 执行过程。分析识别出缺失的发布说明和重复读取。

在 trace 和会话中发现反复出现的问题

MLflow Issues(Beta 版)使用Genie Code识别反复出现的质量和运维问题。它会检查响应、工具调用、时序、错误和评估,然后将相关发现分组,并附上支持性 trace 的链接。示例包括浪费 token 的重复搜索、导致工具失败的缺失参数,以及不符合所需格式的响应。

你可以安排检测,以便在新 trace 到达时持续运行此分析。团队可以选择运行频率,使用元数据或标签聚焦特定流量,并自定义其查找的问题类型。修复后,问题监控器可以跟踪问题是否再次出现。MLflow 会为该问题创建一个 scorer,评估最近的 trace 以建立基线,并对新 trace 的样本进行评分以衡量其随时间出现的频率。

Three Affected Claude Traces
一个手动编写的演示问题描述了重复的文档读取,并链接到三条受影响的 Claude trace。此演示未运行 Issue Detection。

让领域专家审查 trace

某些质量判断需要领域知识。MLflow Review Queues通过选定的 trace 和针对 agent 定制的问题,将这种专业知识引入开发过程。

审查者可以评估记录的请求和响应,解释缺失的内容,并提供预期答案。他们的反馈有助于开发者改进 agent,并为后续评估建立参考答案。

Claude
一个等待专家审查的 Claude 答案,其请求和响应直接读取自对应的 trace。

针对相同的案例评估变更

对指令、工具或技能的更改可能修复一个失败,同时引入另一个失败。Trace 还使 agent 行为可衡量。对 Claude trace 运行MLflow Agent Evaluation,以测试对提示、技能、工具的更改是改进还是使 agent 退化。

例如,以下代码执行一个 LLM 评判器,以检查 agent 是否进行冗余的工具调用。

当原始智能体和修订后的智能体针对相同用例运行后,可以使用相同的评判器对它们的评估运行结果进行比较。在 MLflow UI 中点击 Compare,即可并排查看评分和响应,并可借助底层追踪来解释仍然存在的失败。

Completed evaluations of the same three cases, comparing baseline and revised instructions.
已完成对相同三个用例的评估,比较了基线指令和修订后的指令。

同样的方法也适用于检查智能体是否遵循了必需的工作流程或使用了合适的工具。Testing and Refining Claude Code Skills with MLflow 展示了这些检查及其理由如何指导技能的改进。

了解更多并开始使用

以下资源涵盖如何将 Claude 连接到 Databricks MLflow,以及在开发过程中使用其追踪:

第一个 CTA 项在发布前仍需要专用的 Claude 集成指南 URL。

来源:Databricks:Blog · databricks.com

来源:RadarAI · aihot.news