Databricks 谈语音智能体:上下文如何把语音对话变成真实客户价值
Voice Agents are here. Context turns them into real customer value.
Databricks 提出语音智能体由对话层与“大脑”两部分组成,对话层由 LiveKit、Deepgram、ElevenLabs、Twilio 等承担,大脑由 Databricks 提供,在每轮对话中查询来电者上下文、应用业务规则并决定下一步。
在继续阅读之前: 观看这个简短演示。
在这个简短演示中,语音智能体在通话进行到一半时,于几分之一秒内做出决策,并在不打断对话的情况下改变回应方式。正是这种实时决策能力,让语音智能体能够切换语言、在恰当时机将呼叫者转接给人工,或为最有价值的客户提供他们期待的体验。
为什么是语音,为什么是现在
想想消费类企业中每天都会发生的三个时刻:
- 早上6点,一位司机因配送时间窗口即将迟到,致电调度中心更改他的码头预约。他正在开车,所以无法使用应用。另外三名司机已在排队等候,他每多等一分钟,下一单配送就多一分风险。
- 中午,一家得来速有4辆车排队,只有一名员工戴着耳机,同时还要收款和递送订单。顾客只能通过说话点单,所以队伍前进的速度完全取决于这一名员工处理订单的速度。
- 傍晚,一场风暴导致航班停飞,滞留的旅客致电酒店保留房间并推迟入住。站在登机口、两手各提一个包时,打电话比上网更简单也更快捷。预订团队只有两个人,却有四十通电话涌入。
在这些时刻中,语音都是客户联系企业最快或唯一的方式。那么,如果语音最终能最有效地满足客户和业务需求,为什么它常常不可用,或者更近些时候,执行得很糟糕?
多年来,答案一直是语音太难做好。但这已不再成立。合成语音现在听起来很自然,对话可以在呼叫者仍在线上时被转成文本并据此采取行动,而如今的语音智能体能够跟上人们在对话中通常相互应答所需的约 200毫秒的节奏。
没有跟上的是大多数公司的思考方式。企业AI投资在很大程度上面向内部,投向员工助手,而更大的机会在于公司每天与客户和合作伙伴进行的对话。美国最大的快餐品牌之一已经在朝这个方向建设,其语音智能体让顾客只需说话就能将商品加入购物车、更改订单并结账。

语音智能体可以创造价值的示例用例。
从更改码头预约的司机到风暴后保留房间的旅客,每一通这样的电话都不仅仅依赖于理解语音。为了发挥作用,智能体需要具备你最好的员工所拥有的同样背景信息:来电者是谁、他们已经在进行什么事情,以及它被允许对此做什么。
缺失的一环是了解你的客户
大多数语音智能体试点证明的是智能体能够进行对话。能证明它可以被托付给真实客户的则少得多。背景信息弥合了这一差距。有了它,智能体可以适应每位呼叫者,遵守你关于它能查看和说什么的规则,并随着每一通电话而变得更好。没有它,即使是最自然的声音也只能给出泛泛的答案。
设想一次通话。一位老客户来电询问延迟的订单。客服坐席已经知道他们是谁、订购了什么以及包裹在哪里。它表示歉意,提供其有权给出的忠诚度积分,并安排补发。如果客户仍然不满,坐席会在当下察觉,并在几分之一秒内决定将通话转接给下一位可用人员。该人员接起时已掌握完整上下文,因此客户既无需排队等待,也无需重复说明。当患者更改预约,或订阅者在发现一笔不认识的扣款后无法登录时,同样的模式也适用。在每种情况下,当客户离开应用或网站并需要立即得到答复时,坐席就会介入,然后在通话结束后将他们带回同一旅程。
在实时通话中汇集这些上下文才是真正的挑战。它分布在众多系统中,坐席需要在几分之一秒内获取它,而且它必须全程受到治理。这正是 Databricks 的用武之地。
语音坐席背后的大脑:Databricks 上的上下文、本体与治理

语音坐席有两个部分。第一部分是 对话层,负责通话本身:传输音频、将语音转为文本,并说出回复。专业合作伙伴在这方面做得很好。在我们的原型中, LiveKit 负责承载通话, Deepgram 负责语音转文本和默认语音, ElevenLabs 添加富有表现力的语音。像 Twilio 这样的电话运营商可以接入普通电话线路。
第二部分是 大脑,由 Databricks 提供。在通话的每一轮中,它会查找来电者的上下文,应用你的业务规则,并选择下一步,无论是回答问题、提供优惠,还是将通话转接给人工。它还会记录每个决策,以便你的团队日后审查。对话层决定坐席听起来如何。大脑决定它是否能给出正确答案。
大脑建立在三样已经共同存在于 Databricks 上的基础之上。
- 上下文 是坐席在当下需要的数据:属于通话中那个人的客户、订单、产品和政策数据。
- 本体 是这些数据如何连接。它捕获你的业务所依赖的定义和关系,例如什么使某人成为忠诚度会员、订单属于哪家门店,以及哪项政策适用于哪个产品,从而使坐席能够像你的员工一样对你的业务进行推理。
- 治理 决定谁能看到什么。在 Databricks 上,AI 坐席遵循你的 企业数据目录 中员工已经遵循的相同访问规则。
对于 Databricks 客户来说,无需搭建新平台。坐席在你数据已经所在的地方运行,并通过经批准的只读查询连接到你已经运行的系统,例如订单、忠诚度和 CRM。
支柱 1:让每个答案都扎根于你的业务
在客户交互过程中,坐席利用你的上下文和本体来查询此人的订单、你的政策以及你的产品信息,因此每个回答反映的都是你的业务,而非来自互联网的通用知识。坐席只能看到属于来电者的记录,并且通过核查你的系统来确认其身份,而不是听信对方的一面之词。你的业务决定坐席可以提供哪些优惠、能给予多少信用额度,以及在哪个节点转由人工接管。
如果坐席无法在你的数据中找到答案,它会如实告知来电者并转接给人工,而不是猜测。它给出的每个答案都可以追溯到其来源记录。医疗、财务或安全等敏感话题按设计会转接给人工,并且坐席被设定为绝不提供医疗建议。只有对话内容会经过语音合作伙伴,客户数据则保留在你受管控的平台上。
支柱 2:借助快速 AI 决策为每次对话量身定制
语音坐席需要两种思考方式。有些决策必须在几分之一秒内完成,比如遇到码头问题的司机或情绪激动的来电者是否应立即转接人工。另一些则需要审慎推理,比如为延迟订单找出正确的解决方案。研究人员称之为快思考与慢思考,即系统 1 和系统 2,而如今 AI 也正以同样的方式构建。大语言模型(系统 2)负责审慎推理,而一类新型快速决策模型(系统 1),例如来自 TypeSafe AI的 Jev,则负责快速判断。Databricks 通过 ai_decide将系统 1 决策引入你受管控的数据,使坐席能够快速做出判断并展示其置信度。
在语音坐席中,两者在对话的每一轮都协同工作。
- 忠诚会员或回头客可获得其完整历史记录以及符合条件的优惠,并由你能力最强的模型提供支持;而常规问题则以更低的成本获得快速、准确的回答。
- 情绪激动的来电者会被转接给人工,同时附带订单或预订信息、以往的投诉以及已经提供的优惠。
- 切换语言的来电者会听到坐席也随之切换语言。
- 看到不明扣费且无法登录的订阅用户,会依据你的记录进行验证,并直接转入账户恢复流程,而不是在通用队列中等待。
- 致电取消的订阅用户会在仍能改变其决定的时刻,听到其真正符合条件的挽留优惠。
- 询问症状是否严重的患者会被转接给护士,并附上完整对话记录。
- 报告码头事故的司机会被立即升级处理,以免让你损失一单货运。
这让你能在对客户真正重要的环节使用能力最强的模型,而在其他所有环节使用更快、成本更低的模型。
支柱 3:通过每次通话构建学习闭环
这些决策中的每一个都会被记录下来。在电话层处理呼叫者同意和录音披露后,每通电话都能被捕获在一个受治理的地方:说了什么、查询了什么、哪个模型作答,以及每个决策为何做出。你的团队使用已经治理其余数据的同一套策略,控制谁可以访问这些记录以及保留多长时间。该代理继承 Databricks 平台的安全与合规计划,包括 HIPAA 和 SOC 2 Type II 选项,详见 Databricks Trust Center。语音合作伙伴拥有各自的认证,需要在推广过程中进行审查。
正是这份记录让代理得以改进。每通电话都可以自动进行质量评分,联络中心和客户体验负责人可以用自然语言询问有关通话的问题,例如上周二退款请求为何激增。这些洞察随后可以反馈到更好的提示词和模型中,进一步提升语音代理的有效性。
在 Databricks 上开始使用语音代理
入门并不需要大型项目。构建模块现已可用,且在 GitHub 上开源的 Databricks Intelligent Voice Agents (DIVA) blueprint 为你的团队提供了一个可用的起点。语音随后成为你现有系统之上的一个新渠道。
语音代理负责处理填满队列的常规来电,例如订单状态、续药和重新预订,让你的员工可以专注于需要人工的对话:情绪激动的客户、复杂的请求,或者只是更愿意与人交谈的来电者。当员工接起电话时,完整历史已显示在其屏幕上;如果出现任何问题,通话会连同完整转录转接给人工。
这就是客户服务的发展方向。Gartner 预测,到 2029 年,代理式 AI 将在无需人工干预的情况下自主解决 80% 的常见客户服务问题,从而使运营成本降低 30%。
Databricks 行业工程师建议从为期 90 天的试点开始,覆盖一个渠道、一个团队以及你最高频的常规来电,例如订单状态、司机签到或供应商确认。在试点开始前,记录当前的单次通话成本、处理时间和客户满意度,并跟踪来电者是否会再次回访并购买,以便在结束时比较结果。一旦结果经得起检验,你就可以将同样的受治理设置扩展到更多地点和更多类型的来电。
下次领导会议上的三个问题
- 我们最常处理哪些客户和合作伙伴对话,其中哪些是代理今天就能准确回答的?
- 如果语音代理明天代表我们接听电话,它会知道自己在与谁交谈吗?它会遵循与我们的员工相同的规则吗?
- 我们能否追踪代理在通话中做出的每一个决策,并证明它受到了治理?
要查看实际效果,请观看完整演示,并与你的技术团队分享 GitHub 上的 DIVA blueprint。其中包含编码代理可直接遵循的现成指令。随后联系你的 Databricks 客户团队,讨论并构思你的首个用例。
你的客户很快将代表你与 AI 代理对话。关键在于该代理对他们的了解程度。
来源:Databricks Blog · databricks.com