Box 采用 Nvidia Nemotron 打造智能体优先的内容检索系统
Box taps Nvidia’s Nemotron for new agent-first content retrieval system
Box 在开发者大会上发布 Box Content Retrieval,将 Nvidia 的 Nemotron 嵌入系统集成进产品核心,让智能体基于嵌入元数据检索文档。Nvidia 生成式 AI 软件副总裁 Kari Briski 称查询速度提升 4 倍、错误减少 20%、token 用量减少 90%。该功能面向 Box Enterprise Advance 客户,将于明年初推出。
在周四的开发者大会上,Box 展示了一项新功能,该功能将把 Nvidia 的 Nemotron 嵌入系统构建到其产品的核心中。
这项名为 Box Content Retrieval 的新功能,让智能体能够依靠 Nemotron 创建的嵌入式元数据,更高效地回答查询。
Box 表示,对用户而言,其结果是查询更快、更准确且成本更低。Nvidia 生成式 AI 软件副总裁 Kari Briski 告诉 TechCrunch,她预计查询回答速度将提升四倍,错误减少 20%,token 使用量减少 90%。
该系统将面向 Box 的所有 Enterprise Advance 客户提供,并于明年初开始推出。
“这极大地提升了我们的搜索技术对智能体的相关性,”Box CEO Aaron Levie 表示。“智能体不必再逐一阅读每份文档,我们可以返回与用户查询或智能体所执行任务最相关的文档片段。”
该功能是 Nvidia 的 Nemotron Embed 项目的实现,该项目提供开放权重的嵌入模型,以改进自动化检索系统。主要实验室往往忽视此类模型,它们利用 LLM 对数据进行预处理,以便智能体更好地使用。该领域一直是 Nvidia 开源模型项目的重点,其 7 月发布的最新 Nemotron 在衡量检索质量的 RTEB 基准测试中位居榜首。
Box 表示,该系统与活跃智能体配合使用时最为有用,并举例说明律师在新系统下表面上能够更轻松地找到相关条款和判例。由于 Nemotron 的嵌入超越了简单的关键词,能够映射底层概念,因此即使使用不同的措辞或语言,搜索工具也能呈现相关的法律主题。
虽然 Nemotron 模型可免费获取,但该系统还严重依赖 Box 已有的元数据和权限控制,这使得从零开始重建颇具挑战。“我们大概是将五种不同的技术打包进一个简单的 API 中,”Levie 告诉 TechCrunch。
当您通过我们文章中的链接购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Russell Brandom 自 2012 年以来一直报道科技行业,重点关注平台政策和新兴技术。他此前曾在 The Verge 和 Rest of World 工作,并为 Wired、The Awl 和 MIT 的 Technology Review 撰稿。 可通过 [email protected] 或 Signal 412-401-5489 联系他。
来源:TechCrunch · AI · techcrunch.com