Box 采用 Nvidia 的 Nemotron 打造全新代理优先内容检索系统

在周四的开发者大会上，Box 展示了一项新功能，该功能将把 Nvidia 的 Nemotron 嵌入系统构建到其产品的核心中。

这项名为 Box Content Retrieval 的新功能允许代理（agents）依靠 Nemotron 创建的嵌入元数据，更有效地回答查询。

Box 表示，对用户而言，结果是查询速度更快、更准确且成本更低。Nvidia 生成式 AI 软件副总裁 Kari Briski 告诉 TechCrunch，她预计查询回答速度将提高四倍，错误减少 20%，使用的 tokens 减少 90%。

该系统将面向所有 Box 的 Enterprise Advance 客户开放，计划于明年年初推出。

“这大大提升了我们针对代理的搜索技术相关性，”Box 首席执行官 Aaron Levie 表示。“代理不再需要通读每份文档，我们可以从文档中返回与用户查询或代理正在执行的任务最相关的部分。”

该功能是 Nvidia 的 Nemotron Embed 项目的一项应用，该项目提供开放权重嵌入模型以改进自动检索系统。大型实验室通常会忽视此类模型，这些模型使用 LLMs 预处理数据，以便代理能更好地利用。该领域一直是 Nvidia 开源模型项目的重点，其 7 月发布的最新 Nemotron 在衡量检索质量的 RTEB 基准测试中名列前茅。

Box 表示，该系统在与活跃代理配合使用时最为有用，并以律师为例，律师在新系统下显然能够更轻松地找到相关的条款和先例。由于 Nemotron 的嵌入超越了简单的关键词来映射底层概念，因此即使使用了不同的措辞或语言，搜索工具也能呈现相关的法律主题。

虽然 Nemotron 模型是免费提供的，但该系统也严重依赖 Box 预先存在的元数据和权限控制，这将使其很难从头开始重建。“我们可能会将五种不同的技术封装到一个简单的 API 中，”Levie 告诉 TechCrunch。