Box、NvidiaのNemotronを採用した新エージェント・ファースト・コンテンツ検索システムを発表

木曜日に開催された開発者会議で、Boxは、NvidiaのNemotron埋め込みシステムを製品のコアに組み込む新機能を披露しました。

「Box Content Retrieval」と呼ばれるこの新機能により、エージェントはNemotronによって作成された埋め込みメタデータを利用することで、クエリに対してはるかに効果的に回答できるようになります。

Boxによると、ユーザーにとってのメリットは、より高速で正確、かつ低コストなクエリです。NvidiaのジェネレーティブAIソフトウェア担当副社長であるKari Briski氏は、回答速度が4倍になり、エラーが20%減少し、使用されるトークンが90%削減されると期待しているとTechCrunchに語りました。

このシステムは、BoxのすべてのEnterprise Advance顧客が利用可能になり、来年初めに展開される予定です。

「これにより、エージェント向けの検索技術の関連性が劇的に向上します」とBoxのCEOであるAaron Levie氏は述べました。「エージェントが各ドキュメントを読み進める必要はなく、ユーザーのクエリやエージェントが行っているタスクに最も関連性の高いドキュメントのチャンクを返すことができます。」

この機能は、自動検索システムを向上させるためのオープンウェイト埋め込みモデルを提供するNvidiaのNemotron Embedプロジェクトの実装です。主要な研究所は、LLMを使用してデータを事前処理し、エージェントがより適切に利用できるようにするこのようなモデルをしばしば見落としてきました。この分野はNvidiaのオープンソースモデルプロジェクトの焦点となっており、7月にリリースされた最近のNemotronは、検索品質を測定するRTEBベンチマークでトップとなりました。

Boxによれば、このシステムはアクティブなエージェントと組み合わせたときに最も有用であり、例えば弁護士は、新しいシステムの下で関連する条項や判例をより簡単に見つけることができるようになるといいます。Nemotronの埋め込みは、単純なキーワードを超えて基礎となる概念をマッピングするため、検索ツールは異なる言い回しや言語が使用されている場合でも、関連する法的テーマを浮き彫りにすることができます。

Nemotronモデルは自由に利用できますが、このシステムはBoxの既存のメタデータや権限管理にも大きく依存しているため、ゼロから再現するのは困難です。「私たちは、おそらく5つの異なるテクノロジーを1つのシンプルなAPIに詰め込んでいます」とLevie氏はTechCrunchに語りました。