Box, 새로운 에이전트 우선 콘텐츠 검색 시스템 위해 Nvidia Nemotron 도입

목요일 개발자 컨퍼런스에서 Box는 자사 제품의 핵심에 Nvidia의 Nemotron 임베딩 시스템을 구축하는 새로운 기능을 선보였습니다.

Box Content Retrieval이라고 불리는 이 새로운 기능은 Nemotron이 생성한 임베딩 메타데이터에 의존하여 에이전트가 쿼리에 훨씬 더 효과적으로 답변할 수 있도록 해줍니다.

Box는 사용자에게 돌아가는 결과가 더 빠르고 정확하며 저렴한 쿼리라고 말합니다. Nvidia의 생성형 AI 소프트웨어 부사장인 Kari Briski는 TechCrunch에 쿼리 답변 속도가 4배 빨라지고, 오류는 20% 줄어들며, 사용되는 토큰은 90% 감소할 것으로 예상한다고 말했습니다.

이 시스템은 모든 Box Enterprise Advance 고객에게 제공될 예정이며, 내년 초에 출시됩니다.

“이것은 에이전트를 위한 당사 검색 기술의 관련성을 극적으로 높여줍니다.”라고 Box CEO Aaron Levie는 말했습니다. “에이전트가 각 문서를 일일이 읽어야 하는 대신, 사용자의 쿼리나 에이전트가 수행 중인 작업과 가장 관련성이 높은 문서의 덩어리를 보낼 수 있습니다.”

이 기능은 자동화된 검색 시스템을 개선하기 위해 오픈 웨이트(open-weight) 임베딩 모델을 제공하는 Nvidia’s Nemotron Embed 프로젝트의 구현체입니다. 주요 연구소들은 에이전트가 데이터를 더 잘 사용할 수 있도록 LLM을 사용하여 데이터를 사전 처리하는 이러한 모델들을 간과하곤 했습니다. 이 분야는 Nvidia의 오픈 소스 모델 프로젝트의 초점이었으며, 최근 7월에 출시된 Nemotron은 검색 품질을 측정하는 RTEB 벤치마크에서 1위를 차지했습니다.

Box는 이 시스템이 활성 에이전트와 결합될 때 가장 유용할 것이라고 말하며, 새로운 시스템 하에서 변호사들이 관련 조항과 판례를 더 쉽게 찾을 수 있게 될 것이라는 예를 들었습니다. Nemotron의 임베딩은 단순한 키워드를 넘어 근본적인 개념을 매핑하기 때문에, 다른 단어나 언어가 사용되더라도 검색 도구가 관련 법률 테마를 표면화할 수 있습니다.

Nemotron 모델은 무료로 사용 가능하지만, 이 시스템은 또한 Box의 기존 메타데이터 및 권한 제어에 크게 의존하므로 처음부터 다시 만드는 것은 어려울 것입니다. “우리는 아마도 다섯 가지 다른 기술을 하나의 간단한 API에 담고 있는 것 같습니다.”라고 Levie는 TechCrunch에 말했습니다.