Box utiliza Nemotron da Nvidia para novo sistema de recuperação de conteúdo focado em agentes

Em sua conferência de desenvolvedores na quinta-feira, a Box apresentou um novo recurso que integrará o sistema de incorporação Nemotron da Nvidia ao núcleo de seu produto.

Chamado de Box Content Retrieval, o novo recurso permite que agentes respondam a consultas de forma muito mais eficaz ao confiar nos metadados incorporados criados pelo Nemotron. 

A Box afirma que o resultado para os usuários são consultas mais rápidas, precisas e baratas. A vice-presidente de software de IA generativa da Nvidia, Kari Briski, disse ao TechCrunch que espera que as consultas sejam respondidas quatro vezes mais rápido, com 20% menos erros e 90% menos tokens usados.

O sistema estará disponível para todos os clientes Enterprise Advance da Box, com lançamento previsto para o início do próximo ano.

“Isso aumenta drasticamente a relevância de nossa tecnologia de busca para agentes”, disse o CEO da Box, Aaron Levie. “Em vez de um agente ter que ler cada documento, podemos enviar trechos dos documentos que são mais relevantes para a consulta do usuário ou qualquer que seja a tarefa que o agente esteja realizando.”

O recurso é uma implementação do projeto Nvidia’s Nemotron Embed, que oferece modelos de incorporação de pesos abertos para melhorar os sistemas de recuperação automatizados. Grandes laboratórios muitas vezes negligenciaram tais modelos, que usam LLMs para pré-processar dados para que possam ser melhor utilizados por agentes. O setor tem sido o foco do projeto de modelos de código aberto da Nvidia, com seu recente lançamento do Nemotron em julho liderando o benchmark RTEB, que mede a qualidade da recuperação.