Box, yeni aracı odaklı içerik geri çağırma sistemi için Nvidia’nın Nemotron modelini kullanıyor

Perşembe günkü geliştirici konferansında Box, Nvidia’nın Nemotron yerleştirme sistemini ürününün merkezine entegre edecek yeni bir özelliği tanıttı.

Box Content Retrieval olarak adlandırılan yeni özellik, temsilcilerin Nemotron tarafından oluşturulan gömülü meta verilere dayanarak sorguları çok daha etkili bir şekilde yanıtlamasına olanak tanıyor. 

Box, kullanıcılar için sonucun daha hızlı, daha doğru ve daha ucuz sorgular olduğunu söylüyor. Nvidia’nın üretken yapay zeka yazılımından sorumlu başkan yardımcısı Kari Briski, TechCrunch’a yaptığı açıklamada sorguların dört kat daha hızlı yanıtlanmasını, %20 daha az hata yapılmasını ve %90 daha az token kullanılmasını beklediğini söyledi.

Sistem, Box’ın tüm Enterprise Advance müşterilerine sunulacak ve gelecek yılın başlarında kullanıma açılacak.

Box CEO'su Aaron Levie, “Bu, arama teknolojimizin temsilciler için uygunluğunu önemli ölçüde artırıyor,” dedi. “Bir temsilcinin her bir belgeyi baştan sona okuması yerine, belgelerden kullanıcının sorgusuyla veya temsilcinin yaptığı görev her neyse onunla en alakalı bölümleri geri gönderebiliyoruz.”

Bu özellik, otomatik geri getirme sistemlerini iyileştirmek için açık ağırlıklı yerleştirme modelleri sunan Nvidia’nın Nemotron Embed projesinin bir uygulamasıdır. Büyük laboratuvarlar, verilerin temsilciler tarafından daha iyi kullanılabilmesi için LLM'leri kullanarak verileri önceden işleyen bu tür modelleri genellikle göz ardı ettiler. Bu sektör, Temmuz ayında yayınlanan ve geri getirme kalitesini ölçen RTEB kıyaslamasında birinci olan son Nemotron sürümüyle Nvidia’nın açık kaynaklı model projesinin odak noktası oldu.