Nvidia, Nemotron 3.5 Lightning Açık Yapay Zeka Modelini Yayınladı

Nvidia, Nemotron 3.5 Lightning Açık Yapay Zeka Modelini Yayınladı

Nvidia, çok amaçlı bir yanıt motorundan ziyade uzun süreli yapay zeka aracı sistemlerinde hızlı bir iş yükü taşıyıcısı olarak tasarlanan yeni bir açık yapay zeka modeli olan Nemotron 3.5 Lightning'i tanıttı.

11 Ağustos'ta yayınlanan Nemotron 3.5 Lightning, token başına 3 milyar parametreyi etkinleştiren 30 milyar parametreli bir uzmanlar karışımı (mixture-of-experts) modelidir. Nvidia, modelin 1 milyon tokene kadar bağlam pencerelerini desteklediğini ve benzer büyüklükteki modellerin dört katına kadar çıktı hızı sunabildiğini belirtiyor. Şirket; modeli açık ağırlıklar, eğitim verileri ve reçetelerle birlikte OpenMDW-1.1 lisansı altında sunuyor.

Nemotron 3.5 Lightning sürümünün daha önemli olan kısmı, Nvidia'nın bu gibi modellerden beklediği görevdir. Bir yapay zeka aracının işinin her adımını büyük bir öncü modele göndermek yerine Nvidia, farklı modellerin farklı görev sınıflarını yönettiği sistemler öngörüyor.

Daha büyük bir muhakeme modeli bir iş akışını planlayabilir veya zor bir kararı yönetebilirken, daha hızlı bir uzmanlaşmış model, bir aracın bu planı uygularken oluşturduğu tekrarlanan araç çağrılarını, doğrulamaları, biçimlendirme görevlerini ve diğer rutin işlemleri gerçekleştirir. Bu ayrım, yapay zeka uygulamaları tekil istem ve yanıtlardan öteye geçerek bir görevi tamamlarken düzinelerce veya potansiyel olarak çok daha fazla model çağrısı oluşturabilen aracılara doğru ilerledikçe daha önemli hale geliyor.