Nvidia, yapay zekâ ajanları için geliştirdiği 120 milyar parametreli açık modeli Nemotron 3.5 Super VL’yi duyurdu. Model metin, görsel, belge ve videoyu tek sistemde işliyor. Şirket, aynı anda yerel donanımda çalışan daha küçük Bolt modellerini de kullanıma sundu.

Daha az parametreyle büyük model performansı

Super VL, uzman karışımı (mixture-of-experts) mimarisiyle çalışıyor: Her kelime işlenirken 120 milyar parametrenin yalnızca 12 milyarı devreye giriyor. Bu yaklaşım, modeli hızlı ve ucuz tutuyor. Nvidia, çok modlu ajan görevlerinde doğruluğunun kendi en büyük akıl yürütme modeline yakın olduğunu, ancak boyutunun yaklaşık beşte biri kadar olduğunu söylüyor. Şirkete göre model, benzer boyuttaki açık modellere kıyasla tek bir GPU’da beş kata kadar daha yüksek verim sunuyor.

Belge, tablo ve grafik okuyan ajanlar

Model özellikle PDF’ler, tablolar, grafikler ve fatura gibi yapılandırılmış görsel belgeler üzerinde odaklanıyor. Nvidia’nın paylaştığı sonuçlara göre uzmanlaştırılmış eğitimle doğruluk, belge analizi, güvenlik saldırılarına dayanıklılık ve finansal makbuz ayrıştırma gibi beş görevde yüzde 9 ile 44 arasında artıyor. Scale AI, Ramp, Atlassian, CrowdStrike ve Salesforce gibi şirketler modeli kendi iş akışlarına uyarlamaya başladı. Ancak Nvidia’nın test yöntemlerini ayrıntılı paylaşmadığı, rakip modellerle yapılan karşılaştırmaların kendi iş yüklerinizle doğrulanması gerektiği belirtiliyor.

Bolt serisi bilgisayarlara iniyor

Nvidia ayrıca uç cihazlar için Bolt ailesini duyurdu. 74 milyar parametreli Bolt 74B-A9B, 2 bitlik sıkıştırma sayesinde 24 GB belleğe sığıyor ve RTX ile DGX Spark gibi yerel donanımlarda çalışabiliyor. 4 GB’lık Bolt E4B ise yerel sesli asistanlar ve gömülü arayüzler için hazırlanıyor, 23 Ekim’de çıkacak. Super VL ağırlıkları Hugging Face, OpenRouter ve NIM üzerinden erişilebilir durumda; kurumsal üretim kullanımı için NVIDIA AI Enterprise lisansı gerekiyor.