Google Cloud ve Nvidia, Vera Rubin NVL72 raf ölçekli sistemler üzerinde çalışan ilk A5X örneklerinin ilk müşteriyle birlikte devreye alındığını duyurdu. Açıklama 21 Ekim’de GTC Berlin’de yapıldı; genel kullanıma sunum ise Kasım ayında bekleniyor.

A5X örneklerinin içinde neler var?

A5X, Vera Rubin NVL72 sistemlerini Nvidia ConnectX-9 SuperNIC ağ kartları, Google Cloud’un Virgo Network altyapısı ve dördüncü nesil sıvı soğutma teknolojisiyle bir araya getiriyor. Platform, otonom (agentic) yapay zekâ çıkarımı ve büyük ölçekli pekiştirmeli öğrenme için tasarlandı. Google, farklı lokasyonlarda toplam 960 bine kadar Rubin GPU’ya ulaşmayı planlıyor; tek bir veri merkezi Virgo Network üzerinde 80 bine kadar GPU’yu destekleyebiliyor. Nvidia’ya göre bare-metal örnekler, önceki nesle kıyasla token başına çıkarım maliyetini 10 kata kadar düşürüyor.

İlk müşteri: Ineffable Intelligence

Erişim alan ilk müşteri, AlphaGo’nun yaratıcısı David Silver’ın kurduğu Londra merkezli girişim Ineffable Intelligence oldu. Şirket, deneyimden öğrenmeyi sürdüren “süper öğrenici” sistemler geliştirmek için A5X’i kullanıyor. Silver, işlemci ile GPU’lar arasındaki hızlı bağlantıların araştırmalarının ölçeğini büyüttüğünü söyledi. Reklam ve iletişim grubu WPP ise Nvidia Nemotron modelleriyle çalışan bir yaratıcı ajan mimarisini sergiledi. Bu mimaride her video iş akışı adımı çalıştırılmadan önce bir kişi onay veriyor.

Güvenlik, güç ve bulut rekabeti

Google Cloud, GB300 NVL72 tabanlı A4X Max dahil bare-metal örneklerde raf ölçeğinde Nvidia Confidential Computing sunan ilk sağlayıcılar arasında yer alacak. Bu özellik, işlenen verilerin donanım düzeyinde korunmasını sağlıyor. İki şirket ayrıca veri merkezlerinin güç sınırları içinde watt başına daha yüksek performans elde etmek için Nvidia’nın DSX MaxLPS yeteneklerini inceliyor. Kullanıma sunma ABD’de başlıyor; Avrupa için takvim açıklanmadı. Genel erişim başladığında müşteriler, çözümü Amazon Web Services ve Microsoft Azure’ın sunduklarıyla karşılaştırabilecek.