Nvidia, OpenAI, Anthropic ve Meta'nın Desteğiyle Yedi Çipli Vera Rubin AI Platformunu Tanıttı
Nvidia, Pazartesi günü yedi çipten oluşan ve tam üretime geçmiş olan kapsamlı yeni hesaplama platformu Vera Rubin’i tanıttı. Platform, Anthropic, OpenAI, Meta ve Mistral AI gibi olağanüstü müşteri portföyü ve tüm büyük bulut sağlayıcılarının desteğiyle dikkat çekiyor. Nvidia, yapay zeka endüstrisine ve yatırımcılara net bir mesaj verdi: hız kesmiyor.
Vera Rubin platformu, yakın zamanda piyasaya sürülen Blackwell sistemlerine kıyasla watt başına 10 kata kadar daha fazla çıkarım verimliliği ve token başına maliyetin onda biri oranında tasarruf sağlıyor. Nvidia CEO’su Jensen Huang, şirketin yıllık GTC konferansında bu platformu "nesiller arası bir sıçrama" olarak nitelendirerek "tarihin en büyük altyapı inşasını" başlatacağını söyledi. Amazon Web Services, Google Cloud, Microsoft Azure ve Oracle Cloud Infrastructure gibi büyük bulut sağlayıcıları platformu sunacak ve 80’den fazla üretim ortağı sistemler geliştiriyor.
Vera Rubin platformu, Nvidia Vera CPU, Rubin GPU, NVLink 6 Switch, ConnectX-9 SuperNIC, BlueField-4 DPU, Spectrum-6 Ethernet anahtarı ve yeni entegre edilen Groq 3 LPU’dan oluşan yedi çipi bir araya getiriyor. Bu bileşenler, beş birbirine bağlı raf ölçeğinde sistem olarak organize edilerek birleşik bir süper bilgisayar işlevi görüyor. NVL72 rafı, 72 Rubin GPU ve 36 Vera CPU’yu NVLink 6 ile bağlayarak büyük uzman karışımı modelleri Blackwell sistemlerine göre dörtte bir GPU kullanımıyla eğitebiliyor.
Nvidia, yapay zeka endüstrisinin bir eşik aşmakta olduğuna inanıyor. Huang, sohbet botlarının yerini alan "ajanik yapay zeka" çağının başladığını belirtiyor. Bu sistemler saatlerce veya günlerce bağımsız şekilde çalışarak yazılım yazıyor, dış araçları kullanıyor ve sürekli gelişiyor. Bu, sadece daha hızlı çipler değil, aynı zamanda hesaplama, bellek, depolama ve ağ arasında tamamen farklı bir denge gerektiriyor. Nvidia, bu ihtiyaca yönelik olarak Agent Toolkit ve açık kaynaklı OpenShell gibi güvenlik ve gizlilik özellikleri sunan yeni yazılım çözümlerini de tanıttı.
Ayrıca şirket, fabrikalar ölçeğinde yapay zeka çıkarımı için ilk "işletim sistemi" olarak tanımladığı açık kaynak Dynamo 1.0’ı duyurdu. Dynamo, GPU ve bellek kaynaklarını kümeler arasında yönlendiriyor ve AWS, Azure, Google Cloud, Oracle gibi büyük platformlar tarafından benimsenmiş durumda. Nvidia, Blackwell çıkarım performansını son benchmarklarda 7 kata kadar artırdığını açıkladı.