İş ve oyuna yönelik performans donanımlarının yanı sıra yapay zekâ kesiminin de donanım mimarlarından olan NVIDIA, üretken yapay zekâların çalıştırılmasında kullanılacak yeni çipini duyurdu. Çip, yapay zekâ çipi serisi GH’ın yeni üyesi GH200 oldu.
NVIDIA GH200, şirketin paylaştığı duyuruya nazaran en karmaşık ve yüklü üretken yapay zekâ süreçlerinin üstesinden gelebilecek, vektör, teklifçi ve büyük çaplı lisan modelleri için kullanılabilecek. Öte yandan çip, şirketin şu anki en güçlü yapay zekâ çipi H100 ile tıpkı grafik işlemcisini taşıyacak.
Aynı grafik işlemci var fakat daha yüksek hafıza sunulacak:
Çip, H100 grafik işlemcisiyle birebir işlemciyi taşıyacak olsa da bu üniteden 3,5 kat daha fazla hafıza (282 GB) sunacak. Bu hafıza, H100’de bulunan dördüncü jenerasyon Tensor çekirdekleri ve Transformer Engine ile sunulan performans ile birleştiğinde standart bir kullanıcının hayal edemeyeceği derecede yüksek süreç gücü sunacak.
Ayrıca değişen şey yalnızca hafıza ölçüsü olmayacak. GH200 ile yeni HBM3e bellek de kullanıma sunulacak. Bu bellek hakkında şimdi datalar paylaşılmamış olsa da bir evvelki nesile nazaran %50 daha hızlı olacak.
NVIDIA’nın H100 grafik ünitesi, saniyede 3,35 TB’a kadar bilgi transfer suratı sunabiliyor. Bunu, standart tüketiciler için günümüzün en güçlü grafik işlemcisi karşılaştırmak gerekirse NVIDIA GeForce RTX 4090, saniyede 1 TB’a kadar transfer destekliyor. GH200’de ise bu sayının saniyede 10 TB’a çıkacak.
Üstelik NVIDIA’nın yapay zekâ çipleri tek başına kullanılan çipler de değil. Şirketin “NVLink Switch System” teknolojisi sayesinde tıpkı anda 256 adet işlemci birbiriyle ilişkili bir formda kullanılabiliyor. Saniyede 850 TB’dan fazla bilgi transferi yapılabiliyor (H100 serisi bilgilerine göre). Böylelikle trilyonlarca parametreye sahip yapay zekâ sistemleri çalıştırılıyor, eğitiliyor.
NVIDIA, GH200’ün fiyatını şimdi açıklamadı. Fakat H100 serisi grafik ünitelerinin günümüzde yaklaşık 40 bin dolardan satıldığını belirtelim.
