ChatGPT gibi botlar Nvidia H100 grafik birimine emanet

Anakart Driverları, Donanım Mar 14, 2023 Yorum Yok
ChatGPT sohbet robotunun fırtınalar kopardığı bu periyotta, Yapay zekâya Aka yatırım yapan Nvidia’nın da bu fırtınadan en Aka hissesi kapacağı gündeme gelmişti. Microsoft ve Nvidia yeni iştiraklerini duyurdu.

Microsoft Azure altyapısına Nvidia H100 dopingi

Microsoft Azure bulut süreç altyapısı Nvidia H100 grafik üniteleri ile güçlendiriliyor. Yeni sunucularda sanal makineler çalıştırılacak ve ChatGPT üzere üretken Yapay zekâ teknolojilerine Meydan sağlanacak.

ChatGPT örneğinde olduğu üzere bu Cin üretken Yapay zekâ teknolojilerine olan İlgi hayli Çok ve harika bilgisayar düzeyinde performans ihtiyacı ortaya çıkıyor. Microsoft da Bing ve Edge eserlerine üretken Yapay zekâ teknolojileri eklemişti. NVIDIA H100 ile inşa edilmiş ND H100 v5 sanal makineleri Microsoft Azure altyapısının bu gereksinimini karşılıyor.

Sanal makinelerde 8 adet Nvidia H100 grafik üniteleri yer alıyor. Grafik üniteleri NVSwitch ve NVLink 4.0 ilişkileri ile 3.6TB/s İç bağlantı kurabiliyor. Dördüncü nesil Intel Xeon ölçeklenebilir işlemciler ile desteklenen makineler her GPU için 64GB/s bant genişliği ve 16 kanal DDR5 4800MHz DIMM bellekler sunuyor.

Yorum Yok

Yorum Yap

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir