Grafik işlem birimlerinin (GPU’lar) manzarası, son yirmi yılda, çok daha yakın zamanda yapay zekanın yükselişiyle birlikte sismik değişimler yaşadı. Bu evrimin önemli bir kısmı, birden fazla GPU’nun birlikte çalışmasına olanak tanıyan teknolojilerin geliştirilmesi olmuştur. GPU alanında öncü olan NVIDIA, iki önemli teknolojiyle bu devrimin ön sıralarında yer aldı: Ölçeklenebilir Bağlantı Arayüzü (SLI) ve NVIDIA NVLink . Bu makale, SLI’dan NVLink’e olan yolculuğun izini sürerek NVIDIA’nın sürekli değişen bilgi işlem taleplerine sürekli olarak nasıl uyum sağladığını vurguluyor.

SLI’nın Şafağı

NVIDIA, ilk olarak 3dfx tarafından Voodoo2 kart serisi için geliştirilen SLI’yı 2000’li yılların başında piyasaya sürdü ve NVIDIA’nın video oyunları ve tüketici uygulamalarında daha yüksek grafik kalitesine yönelik artan talebe verdiği yanıttı. SLI, özünde, işleme iş yükünü birden fazla GPU’ya bölmek için Alternatif Kare İşleme (AFR) olarak bilinen bir teknik kullanır. Her kart, diğer tüm kareleri veya hatta her karenin bir kısmını çizerek grafik gücünü etkili bir şekilde iki katına çıkarır. O zamanlar devrim niteliğinde olsa da, SLI’nın daha yüksek gecikme süresi ve GPU’lar arasında veri paylaşımında esneklik eksikliği gibi sınırlamaları vardı.

SLI ve CrossFire: Çoklu GPU Çözümlerinde Rekabet

NVIDIA’nın SLI’sı çoklu GPU yapılandırmalarının hızını belirlerken, rekabetsiz de değildi. AMD’nin CrossFire’ı , çoklu GPU kurulumları için benzer yetenekler sunan doğrudan bir rakipti. SLI gibi CrossFire da Alternatif Çerçeve Oluşturma (AFR) ve Bölünmüş Çerçeve Oluşturma (SFR) gibi teknikler aracılığıyla grafik performansını artırmayı amaçladı.

Ancak CrossFire’ın kendine has avantajları ve zorlukları vardı. Kullanılabilecek GPU kombinasyonları genellikle daha esnekti ve farklı AMD kartlarının bir karışımına izin veriyordu. Olumsuz tarafı ise CrossFire’ın, bazı kullanıcıların NVIDIA’nın SLI’sından daha az güvenilir ve yapılandırması daha karmaşık bulduğu yazılım yığını nedeniyle sık sık eleştirilmesiydi. Bu farklılıklara rağmen, her iki teknoloji de aynı hedefe yönelikti: oyun ve tüketici grafik deneyimlerini geliştirmek. Daha gelişmiş, veri yoğunluklu görevleri yerine getirmedeki sınırlamaları, eninde sonunda NVLink gibi yeni nesil çözümlerin önünü açacaktır.

2010’lu yıllar ilerledikçe bilişim ortamı çarpıcı biçimde değişmeye başladı. Yapay zekanın (AI), yüksek performanslı bilgi işlemin (HPC) ve büyük veri analitiğinin yükselişi, daha sağlam çoklu GPU çözümlerini gerektirdi. Başlangıçta oyun ve tüketici iş yükleri göz önünde bulundurularak tasarlanan SLI’nın, hesaplama açısından yoğun olan bu görevler için yetersiz olduğu ortaya çıktı. NVIDIA’nın yeni bir paradigmaya ihtiyacı vardı.

Çift GPU Kartları Çağı: Çoklu GPU Hesaplamaya Benzersiz Bir Yaklaşım

SLI ve CrossFire gibi teknolojiler birden çok ayrı GPU’yu bağlamaya odaklanırken, çoklu GPU yapılandırmalarına daha az yaygın olan başka bir yaklaşım daha vardı: çift GPU kartları. Bu özel grafik kartları, tek bir PCB (Baskılı Devre Kartı) üzerinde iki GPU çekirdeği barındırıyordu ve tek bir kart üzerinde etkili bir şekilde SLI veya CrossFire kurulumu görevi görüyordu. NVIDIA GeForce GTX 690 ve AMD Radeon HD 6990 gibi kartlar bu yaklaşımın popüler örnekleriydi.

Çift GPU kartları çeşitli avantajlar sunar. İki GPU’yu tek kart yuvasında yoğunlaştırarak yerden tasarruf ettiler ve bu da onları küçük form faktörlü PC’ler için cazip hale getirdi. Ayrıca ayrı kartları harici konektörlere bağlama ihtiyacını ortadan kaldırarak kurulumu basitleştirdiler. Ancak bu kartların sorunları da vardı. Isı yayılımı önemli bir sorundu ve çoğunlukla gelişmiş soğutma çözümleri gerektiriyordu. Güç tüketimi de yüksekti ve sistemi dengelemek için güçlü güç kaynakları gerekiyordu.

İlginç bir şekilde, çift GPU’lu kartlar, çoklu GPU kurulumlarının ham gücünü tek bir kartın basitliğiyle birleştiren bir tür “her iki dünyanın da en iyisi” çözümüydü. Ancak yüksek maliyetleri ve buna bağlı teknik zorluklar nedeniyle sıklıkla niş bir ürün olarak görülüyorlardı. NVLink gibi çoklu GPU teknolojileri daha yüksek bant genişliği ve daha düşük gecikme süresi sunacak şekilde geliştikçe çift GPU kartlarına olan ihtiyaç azaldı. Yine de GPU geliştirme tarihinde büyüleyici bir bölüm olmaya devam ediyorlar.

NVIDIA’nın Tesla GPU serisi, özellikle veri merkezlerinde ve yüksek performanslı bilgi işlem kümelerinde kurumsal düzeyde bilgi işlemde bir mihenk taşıydı. Çoğu Tesla GPU, maksimum performans ve verimlilik için tasarlanmış tek GPU kartları olsa da, tek kartta çift GPU içeren Tesla K80 gibi istisnalar da olmuştur. Bu çoklu GPU’lu Tesla kartları, son derece paralel hesaplamalar için optimize edilmişti ve bilimsel araştırma, makine öğrenimi ve büyük veri analitiğinin temelini oluşturuyordu. Yüksek hesaplama verimi, geniş bellek kapasiteleri ve Hata Düzeltme Kodu (ECC) belleği gibi gelişmiş özellikler sunarak bu uygulamaların özel taleplerini karşılamak üzere tasarlandılar. Tek GPU’lu muadillerine göre daha az yaygın olmasına rağmen, bu çift GPU’lu Tesla kartları, kurumsal bilgi işlem alanında niş de olsa güçlü bir çözüm sunuyordu.

NVLink’in Ortaya Çıkışı

2017’de NVIDIA’nın Volta mimarisiyle tanıtılan NVLink’e girin. Bu teknoloji yalnızca bir yükseltme değil, GPU’ların birbirine nasıl bağlanabileceğine dair temel bir yeniden düşünmeydi. NVLink, önemli ölçüde daha yüksek bant genişliği (en son sürümlerde 900 GB/s’ye kadar), daha düşük gecikme süresi ve GPU’lar arasında daha karmaşık ve çok sayıda ara bağlantıya izin veren bir ağ topolojisi sundu. Üstelik NVLink, büyük veri kümeleri gerektiren görevler için çok önemli bir özellik olan, bağlı GPU’lar arasında bellek havuzunu mümkün kılan birleşik bellek konseptini tanıttı.

SLI ve NVLink

İlk bakışta NVLink’in “steroidler üzerinde SLI” olduğu düşünülebilir, ancak bu aşırı basitleştirme olacaktır. Her iki teknoloji de birden fazla GPU’yu bağlamayı hedeflerken, NVLink farklı bir hedef kitle göz önünde bulundurularak tasarlanmıştır. Bilimsel araştırma, veri analizi ve en önemlisi yapay zeka ve makine öğrenimi uygulamaları için tasarlanmıştır. Daha yüksek bant genişliği, daha düşük gecikme süresi ve birleştirilmiş bellek, NVLink’i günümüzün bilgi işlem zorluklarına karşı çok daha esnek ve güçlü bir çözüm haline getiriyor.

NVLink’in Teknik Omurgası

NVLink, yalnızca hız açısından değil aynı zamanda mimari tasarım açısından da çoklu GPU ara bağlantı teknolojisinde mantıksal bir evrimi temsil eder. NVLink’in yapısı, verileri çift yönlü olarak aktarabilen yüksek hızlı veri şeritlerinden oluşur. Geleneksel veri yolu tabanlı sistemlerin aksine, NVLink noktadan noktaya bağlantı kullanarak darboğazları etkili bir şekilde azaltır ve veri akışını artırır. En son yinelemeler, SLI’nın yeteneklerine göre önemli bir gelişme olan 900 GB/s’ye kadar bant genişlikleri sunuyor.

NVLink’i diğerlerinden ayıran en önemli özelliklerden biri ağ topolojisini destekleme yeteneğidir. Eski teknolojilerin zincirleme veya hub ve bağlı bileşen topolojilerinin aksine, ağ kurulumu, GPU’lar arasında daha çok yönlü ve çok sayıda bağlantıya olanak tanır. Bu, özellikle karmaşık veri yollarının norm olduğu veri merkezi ve yüksek performanslı bilgi işlem uygulamalarında kullanışlıdır.

Birleşik bellek, NVLink’in başka bir özelliğidir. Bu, GPU’ların ortak bir bellek havuzunu paylaşmasına olanak tanıyarak daha verimli veri paylaşımına olanak tanır ve GPU’lar arasında veri kopyalama ihtiyacını azaltır. Bu, büyük veri kümelerinin genellikle tek bir GPU’nun bellek kapasitesini aştığı makine öğrenimi ve büyük veri analitiği gibi uygulamalar için büyük bir destektir.

NVLink ayrıca herhangi bir yüksek performanslı bilgi işlem kurulumunda çok önemli bir faktör olan gecikmeyi de iyileştirir. Daha düşük gecikme süresi, GPU’lar arasında daha hızlı veri aktarımı ve senkronizasyon sağlayarak paralel hesaplamaların daha verimli olmasını sağlar. Bu, NVLink’in doğrudan bellek erişimi (DMA) yetenekleri sayesinde elde edilir; bu, GPU’ların CPU’yu dahil etmeden doğrudan birbirlerinin belleğini okumasına ve yazmasına olanak tanır.

Yapay Zeka ve Makine Öğrenimine Etkisi

Modern bilgi işlemde yapay zekanın artan önemi göz önüne alındığında, NVLink’in avantajları yalnızca artımlı değil aynı zamanda dönüştürücüdür. Yapay zeka modeli eğitiminde ve veri oluşturmada NVLink, GPU’lar arasında daha hızlı veri aktarımı sağlayarak daha verimli paralel işlemeye olanak tanır. Bu, özellikle yeni ortaya çıkan yapay zeka modeli eğitim verileri oluşturma alanıyla yakından uyumlu bir konu olan büyük eğitim veri kümeleriyle çalışırken faydalıdır.

Kuantum simülasyonları, gerçek zamanlı analizler ve yeni nesil yapay zeka algoritmaları gibi gelişmiş bilgi işleme yönelik artan taleplerle birlikte, NVLink’in yeteneklerinin daha da geliştirilmesini bekleyebiliriz. İster bant genişliğinde bir artış olsun, ister GPU’lar arasında daha fazla işbirliğini kolaylaştıran yeni özellikler olsun, NVLink veya halefi, şüphesiz yarının hesaplama ihtiyaçlarının karşılanmasında merkezi olmaya devam edecektir.

SLI’dan NVLink’e geçiş, çoklu GPU teknolojileri için önemli bir dönüm noktasına işaret ediyor. Bu, NVIDIA’nın yeniliğe olan bağlılığını ve değişen bilgi işlem ortamına ilişkin keskin anlayışını yansıtıyor. Oyunlardan yapay zekaya, tüketici uygulamalarından veri merkezlerine, NVLink’in oyun ve SLI’daki kökleri, zorunluluğun yeniliği nasıl doğurduğunu ve hiç bitmeyen bir iyileştirme döngüsünde teknolojiyi nasıl ileriye taşıdığını gösteriyor.