Sıvı Soğutma Archives - SupermicroSunucu Blog

Sıvı Soğutmalı Supermicro SYS-821GE-TNHR

Dilan Bursalı — Wed, 05 Jun 2024 08:36:27 +0000

Sıvı Soğutmalı Supermicro SYS-821GE-TNHR 8x NVIDIA H100 Yapay Zeka Sunucusuna Bir Bakış

Sıvı Soğutmalı Supermicro SYS-821GE-TNHR

Supermicro Yatay Manifold SYS 821GE TNHR ve CDU 1

Sıvı Soğutmalı Supermicro SYS-821GE-TNHR 8x NVIDIA H100 Yapay Zeka Sunucusuna Bir Bakış

Supermicro’ya bu parçayı yaptığımızı söylemedik ama orijinal parçanın uçuş masraflarını onlar ödediği için bunun sponsorlu olduğunu söylemek zorundayız.

Burada yatay raf manifoldu üstte ve Supermicro soğutma dağıtım ünitesi (CDU) altta olacak şekilde resimde görülen sistem görülmektedir.

Supermicro Yatay Manifold SYS 821GE TNHR ve CDU 1

Görüldüğü gibi yatay raf manifoldu, sıvı soğutma için beş farklı giriş/çıkış çiftine izin verir.

Supermicro Yatay Manifold SYS 821GE TNHR 3

Bu çiftlerden dördü üst tepsiye, biri de CPU tepsisine gider.

Supermicro Yatay Manifold SYS 821GE TNHR 6

İşte hortumların hepsi bağlantısı kesilmiş. On hızlı bağlantı kesme tertibatının tamamının bağlantısını kesmek yaklaşık 20 saniye sürdü.

Supermicro Yatay Manifold SYS 821GE TNHR 8

Bu sistemdeki GPU tepsisi dışarı doğru kayar. Piyasada hâlâ GPU tepsisinin bu kadar kolay kaymadığı birkaç sistem var, bu da fark yaratıyor. GPU’lar aslında özellikle 24×7 HPC veya AI kümelerinde başarısız oluyor, dolayısıyla bu, üst düzey kurulumlar için hemen hemen gerekli bir özelliktir.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı GPU ve NVSwitch Tepsi 6

Tepsinin içinde, tek bir NVSwitch bloğuna sahip dört set çift GPU sıvı soğutma bloğunu görebiliyoruz. Her üç bileşen de bir döngü kullanılarak soğutulur ve sistemde GPU’lar için dört döngü bulunur.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı GPU ve NVSwitch Tepsi 3

İşte NVSwitch tarafının kasanın önünde olduğu başka bir görünüm.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı GPU ve NVSwitch Tepsi 1

NVSwitch’leri soğutmayan başka sıvı soğutma çözümleri de gördük, ancak bunların her biri 100W’ın çok üzerinde olduğundan fan hızlarını düşük tutmak için sıvıyla soğutulmaları gerekiyor.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı GPU ve NVSwitch Tepsi 5

İşte GPU tarafından sıvı soğutma bloğuna bir bakış.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 5

İşte diğer taraf.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 3

Bunlar Supermicro olarak tasarlandıkları için küçük logoları bile var.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 2

İşte NVSwitch için daha küçük blok.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 4

İşte iki GPU soğuk plakasının ve NVSwitch soğuk plakasının bulunduğu alt kısım.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 8

Başka bir açıdan baktığımızda, H100’ün tüm önemli bileşenleri için macun ve pedleri görebiliriz.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 6

İşte taşırken yapıştırmayı bozduğumuz veya bozmadığımız NVSwitch bloğu.

Supermicro SYS 821GE TNHR NVIDIA H100 ve NVSwitch Sıvı Soğutma Blokları 7

GPU tepsisinin altında CPU ve depolama tepsisi bulunur.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı ve Yatay Manifold 1

Burada sistem için bir dizi depolama alanını ve CPU soğutma döngüsü için iki giriş hortumunu görebiliriz.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı Depolama 1

Sağ tarafta IPMI ve yerel yönetim gibi özellikler için kasa yönetim modülünü görüyoruz.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı BMC 1

İşte CPU soğutma döngüsüne ve fanlarına daha iyi bir bakış. DDR5 modülleri, PCIe anahtarları vb. gibi düşük güçlü bileşenlerin tamamını soğutmak için fanlara hâlâ ihtiyaç duyuluyor.

Supermicro Yatay Manifold SYS 821GE TNHR 7

CPU’yu ve depolama tepsisini dışarı çektiğimizde pek çok şeyin olduğunu görebiliriz.

SYS 821GE TNHR Sıvı Soğutmalı CPU Tepsisi 1

Havayı 32 DDR5 DIMM yuvası üzerinden yönlendirmek için bir hava akışı kılavuzu bulunmaktadır.

SYS 821GE TNHR Sıvı Soğutmalı Intel Xeon CPU’lar 3

Burada CPU sıvı soğutma bloğunu görüyoruz. Unutulmaması gereken bir nokta, Supermicro’nun bu sunucuda kullanılabilecek hem Intel Xeon hem de AMD EPYC CPU tepsilerine sahip olmasıdır; bu nedenle, Intel’in yerleşik hızlandırıcıları veya 128 çekirdekli AMD EPYC Bergamo parçaları gibi ilginç bir şey kullanmak istenirse, bunun özelleştirilmesi oldukça kolaydır.

SYS 821GE TNHR Sıvı Soğutmalı Intel Xeon CPU’lar 1

Bugünlerde yapay zeka sunucularının büyük bir kısmı PCIe anahtarlarından oluşuyor. CPU’lar, PCIe anahtar kartı ve diğer bileşenler arasında kablolu bağlantılara ihtiyacımız olduğundan burada PCIe kablolarını görebiliriz.

SYS 821GE TNHR Sıvı Soğutmalı PCIe Bağlantısı 1

Bu soğutucuların altında PCIe anahtarlarımız var.

SYS 821GE TNHR Sıvı Soğutmalı PCIe Bağlantısı 2

İşte başka bir PCIe kablosu seti.

Supermicro SYS 821GE TNHR Sıvı Soğutmalı PCIe Bağlantısı 3

İşte bunların üstten görünümü.

SYS 821GE TNHR Sıvı Soğutmalı PCIe Bağlantısı 4

Burada DP801 genişletme modelini görebiliriz. NIC DP801’ler, PCIe genişletici DP801’ler ve daha fazlası var.

SYS 821GE TNHR Sıvı Soğutmalı PCIe Bağlantısı 5

Sistemin arka kısmına baktığımızda, önde gelen AI sistem oyuncularının sunduğu oldukça standart bir özellik seti görüyoruz. Arkada güç kaynakları, ağ ve fanlar bulunur.

SYS 821GE TNHR Arka 1

Fanlar çalışırken değiştirilebilir ve güç kaynakları büyüktür.

SYS 821GE TNHR Arka 2

Her güç kaynağı 3kW PSU’dur. Tahmin edilebileceği gibi Supermicro bu sistemi yalnızca mevcut nesil GPU’lar için değil aynı zamanda gelecekteki GPU’lar için de geliştirdi. Sistem aynı zamanda daha yüksek şasi güç çekişi beklediğimiz hava soğutması için de alternatif olarak tasarlanmıştır.

SYS 821GE TNHR 3kW PSU 1

İşte ağ tepsisine bir bakış. Ağ tepsisinde Infiniband, 100GbE, 200GbE, 400GbE adaptörleri ve daha fazlası bulunabilir. Hatta burada iki adet bakır port görüyoruz.

SYS 821GE TNHR Arka 3

Görüldüğü gibi, kolay servis ve kişiselleştirme için ağ tepsisi çıkarılabilir.

SYS 821GE TNHR Arka 4

Fark etmiş olabileceğiniz gibi bu sunucuların birden fazlasına baktık. Hava soğutma ve sıvı soğutma için NVIDIA H100 80GB GPU’ların performansına baktığımızda performansın fiilen aynı olduğunu gördük. Sıvı soğutma seçeneğinin tercih edilmesinin nedeni, daha düşük güç tüketimi, dolayısıyla daha düşük işletme maliyetleri ve potansiyel olarak daha yüksek raf yoğunluğudur.

Son sözler

Çoğu zaman insanlar tüm NVIDIA H100 8 yollu Delta Next sistemlerinin aynı olduğunu varsayar. Artık hemen hemen tüm seçeneklerle uygulamalı zaman geçirdiğimize göre, bunların öyle olmadığı açık. Hava soğutma ve Intel Xeon Sapphire Rapids (ve yakında Emerald Rapids) bu noktada masada yer alıyor. Fiyatlandırma, kullanılabilirlik, servis kolaylığı ve sıvı soğutma, AMD seçenekleri, farklı NIC’ler ve daha fazlası gibi özelliklerle özelleştirme yeteneği bu noktada en büyük fark yaratan unsurlardır.

Supermicro Yatay Manifold SYS 821GE TNHR ve CDU 1

Umarım bu Supermicro SYS-821GE-TNHR sistemine harika bir bakış olmuştur. Bu, yapay zeka için son derece popüler olan devasa sistemlerden biridir. 2016/2017’den beri Supermicro AI GPU eğitim sistemlerine bakıyoruz ve 8x ve 10x PCIe GPU eğitim sunucularından günümüzün çok esnek sıvı soğutmalı seçeneklerine nasıl geldiğimiz harika.

Daha fazla bilgi edinmek için bizimle iletişime geçin!

Supermicro Özel Sıvı Soğutma Rafı Soğutma Dağıtımı

Dilan Bursalı — Fri, 03 Nov 2023 09:07:12 +0000

Supermicro Özel Sıvı Soğutma Rafı Soğutma Dağıtımına Bir Bakış

Supermicro CDU 2023 Arka 1

Supermicro Özel Sıvı Soğutma Rafı Soğutma Dağıtımı, Supermicro sıvı soğutma üzerine yaptığımız mini serinin ilk kısmı olacak. Birkaç hafta önce Supermicro’nun San Jose, Kaliforniya’daki genel merkezini ziyaret ettik ve şirketin yeni sıvı soğutma çözümlerini ilk elden görme fırsatı bulduk. Bir video kaydettik ancak gördüklerimizin üzerine birkaç parça yapmaya değer olduğunu düşündük. Bu serinin ilki Supermicro’nun özel sıvı soğutma dağıtımına bakacağız. Supermicro, rakiplerinin çoğundan bir adım daha ileri gidiyor ve çözümünü CDU’ya kadar inşa ediyor ve tüm çözümü bir araya getiriyor.

Supermicro Özel Sıvı Soğutma Kabini – Soğutma Dağıtımına Bir Bakış

İlk olarak, Supermicro’nun üst düzey NVIDIA H100 AI sunucusu ve çeşitli BigTwin sunucularıyla entegrasyonlar da dahil olmak üzere tüm bunları gösterdiğimiz video.

Her zaman olduğu gibi, en iyi görüntüleme deneyimi için bunu kendi tarayıcısında, sekmesinde veya uygulamasında izlemenizi öneririz. Ayrıca, her şeye bakabilmemiz için NVIDIA H100 sistemi yalnızca birkaç günlüğüne mevcutken, Supermicro George ve benim kısa sürede uçmamız için para ödediği için buna sponsorlu diyeceğiz.

Öncelikle yeni soğutma sisteminin kalbi Supermicro’nun CDU’sudur. Yıllar önce 40kW kapasiteli bir ünite görmüştük, ancak bu günlerde bu bir raf için hızla çok az hale geliyor, dolayısıyla artık 80kW ve 100kW’lık çözümlerin geldiğini görüyoruz.

Supermicro CDU 2023 Ön 1

4U CDU bir dizi işlevi tamamlar. Birincil amaç, döngüler halinde sıvı pompalamak ve raf içi sıvı soğutma döngüsü ile tesis suyu (veya başka bir ısı eşanjörü) döngüsü arasında ısı alışverişini sağlamaktır.

Supermicro Sıvı Soğutma Laboratuvarı Tesisi Su 1

Bir pompa arızalansa bile rafın çalışır durumda kalmasını sağlamak için bu CDU’da “çalışırken değiştirilebilen” pompaların sökülüp takılmasını gösteriyoruz.

Supermicro’nun sisteminde yönetim bilgilerini gösteren küçük bir LCD ekran bulunmaktadır. CDU, sensör verilerinin ve yönetiminin sunucu altyapısının geri kalanıyla uyumlu olmasını sağlayacak şekilde tasarlanmıştır.

Supermicro CDU 2023 Denetleyici Bölmesi 1

Kontrolör alanının kapısını açtık ve bu ekranı kontrol eden bir Raspberry Pi gördük. Raspberry Pi’leri sektördeki birçok CDU’da gördük.

İşte sensör ve kontrol bölmesinin içine hızlı bir bakış.

Supermicro CDU 2023 Denetleyici Bölmesi 2

Arka tarafta solda sensör alanını görebiliyoruz. Biri farklı seviyeleri ve ayrıca sızıntı sensörlerini tespit etmek için sensörleri bağlar. Sistemin sızıntı yapması beklenmiyor, ancak insanlar sızıntı olup olmadığını bilmek istiyor, bu nedenle çözümde sızıntı sensörleri var. CDU’ya güç sağlamak için yedek güç kaynakları da vardır.

Supermicro CDU 2023 Arka 1

Ayrıca daha sonra bakacağımız raf manifoldları ile sıvı alışverişi yapabilen büyük sıvı soğutma borularını da görebiliriz.

Supermicro Sıvı Soğutma Rack Manifoldları

Supermicro Özel Sıvı Soğutma Rafı Soğutma Dağıtımı raf manifoldları, soğutucu sıvıyı CDU’dan çeşitli sıvı soğutma bloklarına dağıtmak ve daha sonra sistemlerden sıvıyı toplayıp ısı ekstraksiyonu için CDU’ya geri getirmek için kullanılır. Burada 4x NVIDIA H100 8-GPU sunucularını barındıracak şekilde tasarlanmış bir GPU rafı örneği verilmiştir. Dört sisteme, PDU’ya ve anahtarlara güç sağlamak için rafa kurulu altı APC PDU’yu görebilirsiniz.

Supermicro Sıvı Soğutma Dikey Manifoldun Yatay Manifolda Bağlantısı 3

Daha az sistem olduğundan sıfır U manifoldlarında yatay PSU’ları besleyen daha büyük nozullar bulunur. Mavi serinlik içindir.

Yatay Manifold 2’ye Supermicro Sıvı Soğutma Dikey Manifold Bağlantısı

Kırmızı, ısıtılmış geri dönen sıvı içindir.

Supermicro Sıvı Soğutma Dikey Manifoldun Yatay Manifolda Bağlantısı 1

Supermicro’nun harika özelliklerinden biri de yapay zeka sunucuları gibi dağıtımlarda kullanılan yatay manifoldlardır.

Sıvı Soğutma İçin Supermicro Yatay Manifold 3

Bu yatay manifoldlar raftaki geçiş sayısını en aza indirir. Ayrıca GPU sistemlerine servis vermeyi de çok kolaylaştırırlar.

Supermicro Yatay Manifold SYS 821GE TNHR 1

Supermicro’nun kullandığı tüm bağlantı parçaları sızdırmaz hızlı bağlantı kesme özelliğine sahiptir. Bu sektörde standarttır. Bize bunların tek elle takıp çıkaracak şekilde tasarlandıkları söylendi ve durum kesinlikle buydu.

Sıvı Soğutma İçin Supermicro Yatay Manifold 4

Tabii ki, sıvı soğutmanın bir başka harika kullanımı da yoğun CPU hesaplamasıdır. Örneğin yakın zamanda 64 GB HBM2e yerleşik Intel Xeon MAX 9480 üzerinde bir çalışma yaptık . BigTwin gibi 2U 4 düğümlü platformlar, CPU’lar 65-150W kullandığında yoğunlukları nedeniyle popüler hale geldi. Artık her biri 350W olan ve yakında 500W’a çıkacak olan sıvı soğutma, daha fazla kurulumda gerekli olacak.

Supermicro BigTwin Sıvı Soğutmalı Yığın 1

Bunun için Supermicro’da daha yoğun bir dizi küçük nozul içeren başka bir sıfır U manifoldu vardır.

Supermicro BigTwin Sıvı Soğutmalı Yığın Dikey Manifold 3

Her nozül, bir çift CPU’lu bir düğüme hizmet verecek şekilde tasarlanmıştır. 2U 4 düğümlü bir kümede bu, U başına dört CPU veya 1U başına iki soğuk mavi ve iki sıcak kırmızı püskürtme ucu anlamına gelir.

Supermicro BigTwin Sıvı Soğutmalı Yığın Dikey Manifold 1

Supermicro’da her iki seçeneği de görmek eğlenceliydi.

Son sözler

Supermicro Özel Sıvı Soğutma Rafı Soğutma Dağıtımı için videoyu izlerseniz bu geziden çok daha fazlasının geldiğini göreceksiniz. Yine de öncelikle Supermicro sıvı soğutma dağıtım tarafını göstermek istedik. Şirket yapay zeka sunucu cephesinde son derece iyi bir performans sergilediği için sıvı soğutma isteyen müşterileri var. Supermicro, sıvı soğutma eklemesi için başka bir şirkete başvurmak yerine rafları sıvı soğutmayla tasarlıyor. Bu, strateji açısından büyük bir farktır.

Sıvı Soğutma İçin Supermicro Yatay Manifold 2

Sıvı soğutma cephesi hakkında daha fazla bilgi için bizi takip etmeye devam edin. Sunucuların 2024 çağına girerken bu daha büyük bir konu olacak. Sonuç olarak, sıvı soğutmaya geçiş konusunu tartışmaya başlamanın zamanı geldiğinden, boru hattında çok sayıda sıvı soğutma parçamız var.

Dell PowerEdge XE9640 Sıvı Soğutmalı GPU Sunucusunun Ayrıntılı İncelemesi

Dilan Bursalı — Wed, 25 Oct 2023 11:35:33 +0000

Dell PowerEdge XE9640 Sıvı Soğutmalı GPU Sunucusunun Ayrıntılı İncelemesi

Dell PowerEdge XE9640 Sıvı Soğutmalı GPU Dell PowerEdge XE9640, sıvı soğutma sayesinde yapay zeka gücünü güç açısından verimli bir şekilde sunabilen, 4 kat GPU hızlandırmalı, rafa monte bir sunucudur. XE9640, SC22 sırasında XE8640 ve favorilerimizden biri olan 8 yollu XE9680 GPU sunucusuyla birlikte duyuruldu . Bugün, XE9640 genel kullanıma sunuldu ve biz de temel donanıma derinlemesine bakıyoruz.

Dell PowerEdge XE9640

Dell GPU Hızlandırılmış Sunucu Ailesi

PowerEdge XE sunucu ailesi, performans ve güvenilirlik gerektiren karmaşık yapay zeka ve HPC iş yükleri için özel olarak tasarlanmıştır. Bu sunucular yüksek performanslı, öngörü odaklı ve akıllı olacak şekilde tasarlanmıştır. Bugün, XE sunucu ailesi XE9680 (Jordan’ın favorisi olduğundan bahsetmiş miydik?), XE9640, XE8640 ve XE8545’ten oluşuyor. Tüm bu sunucular arasındaki ortak nokta, müşteriye anlamlı gelen bir soğutma seçeneğiyle çok çeşitli yapay zeka girişimlerini destekleyen tasarımdır.

Ürünler	Amaç	Faydalar	Kullanım Durumları
XE9680	Optimum performans ve en hızlı değer elde etme süresi için tasarlanan yapay zeka hızlandırmayla içgörüleri artırmak üzere tasarlandı	8x NVIDIA H100 veya A100 Tensor Core SXM GPU’larla yapay zeka ve HPC için olağanüstü performanstan yararlanın	Büyük Dil Modelleri
		Akıllı hava soğutmalı çalışma (35°C’ye kadar), verilerin sonuçlara dönüştürülmesini maksimuma çıkarır	Doğal Dil işleme
		Akıllı hava soğutmalı çalışma (35°C’ye kadar), verilerin sonuçlara dönüştürülmesini maksimuma çıkarır	Büyük Öneri motoru eğitimi
			Modelleme ve Simülasyon
			Dijital İkizler ve Üretim
XE9640	Son derece yoğun 2U, akıllı sıvı soğutmalı bir sunucuda yapay zeka girişimlerini desteklemek için özel olarak tasarlandı	4x NVIDIA H100 Tensor Core GPU’lar veya 4x Intel Data Center Max OAM GPU’larla yapay zeka için daha iyi sonuçlar elde edin	Doğal Dil işleme
		Akıllı sıvı soğutmalı CPU’lar ve GPU’lar performansı en üst düzeye çıkarır	Büyük Öneri motoru eğitimi
		Optimize edilmiş güç kullanım verimliliğiyle daha düşük TCO	Modelleme ve Simülasyon
			Nesne tanımaya yönelik Yapay Zeka, ML/DL Eğitimi
XE8640	Yapay zeka, HPC ve analitik iş yüklerini üstün performansla destekleyin	Çok çeşitli uygulamalara yönelik 4x NVIDIA H100 GPU’larla analizleri içgörülere dönüştürün	Orta veri seti dili Modelleri
		Güç verimliliğini artırmak için hava soğutmalı (35°C’ye kadar) çalıştırın	Doğal Dil işleme
		Akıllı genişletme seçenekleriyle operasyonları ölçeklendirin	Modelleme ve Simülasyon
			Yapay Zeka, ML/DL Eğitimi ve Çıkarım, görüntü tanıma
XE8545	Ana akım yapay zeka ve grafik uygulama performansı	4x NVIDIA A100 GPU’larla Eğitim ve çıkarım performansını artırın	Sismik analiz dahil modelleme ve simülasyon
		Hava soğutmalı çalışma (35°C’ye kadar) verimli çalışmayı sağlar	Yapay Zeka, ML/DL Eğitimi ve Çıkarımı, görüntü tanıma ve Chatbot
		Dengeli performans/watt çözümüyle TCO’yu azaltın

Dell PowerEdge XE9640 – GPU Çeşitliliği ve Sıvı Soğutma

PowerEdge XE9640, iş ortağı CoolIT ile olan derin ortaklığı sayesinde GPU’lara ve CPU’lara doğrudan sıvı soğutma (DLC) sunar. Sunucu, DRAM, depolama ve PCIe genişletme kartlarının yeterli hava akışı ve soğutma almasını sağlamak için birkaç fan satıyor. Bununla birlikte, bu fanların maksimum RPM’de çalışmasına gerek olmadığı için önemli miktarda güç tasarrufu sağlanır.

Dell PowerEdge XE9640 – NVIDIA GPU Tepsisi

PowerEdge XE9640, GPU çeşitliliğini masaya getirerek 4x NVIDIA NVLink bağlantılı H100 SXM5 GPU 700W modülü veya 4x Intel XeLink bağlantılı Intel Veri Merkezi GPU Max 1550 600W Açık Bilgi İşlem Platformu (OCP) Hızlandırıcı Modülü (OAM) arasında seçim olanağı sunar.

NVIDIA NVLink ve Intel Xelink gibi teknolojiler sayesinde bu GPU’lar sorunsuz bir şekilde iletişim kurarak belleklerini ve çekirdeklerini etkili bir şekilde bir araya toplar. Bu özellikle Büyük Dil Modelleri (LLM) gibi bellekle tutarlı iş yüklerinin işlenmesinde faydalıdır. Bu çok yönlülük, onu çok çeşitli yapay zeka iş yükleri için uygun hale getirir. Elbette bariz soru şu: “Peki ya AMD Instinct?” Dell sürekli olarak ek GPU desteğini değerlendiriyor ancak lansman sırasında bu sunucuda bir AMD çözümü sunmuyor.

Dell PowerEdge XE9640 – Intel GPU Tepsisi

Bu GPU çeşitliliği, kullanıcıların üretken yapay zeka, endüstriyel simülasyon modelleme ve son teknoloji bilimsel araştırmaların artan taleplerini karşılamasını sağlar. Örneğin, PowerEdge XE9640’ın Intel Veri Merkezi GPU Max hızlandırıcı yetenekleri, Texas Gelişmiş Bilgi İşlem Merkezi’nde (TACC) Stampede3 süper bilgisayarı için kullanılmaya başlandı .

Yoğunluk ve soğutma açısından PowerEdge XE9640, performansı artırırken raf alanını verimli şekilde kullanacak şekilde tasarlanmış ve tasarlanmıştır. Kompakt 2RU profiliyle bu sunucu, raf başına etkileyici GPU kapasitesi sunarak değerli veri merkezi alanını en üst düzeye çıkarır. DLC kullanan PowerEdge XE9640, verimlilik ve maliyet etkinliği açısından geleneksel hava soğutmalı sistemlerden daha iyi performans gösterir.

Dell PowerEdge XE9640 – Donanımın Geri Kalanı

“Sadece” GPU’ların ötesinde, XE serisinin arkasındaki mühendislik birinci sınıftır. Az önce XE9640 ve XE8640’ın video incelemesini yayınladık . Video, sürücü erişiminden ve XE9640’taki DLC borularının yönlendirilmesinden XE8640’taki kapalı döngü GPU sıvı soğutmasına ve tüm XE sunucularında gelecekteki iyileştirmelerin yoluna kadar tasarım hakkında mükemmel ayrıntılar sunuyor. Referans olması açısından aşağıya yerleştirilmiştir.

XE9640’a ek olarak, çerçevenin çıkarılması NVMe sürücülerine kolay erişim sağlar. Kasanın sağ tarafındaki iki yuva, NVMe önyükleme için optimize edilmiş depolama alt sistemi (BOSS) sürücülerini destekler ve 2 x M.2 SSD aracılığıyla HWRAID 1’i içerir. Günümüzde birincil depolama, 4 adet U.2 Gen4 NVMe sürücüsü aracılığıyla sağlanıyor. 8x E3.S Gen5 NVMe sürücüleri destekleyen bir SSD tepsisi seçeneği sayesinde bu, gelecekteki bir sürümde iki katına çıkacaktır. Platform, U.2 NVMe bölmeleri için HW RAID’i desteklemiyor, ancak çoğu buna ihtiyaç duymayacak. Bu GPU kutularının çoğu, harici olarak büyük veri kümelerinden yararlanır. Bu durumda yerel depolama, bu büyük veri kümeleri için birincil kaynak olmayacaktır.

Elbette, devasa depolama dizilerinden yararlanmak isteyen yapay zeka profesyonelleri için sunucunun arkasında iyi genişletme seçenekleri mevcut. XE9640, ikisi yarım yükseklikte ve ikisi tam yükseklikte olmak üzere dört adet PCIe Gen5 yuvasını destekler. Ayrıca bir PCIe Gen3 OCP NIC yuvanız var.

Dell PowerEdge XE9640 Ön

Sızıntı korkusunu ortadan kaldırmak için sıvı soğutmalı sunucular, iDRAC’ta sızıntı tespit raporlamasını içerir. Kasanın farklı kısımlarını deldiğinizde Dell’in sızıntıları tespit etme yöntemi oldukça inanılmazdır. Örneğin, aşağıdaki CPU soğutma plakası çekiminde, tüm su bloğunun etrafında kesikli bir desen halinde ince bakır izleri görebilirsiniz. Bu bağlantılara su damlarsa, açık kablo döngüsü küçük bir kısa devreyi algılar ve sistem bir sızıntının meydana geldiğini anlar. Şasinin diğer kısımlarında da benzer tespit yöntemi ile örgülü tel halat kullanılmaktadır. Bu, kasanın ön tarafında çok sayıda hortum bulunan ana sıvı dağıtım bloğunu gösteren fotoğrafımızda görülebilir. Ek olarak CoolIT CDU’ları ve döngünün geri kalanı da yol boyunca birçok noktada sızıntı tespit raporlamasına sahiptir.

Dell PowerEdge XE9640 Sızıntı Tespiti

Bu arada, hava soğutmalı XE8640 ve XE9680, iDRAC aracılığıyla aynı sızıntı tespitine sahip kapalı döngü GPU sıvı soğutmayı da içerir.

Raf Başına Gücü Optimize Etme

PowerEdge XE9640, müşterilere raf başına güç kullanımında ince ayar yapma fırsatı sunar. Raf başına dokuz sunucuyla, hızlandırılmış bilgi işlemin en yüksek yükü, dengeli performans için üç fazlı bir güç dağıtımı kullanan yaklaşık 41kW güç gerektirebilir. Veri merkezleri, ölçeği büyütmek için 12, 18 ve hatta 21 PowerEdge XE9640 sunucusunu barındıran raflara yerleştirerek sırasıyla yaklaşık 54kW, 81kW ve 95kW güç seviyelerine ulaşabilir. Bu uyarlanabilirlik, veri merkezlerinin raf gücü kullanımını belirli gereksinimlere göre optimize etmelerine olanak tanır.

Dell PowerEdge XE9640 Dahili Sıvı Soğutma Manifoldu

Dell, müşterilere PowerEdge XE9640 hakkında kapsamlı bilgi sağlamak için çeşitli kaynakları derledi. Buna kutu açma videoları ve ayrıntılı ürün incelemeleri de dahildir. Kutudan çıkarma videosunda sunucunun tasarımı ve özellikleri sergileniyor ve müşterilere sunucunun yeteneklerine ilişkin görsel bir tur sunuluyor.

PowerEdge XE9640’ın avantajlarını daha da vurgulamak için Dell, onu hava soğutmalı muadili PowerEdge XE8640 ile karşılaştıran bir bilgi grafiği hazırladı . Bu infografik, PowerEdge XE9640’ın dikkat çekici farklılıklarını, özellikle de sıvı soğutmadaki verimliliğini ve raf başına etkileyici GPU kapasitesini vurgulamaktadır.

Dell PowerEdge XE9640 Arka

Son düşünceler

Dell PowerEdge XE9640 Sıvı Soğutmalı GPU PowerEdge XE9640, Dell’in genişleyen Üretken Yapay Zeka Çözümlerinin ayrılmaz bir parçasıdır ve yapay zeka iş yüklerinde devrim yaratmak ve yeniliği teşvik etmek için tasarlanmıştır. Dell’in Üretken Yapay Zeka çözümü, daha akıllı ve hızlandırılmış sonuçlar sunmak için en son teknolojiyi, yenilikçiliği ve Dell Technologies tarafından sunulan hizmetleri birleştirir. Kuruluşlar, üretken yapay zekanın yeteneklerinden yararlanarak yeni içgörüler elde edebilir, dönüşüm çabalarını hızlandırabilir ve iş gücü verimliliğini artırabilir.

XE9680, Dell GPU sunucuları arasında favorimiz olmaya devam etse de, XE9640 tamamen verimlilik ve tasarım perspektifinden kalplerimize girmeyi başardı. 2U şasi, muazzam miktarda mühendislik barındırıyor; Sıvı soğutmalı veri merkezleri açıkça bu güç tasarruflu kutulara yönelecek. Dört NVIDIA modülü kendileri için 2800 W güç tüketiyor; dolayısıyla Dell’in veri merkezlerinin raf ve güç açısından daha verimli olmasına yardımcı olmak için yapabileceği her şey ileriye doğru dev bir adımdır.