Dell PowerEdge XE9640 Sıvı Soğutmalı GPU Sunucusunun Ayrıntılı İncelemesi

Dell GPU Hızlandırılmış Sunucu Ailesi

PowerEdge XE sunucu ailesi, performans ve güvenilirlik gerektiren karmaşık yapay zeka ve HPC iş yükleri için özel olarak tasarlanmıştır. Bu sunucular yüksek performanslı, öngörü odaklı ve akıllı olacak şekilde tasarlanmıştır. Bugün, XE sunucu ailesi XE9680 (Jordan’ın favorisi olduğundan bahsetmiş miydik?), XE9640, XE8640 ve XE8545’ten oluşuyor. Tüm bu sunucular arasındaki ortak nokta, müşteriye anlamlı gelen bir soğutma seçeneğiyle çok çeşitli yapay zeka girişimlerini destekleyen tasarımdır.

Dell PowerEdge XE9640 – GPU Çeşitliliği ve Sıvı Soğutma

PowerEdge XE9640, iş ortağı CoolIT ile olan derin ortaklığı sayesinde GPU’lara ve CPU’lara doğrudan sıvı soğutma (DLC) sunar. Sunucu, DRAM, depolama ve PCIe genişletme kartlarının yeterli hava akışı ve soğutma almasını sağlamak için birkaç fan satıyor. Bununla birlikte, bu fanların maksimum RPM’de çalışmasına gerek olmadığı için önemli miktarda güç tasarrufu sağlanır.

PowerEdge XE9640, GPU çeşitliliğini masaya getirerek 4x NVIDIA NVLink bağlantılı H100 SXM5 GPU 700W modülü veya 4x Intel XeLink bağlantılı Intel Veri Merkezi GPU Max 1550 600W Açık Bilgi İşlem Platformu (OCP) Hızlandırıcı Modülü (OAM) arasında seçim olanağı sunar.

NVIDIA NVLink ve Intel Xelink gibi teknolojiler sayesinde bu GPU’lar sorunsuz bir şekilde iletişim kurarak belleklerini ve çekirdeklerini etkili bir şekilde bir araya toplar. Bu özellikle Büyük Dil Modelleri (LLM) gibi bellekle tutarlı iş yüklerinin işlenmesinde faydalıdır. Bu çok yönlülük, onu çok çeşitli yapay zeka iş yükleri için uygun hale getirir. Elbette bariz soru şu: “Peki ya AMD Instinct?” Dell sürekli olarak ek GPU desteğini değerlendiriyor ancak lansman sırasında bu sunucuda bir AMD çözümü sunmuyor.

Bu GPU çeşitliliği, kullanıcıların üretken yapay zeka, endüstriyel simülasyon modelleme ve son teknoloji bilimsel araştırmaların artan taleplerini karşılamasını sağlar. Örneğin, PowerEdge XE9640’ın Intel Veri Merkezi GPU Max hızlandırıcı yetenekleri, Texas Gelişmiş Bilgi İşlem Merkezi’nde (TACC) Stampede3 süper bilgisayarı için kullanılmaya başlandı .

Yoğunluk ve soğutma açısından PowerEdge XE9640, performansı artırırken raf alanını verimli şekilde kullanacak şekilde tasarlanmış ve tasarlanmıştır. Kompakt 2RU profiliyle bu sunucu, raf başına etkileyici GPU kapasitesi sunarak değerli veri merkezi alanını en üst düzeye çıkarır. DLC kullanan PowerEdge XE9640, verimlilik ve maliyet etkinliği açısından geleneksel hava soğutmalı sistemlerden daha iyi performans gösterir.

Dell PowerEdge XE9640 – Donanımın Geri Kalanı

“Sadece” GPU’ların ötesinde, XE serisinin arkasındaki mühendislik birinci sınıftır. Az önce XE9640 ve XE8640’ın video incelemesini yayınladık . Video, sürücü erişiminden ve XE9640’taki DLC borularının yönlendirilmesinden XE8640’taki kapalı döngü GPU sıvı soğutmasına ve tüm XE sunucularında gelecekteki iyileştirmelerin yoluna kadar tasarım hakkında mükemmel ayrıntılar sunuyor. Referans olması açısından aşağıya yerleştirilmiştir.

XE9640’a ek olarak, çerçevenin çıkarılması NVMe sürücülerine kolay erişim sağlar. Kasanın sağ tarafındaki iki yuva, NVMe önyükleme için optimize edilmiş depolama alt sistemi (BOSS) sürücülerini destekler ve 2 x M.2 SSD aracılığıyla HWRAID 1’i içerir. Günümüzde birincil depolama, 4 adet U.2 Gen4 NVMe sürücüsü aracılığıyla sağlanıyor. 8x E3.S Gen5 NVMe sürücüleri destekleyen bir SSD tepsisi seçeneği sayesinde bu, gelecekteki bir sürümde iki katına çıkacaktır. Platform, U.2 NVMe bölmeleri için HW RAID’i desteklemiyor, ancak çoğu buna ihtiyaç duymayacak. Bu GPU kutularının çoğu, harici olarak büyük veri kümelerinden yararlanır. Bu durumda yerel depolama, bu büyük veri kümeleri için birincil kaynak olmayacaktır.

Elbette, devasa depolama dizilerinden yararlanmak isteyen yapay zeka profesyonelleri için sunucunun arkasında iyi genişletme seçenekleri mevcut. XE9640, ikisi yarım yükseklikte ve ikisi tam yükseklikte olmak üzere dört adet PCIe Gen5 yuvasını destekler. Ayrıca bir PCIe Gen3 OCP NIC yuvanız var.

Sızıntı korkusunu ortadan kaldırmak için sıvı soğutmalı sunucular, iDRAC’ta sızıntı tespit raporlamasını içerir. Kasanın farklı kısımlarını deldiğinizde Dell’in sızıntıları tespit etme yöntemi oldukça inanılmazdır. Örneğin, aşağıdaki CPU soğutma plakası çekiminde, tüm su bloğunun etrafında kesikli bir desen halinde ince bakır izleri görebilirsiniz. Bu bağlantılara su damlarsa, açık kablo döngüsü küçük bir kısa devreyi algılar ve sistem bir sızıntının meydana geldiğini anlar. Şasinin diğer kısımlarında da benzer tespit yöntemi ile örgülü tel halat kullanılmaktadır. Bu, kasanın ön tarafında çok sayıda hortum bulunan ana sıvı dağıtım bloğunu gösteren fotoğrafımızda görülebilir. Ek olarak CoolIT CDU’ları ve döngünün geri kalanı da yol boyunca birçok noktada sızıntı tespit raporlamasına sahiptir.

Bu arada, hava soğutmalı XE8640 ve XE9680, iDRAC aracılığıyla aynı sızıntı tespitine sahip kapalı döngü GPU sıvı soğutmayı da içerir.

Raf Başına Gücü Optimize Etme

PowerEdge XE9640, müşterilere raf başına güç kullanımında ince ayar yapma fırsatı sunar. Raf başına dokuz sunucuyla, hızlandırılmış bilgi işlemin en yüksek yükü, dengeli performans için üç fazlı bir güç dağıtımı kullanan yaklaşık 41kW güç gerektirebilir. Veri merkezleri, ölçeği büyütmek için 12, 18 ve hatta 21 PowerEdge XE9640 sunucusunu barındıran raflara yerleştirerek sırasıyla yaklaşık 54kW, 81kW ve 95kW güç seviyelerine ulaşabilir. Bu uyarlanabilirlik, veri merkezlerinin raf gücü kullanımını belirli gereksinimlere göre optimize etmelerine olanak tanır.

Dell, müşterilere PowerEdge XE9640 hakkında kapsamlı bilgi sağlamak için çeşitli kaynakları derledi. Buna kutu açma videoları ve ayrıntılı ürün incelemeleri de dahildir. Kutudan çıkarma videosunda sunucunun tasarımı ve özellikleri sergileniyor ve müşterilere sunucunun yeteneklerine ilişkin görsel bir tur sunuluyor.

PowerEdge XE9640’ın avantajlarını daha da vurgulamak için Dell, onu hava soğutmalı muadili PowerEdge XE8640 ile karşılaştıran bir bilgi grafiği hazırladı . Bu infografik, PowerEdge XE9640’ın dikkat çekici farklılıklarını, özellikle de sıvı soğutmadaki verimliliğini ve raf başına etkileyici GPU kapasitesini vurgulamaktadır.

Son düşünceler

Dell PowerEdge XE9640 Sıvı Soğutmalı GPU PowerEdge XE9640, Dell’in genişleyen Üretken Yapay Zeka Çözümlerinin ayrılmaz bir parçasıdır ve yapay zeka iş yüklerinde devrim yaratmak ve yeniliği teşvik etmek için tasarlanmıştır. Dell’in Üretken Yapay Zeka çözümü, daha akıllı ve hızlandırılmış sonuçlar sunmak için en son teknolojiyi, yenilikçiliği ve Dell Technologies tarafından sunulan hizmetleri birleştirir. Kuruluşlar, üretken yapay zekanın yeteneklerinden yararlanarak yeni içgörüler elde edebilir, dönüşüm çabalarını hızlandırabilir ve iş gücü verimliliğini artırabilir.

XE9680, Dell GPU sunucuları arasında favorimiz olmaya devam etse de, XE9640 tamamen verimlilik ve tasarım perspektifinden kalplerimize girmeyi başardı. 2U şasi, muazzam miktarda mühendislik barındırıyor; Sıvı soğutmalı veri merkezleri açıkça bu güç tasarruflu kutulara yönelecek. Dört NVIDIA modülü kendileri için 2800 W güç tüketiyor; dolayısıyla Dell’in veri merkezlerinin raf ve güç açısından daha verimli olmasına yardımcı olmak için yapabileceği her şey ileriye doğru dev bir adımdır.