İş İstasyonu ve Toplama Bilgisayar Arasındaki Temel Farklar

İlk olarak, iş istasyonu ve toplama bilgisayar kavramlarını netleştirelim:

• İş İstasyonu (Workstation): Genellikle mühendislik, bilimsel araştırmalar, yapay zeka, 3D modelleme, büyük veri analizleri ve profesyonel içerik üretimi için tasarlanmış yüksek performanslı sistemlerdir. Dell Precision, HP Z Series, Lenovo ThinkStation gibi markalar tarafından üretilir.
• Toplama Bilgisayar: Bireysel kullanıcıların ihtiyaçlarına göre farklı bileşenleri bir araya getirerek oluşturduğu sistemlerdir. Genellikle oyun oynama, günlük işler ve hafif profesyonel kullanımlar için tercih edilir.

Şimdi iş istasyonlarının avantajlarına ve toplama bilgisayarların dezavantajlarına daha yakından bakalım.

İş İstasyonlarının Avantajları

1. Sertifikalı ve Kararlı Donanım

İş istasyonları, ECC RAM (Hata Düzeltme Kodlu Bellek) gibi stabiliteyi artıran donanımlarla donatılmıştır. Ayrıca, kullanılan bileşenler üretici tarafından titizlikle test edilir ve ISV (Bağımsız Yazılım Satıcısı) sertifikaları ile onaylanır. Bu sayede AutoCAD, SolidWorks, Adobe After Effects gibi yazılımlarda maksimum uyumluluk ve stabilite sağlanır.

2. Üst Düzey Güvenilirlik

İş istasyonları, yüksek çalışma saatleri ve ağır iş yüklerine dayanacak şekilde üretilir. Sürekli kullanım için optimize edildiklerinden dolayı soğutma sistemleri de daha verimlidir. Ayrıca, güç kaynağı bileşenleri de daha uzun ömürlü ve stabil olacak şekilde tasarlanır.

3. Profesyonel GPU Kullanımı (Quadro ve Radeon Pro)

İş istasyonlarında genellikle NVIDIA RTX A6000, Quadro veya AMD Radeon Pro serisi ekran kartları kullanılır. Bu GPU’lar, oyun kartlarından farklı olarak profesyonel yazılımlara yönelik optimizasyonlar içerir. Daha doğru render işlemleri, FP64 hassasiyeti ve ECC destekli bellekler gibi avantajlar sağlar.

4. Daha Güçlü Soğutma ve Sessizlik

İş istasyonları, özel soğutma çözümleri ile donatıldığından ısınma problemleri minimuma iner. Aynı zamanda, fan ve bileşen optimizasyonu sayesinde toplama bilgisayarlara kıyasla çok daha sessiz çalışırlar.

5. Uzun Vadeli Destek ve Garanti

İş istasyonları, üretici tarafından uzun vadeli destek alır ve kurumsal garanti seçenekleri sunar. Dell, HP ve Lenovo gibi markalar, iş istasyonlarına 5 yıl ve üzeri parça değişimi, yerinde servis ve yazılım destekleri sağlayabilir. Toplama bilgisayarlarda bu tip bir garanti desteği bulunmaz.

6. Kurumsal Kullanıma Uygunluk ve İşletmeler İçin İdeal Çözümler

İş istasyonları, IT departmanları tarafından yönetilebilen, uzaktan erişim ve güvenlik çözümleri sunan sistemlerdir. İşletmeler için daha güvenli ve yönetilebilir olmaları büyük bir avantajdır.

Toplama Bilgisayarların Dezavantajları

1. Uyumluluk ve Stabilite Sorunları

Toplama bilgisayarlarda farklı markalardan gelen bileşenlerin uyumluluk sorunları yaşanabilir. Örneğin, anakart ile RAM veya ekran kartı arasındaki uyumsuzluklar performans kaybına yol açabilir.

2. Güvenilirlik Eksikliği

Toplama bilgisayarlar, iş istasyonları kadar kapsamlı testlerden geçmez. Donanım arızaları, aşırı ısınma veya dengesiz güç tüketimi gibi sorunlarla daha sık karşılaşılabilir.

3. Garanti ve Teknik Destek Zorlukları

Bir iş istasyonu alındığında tüm sistem üretici garantisi altındadır. Ancak toplama bir bilgisayarda her bileşenin garantisi ayrı olur, bu da olası bir arıza durumunda kullanıcıyı zor durumda bırakabilir.

4. Oyun Odaklı GPU’ların Profesyonel Kullanım İçin Yetersizliği

Birçok toplama bilgisayar, GeForce veya Radeon oyun kartları ile gelir. Ancak bu kartlar, CAD, yapay zeka veya render işlemlerinde profesyonel GPU’lar kadar verimli çalışmaz ve sürücü optimizasyonları eksik olabilir.

5. Soğutma ve Gürültü Problemleri

Özel bir kasa ve fan seçilmediği sürece, toplama bilgisayarlarda soğutma sistemleri iş istasyonlarına göre daha gürültülü ve verimsiz olabilir. Yoğun işlem gerektiren görevlerde termal throttling (ısınmadan dolayı hız kesme) yaşanabilir.

6. Uzun Vadede Güncelleme Sorunları

Toplama bilgisayarlar genellikle belirli bir nesile ait bileşenlere bağımlıdır. İş istasyonları ise yükseltilebilir ve modüler yapıları sayesinde uzun yıllar boyunca güncellenebilir.

Sonuç: Hangi Seçenek Size Daha Uygun?

Eğer profesyonel işler yapıyorsanız, stabilite, uzun vadeli destek ve güvenilirlik istiyorsanız iş istasyonu tercih etmek çok daha mantıklı olacaktır. Özellikle mühendislik, veri bilimi, yapay zeka, 3D modelleme ve render işlemleri için iş istasyonu açık ara daha iyi bir seçimdir.

Ancak, oyun oynama, günlük kullanım veya düşük bütçeli çözümler için toplama bilgisayar tercih edilebilir. Unutmayın, toplama bir sistemde doğru bileşenleri seçmek ve uyumlu çalışmasını sağlamak tamamen sizin sorumluluğunuzda olacaktır.

Eğer iş istasyonu mu yoksa toplama bilgisayar mı seçmelisiniz? konusunda hâlâ kararsızsanız, ihtiyaçlarınıza en uygun çözümü belirlemek için bir uzmandan destek almanızı öneririz.

Artan ve gelişen uygulama performansı gereksinimleri, büyüyen kullanıcı tabanlarıyla birleşerek veri merkezlerinin sınırlarını zorluyor. Aynı zamanda işletmeler, bu yeni beklentileri karşılamanın maliyetini düşürmeye aşırı derecede odaklanmış durumda. Supermicro, CSP’lere raf ölçekli çözümler sağlamada liderdir.

Geniş Ölçekte Tam Entegrasyon: 200’e varan küresel üretim kapasitesine sahip tam raf ve kümelerin tasarımı ve inşası5.000aylık raflar

Sıvı Soğutma / Hava Soğutma: GPU ve CPU soğuk plakaları, Soğutma Dağıtım Üniteleri ve Manifoldları ile tam entegre sıvı soğutma veya hava soğutma çözümü 

Yerinde Hizmetle Test Edin, Doğrulayın, Dağıtın: Kanıtlanmış L11, L12 test süreçleri, sevkıyattan önce operasyonel etkinliği ve verimliliği kapsamlı bir şekilde doğrular

CSP VERİ MERKEZİNİ ÖLÇEKLENDİRMEDE 10 TEMEL ADIM

Artan ve gelişen uygulama performansı gereksinimleri, büyüyen kullanıcı tabanlarıyla birleşerek veri merkezlerinin sınırlarını zorluyor. İşletmeler aynı zamanda bu yeni beklentileri karşılamanın maliyetini düşürmeye de son derece odaklanmış durumda. Peki akıllı CSP’ler bütçeyi zorlamadan nasıl ölçekleniyor? Bu, sunucular, depolama, ağ ve yazılım gibi komple çözüm parçalarını uygulamaya koyabilecek bir iş ortağı seçmekle başlar. Oradan on basit adım var.

1. STANDARDİZASYON VE ÖLÇEKLENDİRME
   Tercih edilen bir bilgi işlem, depolama ve ağ yapılandırması etrafında standartlaştırın ve ardından gerektiği gibi ölçeklendirin. Yeni iş yükü mü? Yapılandırmayı yeniden gözden geçirmenin, optimize etmenin ve ölçeği genişletmenin zamanı geldi.
2. UYGULAMALARINIZI OPTİMİZE EDİN
   Uygulama iş yükleriniz performans ihtiyaçlarınızı belirler. İşlem gücünden depolama ihtiyaçlarına kadar teknoloji yığınını uyarlamak büyük fark yaratacaktır.m

BUNU BİLİYOR MUYDUNUZ?

Semiconductor Research Consortium’a (SRC) göre toplam ortalama sunucu maliyetinin %49’u belleğe gidiyor.

3. TEKNOLOJİ YENİLEMELERİNİZİ İYİ PLAN
En iyi teknoloji bile sonsuza kadar yeni kalamaz. Bir veya iki aksama olsa bile yaklaşan teknoloji geçişlerini ve  kapasitesini planlayın. Tüm ekosistem genelinde derin ilişkilere sahip olacağınız güvenilir bir ortak seçin.

4. YENİ MİMARİ YAKLAŞIMLARI KABULLENİN
Daha büyük dağıtımları göz önünde bulundurarak denemeler yapın.  Size bir sonraki adımın önizlemesini görmenize olanak tanıyan gelişmiş Konsept Kanıtı (POC) çözümlerine erken erişim sağlayan bir iş ortağıyla çalışın.

5. DESTEĞİNİZİ PLANLAYIN
Veri merkeziniz 7×24 çalışacak. Bir şeyler ters gittiğinde, kesintileri ve kesintileri mümkün olduğunca nadir ve kısa hale getirebilecek bir destek ortağına ihtiyacınız var.

6. VERİ MERKEZİ BİR BÜTÜN OLARAK TASARLAYIN
Dolu bir veri merkezi, boş olandan farklı davranır. Başlangıçtan itibaren çalışan bir bütün için tasarlamalı ve inşa etmeli, soğutma ve güç ihtiyaçlarını erkenden ve sık sık öngörmelisiniz.

7. SIVI SOĞUTMAYA DİKKAT ALIN
Büyüyen raflar, özellikle yeni GPU gereksinimleriyle birlikte daha yüksek elektrik faturaları anlamına geliyor. Sıvı soğutma çözümleri, GPU platformları da dahil olmak üzere yüksek yoğunluklu sunucuların, yavaşlama yaşamadan PUE’yi en aza indirmesine olanak tanır.

8. ÖNEMLİ OLANI ÖLÇÜN
Bir veri merkezi hareket halindeki milyonlarca parçadan oluşur. Doğru enstrümantasyon ve yönetim yazılımını kullanmak size düğüm, sunucu, raf ve veri merkezi düzeyinde performans, kullanım ve verimlilik konusunda doğru bir tablo sunar.

9. İŞ YÖNETİMİ
Veri merkezini yönetmek işleri yönetmek anlamına gelir. Tüm CSP müşterilerinin önemsediği şey budur; ihtiyaç duyduklarında performans.
İş planlama, büyümeyi sağlayabilecek veya durdurabilecek önemli bir hususdur.

10. TEDARİK ZİNCİRİNİZİ BASİTLEŞTİRİN
Karmaşıklık sizi her zaman yavaşlatacaktır. Veri merkezi tedarik zincirinizi basitleştirmek, daha büyük parçaları daha hızlı ve daha az stresle yerine taşımak anlamına gelir. Çalışmaya hazır entegre, doğrulanmış çözümler sunabilecek bir iş ortağı seçin.

BONUS BİLGİ!

11. İMALAT UZMANLIK KONULARI
Büyük OEM’lerin çoğunun üretim, tasarım ve tedarik zincirlerini Orijinal Tasarım ve Sözleşmeli Üreticilere (ODM/CM’ler) dış kaynaklardan sağladığı bir sırdır. Tüm ürünlerini tasarlayan ve müşterilerin lokasyonlarına yakın üretim yapan bir şirketi seçmek, daha fazla esneklik, daha hızlı teslimat süresi ve daha düşük TCO anlamına gelir.

12. DENEYİM DE ÖNEMLİ
Onlarca yıldır hizmet sağlayıcılar, HPC süper bilgisayarları ve en büyük hiper ölçekleyiciler, OEM’ler ve işletmeler için güç sağlayan çözümlerle çalışan, yalnızca veri merkezine odaklanan bir B2B şirketiyle çalışmak önemlidir.

Supermicro, ürün geliştirmenin yanı sıra tedarik zinciri lojistiği, servis ve destek, boyutlandırma ve test konularında da önemli deneyime sahip, hem büyük hem de küçük CSP’lere raf ölçekli çözümler sağlamada liderdir. Türkiye’deki Katma Değerli Distribütörü GTM Teknoloji, 15 yılı aşkın süredir veri merkezi ve CSP’ler için fiyat&performans yüksek, ölçeklenebilir ve yerinde SLA hizmetleri ile desteklenen çözümler sağlar. 

Veri merkezi ve Bulut sağlayıcılar için önerilen Supermicro Ürünleri

TEKLİF AL

Yapılandır, Teklif Al. 

Yapılandır, Teklif Al. 

Yapılandır, Teklif Al. 

Yapılandır, Teklif Al. 

Yapılandır, Teklif Al. 

Yapılandır, Teklif Al. 

Supermicro AS-1115SV-WTNRT, yüksek talep gören uygulamalar için tasarlanmış, 1U rackmount sunucudur. Sanallaştırma, veri tabanı yönetimi ve edge computing gibi uygulamalar için idealdir. AMD’nin EPYC 8004 Serisi işlemcisi ile donatılmış bu sunucu, modern IT zorluklarına ölçeklenebilir bir çözüm sunar.

Temel Özellikler ve Donanım Özellikleri

AS-1115SV-WTNRT’nin kalbinde, 64 çekirdek ve 128 iş parçacığına kadar destekleyen AMD EPYC 8004 Serisi işlemci yer alır. Bu yüksek paralel işlem gücü, yoğun veri merkezleri ve hizmet sağlayıcılar için ideal bir çözüm sunar. “Siena” serisi işlemciler, yüksek çekirdek sayıları ve enerji verimliliği ile dikkat çeker, 70W ila 200W arasında değişen güç tüketimi sunar.

Sunucu, 4800MHz hızında 576GB’a kadar DDR5 bellek desteği sunar ve altı DIMM yuvasına sahiptir. Bu bellek kapasitesi, yüksek hızlı veri aktarımı sağlar ve büyük veri kümelerinin etkin bir şekilde işlenmesine olanak tanır. Depolama esnekliği, NVMe, SAS ve SATA sürücülerini destekleyen on adet 2.5” hot-swap sürücü yuvası ile sağlanır.

Genişleme ve Güç Kaynağı

AS-1115SV-WTNRT, üç adet PCIe 5.0 x16 genişleme yuvası sunar. Bu yuvalardan ikisi tam yükseklikte ve tam uzunlukta kartlar için uygundur, üçüncüsü ise düşük profilli kartlar için tasarlanmıştır. Bu genişleme seçenekleri, sunucunun esnekliğini artırır ve daha büyük kartlar için yeterli alan sağlar.

Sunucu, iki yedekli 860W güç kaynağı ile sürekli güç sağlar ve sistem güvenilirliğini artırır. Bu yedekli güç üniteleri, beklenmedik güç kesintileri durumunda bile sistemin çalışmaya devam etmesini sağlar.

İç Tasarım ve Soğutma

Sunucunun iç düzeni, hava akışını ve soğutma verimliliğini maksimize edecek şekilde tasarlanmıştır. Altı adet içte bulunan ters dönen fan, sürekli performans desteği sağlar. Küçük H13SVW-NT anakart, tek bir AMD EPYC 8004 Serisi işlemciyi barındırır ve etrafında altı DDR5 DIMM yuvası bulunur.

Sistem Yönetimi

Supermicro, AS-1115SV-WTNRT’yi, SuperCloud Composer ve Supermicro Server Manager (SSM) gibi güçlü yönetim araçlarıyla donatmıştır. Bu araçlar, sistem yönetimini ve izlemeyi kolaylaştırır. BIOS, güvenliği artıran ve daha hızlı önyükleme süreleri sunan modern UEFI 2.8 spesifikasyonuna sahiptir.

BMC sistemi, yöneticilere kontrol ve izleme imkânı sağlar. Bu arayüz (ayrılmış bir IP adresi aracılığıyla erişilebilir), sistem sağlığı hakkında kritik bilgiler sunar, kapsamlı yapılandırma değişikliklerine izin verir ve fiziksel erişim gerektirmeden uzaktan kontrol eylemleri sağlar.

Performans Analizi

Sunucunun performansı, çeşitli testlerle değerlendirildi. Blender OptiX 4.0 ve 4.1 testlerinde, CPU ve GPU performansı karşılaştırıldı. CPU yalnızca yapılandırmada, GPU destekli yapılandırmaya kıyasla daha yüksek performans elde edildi. Blackmagic RAW Speed Test ve Disk Speed Test, sunucunun video oynatma ve disk okuma/yazma hızlarını değerlendirdi. Cinebench R23 ve Cinebench 2024 testlerinde, sunucunun çoklu ve tekli çekirdek performansı ölçüldü. Geekbench CPU Benchmark testinde, sunucu genel sistem performansını gösterdi. Y-cruncher ve UL Procyon AI Inference testlerinde, matematiksel hesaplama ve yapay zeka çıkarım performansı değerlendirildi.

Sonuç

Supermicro AS-1115SV-WTNRT, modern IT ihtiyaçlarını karşılamak üzere tasarlanmış, verimli ve ölçeklenebilir bir çözüm sunar. Yüksek performanslı işlemcisi ve geniş bellek kapasitesi ile veri merkezi operasyonlarında maliyet etkin bir seçenek olarak öne çıkar. AMD EPYC 8004 serisi işlemciler, tek soketli platformlarda mükemmel bir performans sunar ve düşük güç tüketimi ile öne çıkar. Bu sunucu, gelecekteki talepleri karşılayacak şekilde ölçeklenebilir ve veri merkezi operasyonlarında toplam sahip olma maliyetini azaltır.

Supermicro AS-1115SV-WTNRT Teknik Özellikleri

• İşlemci: AMD EPYC 8004 Serisi, 64 çekirdek, 128 iş parçacığı
• Bellek: 576GB DDR5 RAM, 4800MHz hızında, 6 DIMM yuvası
• Depolama: 10 adet 2.5” hot-swap sürücü yuvası
• Genişleme Yuvaları: 3 adet PCIe 5.0 x16 yuvası
• Güç Kaynağı: 860W yedekli güç üniteleri
• Yönetim Araçları: SuperCloud Composer, Supermicro Server Manager, BMC arayüzü
• Ağ Bağlantısı: 2 adet RJ45 10GBASE-T Broadcom BCM57416
• Giriş / Çıkış: 2 ön USB portu, 4 arka USB portu, 1 VGA portu, 1 arka COM portu
• BIOS: AMI 32MB SPI Flash EEPROM, UEFI 2.8
• Şasi: 1U, 437mm x 43mm x 597mm

Supermicro AS-1115SV-WTNRT sunucusu, modern veri merkezi operasyonlarının maliyet etkinliğini artıran ve performansını optimize eden bir çözüm sunar. Bu sunucu, ölçeklenebilirliği ve yüksek verimliliği ile dikkat çeker.

NVIDIA’nın kıdemli ürün pazarlama müdürü Anthony Larijani ve Supermicro’nun kıdemli ürün pazarlama müdürü Yusuke Kondo, OctoML’in kurucu ortağı ve CEO’su Luis Ceze ile üretken yapay zekanın bir kuruluşa nerede fayda sağlayabileceğinin nasıl belirleneceği ve kullanımıyla nasıl denemeler yapılabileceği hakkında konuştu. vakalar ve bir gen yapay zeka stratejisini desteklemek için kritik olan teknoloji.

Altyapı kararları ve iş yükü hususları

Laricani, ihtiyaçların altyapıyla eşleştirilmesinin ilk önemli gereklilik olduğunu söylüyor.

“Bunu yapmanın yolu nihai hedefi akılda tutarak başlamaktır” diye açıklıyor. “Bu altyapının ne için kullanılacağını hayal ettiğinizi, üzerinde çalışan iş yükü türlerini nasıl gördüğünüzü görselleştirmeye çalışın. Örneğin, çok büyük ölçekli bir temel modelin eğitimi doğrultusundaysa, çok sayıda kullanıcıya gerçek zamanlı performans sunması gereken bir çıkarım uygulaması sunmak için farklı hesaplama gereksinimlerine sahip olacaktır.”

Ölçeklenebilirlik de bu noktada devreye giriyor. Yalnızca modelin iş yükünü değerlendirmeniz gerekmez, aynı zamanda çalıştırıyor olabileceğiniz uygulamadaki talep türünü de tahmin etmeniz gerekir. Bu, ister toplu tipte bir kullanım durumu, ister sohbet robotu gibi gerçek zamanlı bir kullanım durumu olsun, çalıştıracağınız çıkarım iş yükü türleriyle ilgili diğer hususlarla örtüşmektedir.

Bulut ve şirket içi hususlar

Nesil AI uygulamaları genellikle ölçek gerektirir ve bu, bulut ve şirket içi değerlendirmelerin konuşmaya dahil olduğu anlamına gelir. Kondo, bunun açıkça ihtiyaç duyulan kullanım senaryosuna ve ölçeğe bağlı olduğunu ancak bunun yine de kritik ve temel bir karar olduğunu açıklıyor.

“Bulutu kullandığınızda elbette daha fazla esnekliğe ve kapsama alanına sahip olursunuz. Ölçek büyütmeniz gerektiğinde bunu yapabilirsiniz” diyor. “Şirket içi çalışmaya başladığınızda, kendiniz için bilişime ne kadar yatırım yapmanız gerektiğine karar vermeden önce bunu planlamanız ve nasıl ölçeklendireceğinizi tahmin etmeniz gerekir. Bu büyük bir başlangıç ​​maliyeti gerektirecek.”

Ancak üretken yapay zeka, özellikle ChatGPT gibi halka açık bir API’ye veri beslerken ve kontrol sorunlarını da beraberinde getirirken tamamen yeni bir düzeyde veri gizliliği hususları getiriyor; iş yükünü uçtan uca kontrol etmek mi istiyorsunuz, yoksa yalnızca API’den yeterince yararlanmak mı istiyorsunuz? Ve tabii ki, üretken yapay zeka yolculuğunuzda nerede olduğunuza bağlı olarak bir maliyet de var; bazı küçük deneylerle yeni başlıyorsunuz veya ölçeklendirmeye başlamaya isteklisiniz.

“Baktığınız projenin büyüklüğüne karar vermelisiniz. Sadece GPU bulutunu kullanmak mantıklı mı?” diyor. “Maliyet düşerken, hesaplama yeteneğinin arttığını tahmin ediyoruz. Altyapının mevcut fiyatına bakıldığında yalnızca GPU bulut örneklerini kullanmak mantıklı mı? Kendi yapay zeka altyapınıza çok fazla sermaye harcamak yerine, bunu GPU bulutunu kullanarak test etmek isteyebilirsiniz.”

Açık kaynak ve tescilli modeller

Laricani, şu anda kuruluş içindeki kullanım durumlarına yönelik dağıtımlar için daha küçük ölçekli, daha özelleştirilmiş, özel model türlerine doğru bir eğilim olduğunu söylüyor. Artırılmış üretimin alınması gibi teknikler sayesinde, özel verileri kullanabilen LLM’lerden yararlanmanın etkili yolları ortaya çıkıyor ve bu, altyapı seçimini doğrudan etkiliyor. Bu özel modeller daha az eğitim gereksinimi içerir.

“Bu modelin yalnızca kullanım durumunuza uygun olan bir kısmını yeniden eğitebilmek, eğitim süresini ve maliyetini azaltır” diye açıklıyor. “Müşterilerin maliyet açısından engelleyici olan kaynak türlerini gerçekten bu tür performansı gerektiren iş yükleri için ayırmalarına ve bu tür iş yüklerini çalıştırmak için maliyeti daha optimize edilmiş çözümlerden yararlanmalarına olanak tanıyor.”

İster açık kaynak ister tescilli olun, modeli ihtiyaçlarınıza göre nasıl boyutlandırırsınız?

Kondo, “Açık kaynaklı modeller kullanıyorsanız, temel modellerin daha özel bir duruma getirilmesi için ince ayar yapılması gerekiyor” diyor. “Bu, maliyetinizin optimizasyonunu ve GPU’ların altyapı kullanımınızın optimizasyonunu etkileyecek. Yatırım yaptığınız şeyi boşa harcamak istemezsiniz.”

Yazılım yığınınızla donanımı en üst düzeye çıkarma

Seçtiğiniz donanımdan en iyi şekilde yararlanmak aynı zamanda karmaşık bir sistem yazılımı yığını anlamına da gelir.

Kondo, “Bu yalnızca tek bir düzey değil; raf ölçeği ve ardından küme düzeyinde uygulama var” diyor. “Büyük ölçekli altyapı söz konusu olduğunda, açıkçası bu, açık kaynaklı bir modeli tek bir sistemle çalıştırmaktan çok daha karmaşık. Çoğu zaman gördüğümüz şey, NVIDIA konu uzmanlarını ilk aşamalardan itibaren dahil ettiğimiz, hatta rafları tasarladığımız, kümeyi NVIDIA’nın bir araya getirdiği yazılım kitaplıkları ve mimarisine dayalı olarak tasarladığımızdır. Müşteriler için doğru çözümü oluşturmak amacıyla NVIDIA ile yakın işbirliği içinde çalışarak rafları onların gereksinimlerine göre tasarlıyoruz.”

Laricani, eksiksiz bir yapay zeka yazılım yığını oluşturmanın karmaşık ve kaynak yoğun bir girişim olduğunu, bu nedenle NVIDIA’nın altyapıdan üzerinde çalışan yazılıma kadar tam kapsamlı bir bilgi işlem şirketi olmaya yatırım yaptığını ekliyor. Örneğin, NVIDIA AI kurumsal platformunun bir parçası olan Nemo çerçevesi, müşterilerin bir dizi üretken AI modeli ve uygulamasını oluşturmasına, özelleştirmesine ve dağıtmasına yardımcı olmak için uçtan uca bir çözüm sunuyor. Model eğitim sürecini optimize etmeye ve GPU kaynaklarını on binlerce düğüme verimli bir şekilde tahsis etmeye yardımcı olabilir. Modeller eğitildikten sonra, onları özelleştirerek belirli alanlardaki çeşitli görevlere uyum sağlayabilir.

“Bir kuruluş bunu geniş ölçekte uygulamaya hazır olduğunda Nemo çerçevesi, Triton çıkarım sunucumuz gibi birçok müşterimizin kullandığı ve aşina olduğu tanıdık araçlarla bütünleşir” diye ekliyor. “Müşterilerimizin yüksek verim ve düşük gecikmeyle verimli bir şekilde dağıtım yapmasına yardımcı olacak optimize edilmiş derleyici, bunların hepsi aynı tanıdık platform üzerinden yapılıyor ve hepsi NVIDIA sertifikalı Supermicro sistemlerinde mükemmel çalışacak şekilde optimize ediliyor.”

Yüksek Lisans’ların artan karmaşıklığına karşı geleceğe yönelik hazırlıklar

Kondo, LLM’lerin her geçen gün büyüdüğünü ve bu büyümenin yavaşlayacak gibi görünmediğini söylüyor. En büyük sorun sürdürülebilirliktir ve bu sunucuların güç gereksinimleri endişe vericidir.

“HGXH100’e bakarsanız GPU başına 700 watt olduğuna inanıyorum. Bunun sonunda GPU başına 1000 watt’a ulaşmasını bekliyoruz” diyor. “Bunu 10 yıl öncesiyle karşılaştırdığınızda, bu çok çılgınca. Bunu nasıl ele alacağız? Tamamen sıvı soğutmalı entegre çözümümüz üzerinde çalışmamızın nedenlerinden biri de budur. Güç kullanımı açısından, sıvı soğutma altyapısı tek başına size yüzde 40’ın üzerinde güç tasarrufu sağlayacaktır. Yeşil bilişim bizim girişimlerimizden biri ve bunun inovasyonumuzu kolaylaştıracağına gerçekten inanıyoruz.”

Paralel tarafta, ister model eğitimi ister müşterilere çıkarım hizmeti olsun, dağıtımları optimize etmeye yönelik yazılımın geliştirilmesi açısından devam eden verimlilikler de mevcut. Laricani, kuruluşların bu yeteneklerden uygun maliyetli ve sürdürülebilir bir şekilde yararlanmasına yardımcı olmak için yeni tekniklerin ortaya çıktığını söylüyor.

“Elbette, bu tür modelleri eğitmek için daha optimize edilmiş, yüksek kapasiteli sistemlere yönelik artan bir ihtiyaç olduğunu görüyoruz, ancak bunlara erişme ve bunları uygulama konusunda yeni yöntemlerin ortaya çıktığını da görüyoruz” diyor. “Her hafta olduğu gibi sık sık yapay zeka için yeni bir kullanım örneği görüyoruz. Uzayda kesinlikle çok ilginç şeyler oluyor. Yazılım açısından da ileriye dönük olarak bunları optimize etmek ve daha verimli hale getirmek için çalışacağız.”

Supermicro ve Nvidia AI Yapay Zeka çözümleri ile alakalı danışmanlığa ihtiyaç duyarsanız GTM Teknoloji ile irtibat kurabilirsiniz.

Şirketler, en iyi performansa sahip işlemcilerle yüksek performanslı bilgi işlem altyapısına yatırım yaparak ezber bozan Ansys uygulamalarının değerini en üst düzeye çıkartmayı talep ediyor..

4. Nesil AMD EPYC işlemciler ve Supermicro H13 sunucular, Ansys için en uygun mimariyi sunuyor ve simülasyon modellerinin sayısı, boyutu ve karmaşıklığı üzerindeki kısıtlamaları azaltmaya yardımcı olurken, sonuçlara daha hızlı ulaşılmasını sağlıyor.
Buna ek olarak, AMD CPU tabanlı sistemlerle mühendisler tasarım kalitesini ve prototip performansını artırabilir ve aynı işi yapmak için daha az sunucu kullanarak toplam sahip olma maliyetini (TCO) önemli ölçüde azaltabilir.

Ansys için AMD Değer Önerisi

Better performance with 4th Gen AMD EPYC CPUs* vs. 3 rdGen Intel® Xeon® Platinum CPUs*

• Up to ~1.5x speedup1 for Ansys® Mechanical

• Up to ~1.76x speedup 2 for Ansys® LS-DYNA®

• Up to ~2.17x speedup 3 for Ansys® CFX®

• Up to ~1.75x speedup 4 for Ansys® Fluent®

*2P 32-core 4th Gen EPYC 9374F vs. 2P 32-core 3rd Gen Xeon Platinum 8362

Ansys için Supermicro H13 Hyper Server

Performance node, Supermicro H13 Hyper Servers

• 2U Rack Server • Dual AMD EPYC 9004 Series Processors

• Up to 6TB DDR5-4800MHz in 24 DIMMS

• Flexible NVMe, SAS, and SATA drive options

• Configurable PCle 5.0 expansion capabilities with CXL 1.1+ memory expansion

• AIOM slots with OCP 3.0 support

• Titanium-Level efficiency power supplies

Supermicro ve AMD, Ansys uygulama performansını nasıl artırıyor?

Önceki nesle kıyasla yeni AMD EPYC 4. Nesil işlemciler, %50’ye kadar daha fazla çekirdek, daha yüksek frekanslar, AVX-512 komut desteği, daha fazla bellek bant genişliği ve daha hızlı PCIe® ve Infinity FabricTM veri aktarım hızı ile Ansys uygulamaları için daha iyi performans sağlıyor. Ayrıca Ansys uygulamalarının AMD derleyicileri ve kütüphaneleri ile optimize edilmesi, performansın daha da artırılmasına yardımcı olabilir.

Ansys için AMD işlemcili Supermicro H13 Hyper compute node sistem konfigürasyonları

Tablo 1, CFX ve Fluent dahil olmak üzere Ansys CFD gibi Hesaplamalı Akışkanlar Dinamiği (CFD) uygulamaları için önerileri göstermektedir. İşlemci başına 12 bellek kanalına ve AVX-512 talimat desteğine sahip 4. Nesil EPYC işlemcileri olan Supermicro, çok çekirdekli paralellikten ve daha fazla bellek bant genişliğinden yararlandıkları için Ansys CFD uygulamaları için düğüm başına yüksek verim sağlayabilir.

Table 1 Sample Supermicro H13 Hyper servers configurations for CFD (CFX, Fluent)

Tablo 2, Ansys Mechanical gibi örtük Sonlu Elemanlar Analizi (FEA) kullanarak yapısal analiz için önerileri göstermektedir.
AVX-512 talimatlarını destekleyen yüksek frekanslı, düşük çekirdek sayılı EPYC işlemcilere sahip Supermicro sunucular, çekirdek başına yazılım lisanslarının verimli bir şekilde kullanılmasına yardımcı olur ve çekirdek başına çok yüksek performans sunar.

Table 2: Sample Supermicro H13 Hyper servers configurations for Structural Mechanics: Ansys Mechanical

Tablo 3, Ansys LS-DYNA gibi açık FEA kullanan çarpışma uygulamaları için önerileri göstermektedir. Yüksek frekanslı, çekirdek başına yüksek önbelleğe sahip ve AVX-512 talimatlarını destekleyen orta çekirdek sayısına sahip EPYC işlemcili Supermicro sistemleri, çekirdek başına yazılım lisanslarının verimli bir şekilde kullanılmasına yardımcı olmak için çekirdek başına çok yüksek performans sunar.

Table 3: Sample Supermicro H13 Hyper servers configurations for Explicit Finite Element Analysis (FEA): Ansys LS-DYNA

Avantajlar: Ansys ile AMD CPU tabanlı Supermicro H13 Hyper sunucular
– Bilgi işlem, depolama, yazılım, hizmetler ve finansal seçeneklerle onaylanmış ve optimize edilmiş çözüm.
– Supermicro veya sertifikalı bir Supermicro iş ortağı tarafından yerinde kurulum, başlatma ve entegrasyon hizmetleri.
– Ansys operasyonel sorunlarının izlenmesi ve düzeltilmesi ile uzaktan yönetim mevcuttur.

San Jose, Kaliforniya, — 13 Haziran 2023 – Bulut, AI/ML, Depolama ve 5G/Edge için Toplam BT Çözümü Sağlayıcısı olan Supermicro, Inc. (NASDAQ: SMCI) H13 serisinin tamamını duyuruyor AMD tabanlı sistemler artık “Zen 4c” mimarisine dayalı 4. Nesil AMD EPYC işlemciler ve AMD 3D V-Cache teknolojisine sahip 4. Nesil AMD EPYC işlemciler için destekle sunuluyor.

Lider iş parçacığı yoğunluğuna ve yuva başına 128 çekirdeğe sahip, bulutta yerel bilgi işlem için 4 ^. Bu sistemler, bulut operatörlerinin kullanıcı oturumlarının sürekli artan taleplerini karşılaması ve yapay zeka destekli yeni hizmetler sunması için hedefleniyor. AMD 3D V-Cache teknolojisine sahip sunucular, FEA, CFD ve EDA’da teknik uygulamaları çalıştırmada mükemmeldir. Büyük Düzey 3 önbellek, bu tür uygulamaların her zamankinden daha hızlı çalışmasını sağlar. Son birkaç yılda AMD EPYC işlemcilerle 50’den fazla dünya rekoru kırıldı.

“Supermicro, müşterilerin gereksinimlerini karşılamak için ürün gruplarımızın sınırlarını zorlamaya devam ediyor. Supermicro başkanı ve CEO’su Charles Liang, “Hızlı dağıtımlar için raf ölçeği entegrasyonuyla kaynak tasarrufu sağlayan, uygulama için optimize edilmiş sunucular tasarlıyor ve sunuyoruz” dedi. “En son 4. Nesil AMD EPYC işlemciler için tamamen optimize edilmiş, büyüyen geniş sistem portföyümüzle, bulut operatörleri artık çok sayıda kullanıcı için olağanüstü yoğunluk ve verimlilik ve alan kısıtlaması olan veri merkezlerinde bile bulutta yerel hizmetler elde edebiliyor. Ayrıca, gelişmiş yüksek performanslı, çok yuvalı, çok düğümlü sistemlerimiz, çok çeşitli teknik bilgi işlem iş yüklerini ele alır ve üretim şirketlerinin belleğin hızlandırılmış performansından yararlanarak yeni ürünler tasarlaması, geliştirmesi ve doğrulaması için pazara sunma süresini önemli ölçüde azaltır. yoğun uygulamalar.”

Supermicro AMD tabanlı sunucuların tamamı hakkında daha fazla bilgi edinmek için şu adresi ziyaret edin: https://www.supermicro.com/en/products/aplus

AMD Sunucu Ürünleri ve Teknoloji Pazarlamasından Sorumlu Kurumsal Başkan Yardımcısı Lynn Comp, “4. ^Nesil AMD EPYC işlemciler, dünyadaki tüm x86 işlemciler arasında en yüksek çekirdek yoğunluğunu sunuyor ve bulut tabanlı iş yükleri için olağanüstü performans ve verimlilik sağlayacak” dedi. “En yeni veri merkezi işlemci ailemiz, müşterilerin iş yükü büyümesini ve esnekliği kritik altyapı birleştirme zorunluluklarıyla dengelemesine olanak tanıyarak, bulut yerel bilgi işlemin veri merkezini dönüştürdüğü bir zamanda müşterilerimizin daha fazla enerji verimliliği ile daha fazla iş yapmalarını sağlıyor.”

20 Haziran tarihli “Yeni Nesil Supermicro H13 Sistemleri ile EPYC Performansına ve Yoğunluğuna Ulaşın” Supermicro web seminerine kaydolun.

https://www.brighttalk.com/webcast/17278/586045

H13 Hyper-U – Yeni 1U ve 2U Hyper-U sunucuları, sanallaştırma ve HCI gibi bulutta yerel iş yükleri için ideal olan yüksek performans ve yoğunluk için tasarlanmıştır; 128 çekirdek Ayrıca, 12x 3,5″ sürücü bölmeleri veya 24x 2,5″ sürücü bölmeleri içeren, depolama için optimize edilmiş yapılandırmalar mevcuttur. Hyper-U ile tek bir CPU kullanmak, çift CPU sunuculara kıyasla yazılım lisanslama maliyetlerini ve soğutma zorluklarını azaltabilirken, maksimum çekirdek yoğunluğunu sağlamaya ve 24 DIMM yuvasında 12 kanala kadar DDR5 desteğiyle bellek kapasitesini ikiye katlamaya devam edebilir. Bu yeni Hyper-U sunucuları hakkında buradan daha fazla bilgi edinin .

H13 All-Flash EDSFF – “Zen 4c” mimarisine dayanan, AMD EPYC 9004 Serisi işlemcilerle desteklenen yeni All-Flash NVMe depolama sistemleri, kompakt bir 1U kasada benzersiz kapasite ve performans sağlayan en son EDSFF teknolojileri ile tasarlanmıştır. 128 PCIe 5.0 yolundan yararlanan en yeni sunucu, E3.S 2T form faktöründe 16 (7,5 mm) EDSFF E3.S sürücüyü veya 8 E3.S (x4) sürücüyü ve 4 CXL cihazını destekler ve bu gibi kullanım durumları için belleğin genişletilmesine olanak tanır. bellek içi veritabanı uygulamaları olarak.

Ayrıca, aşağıdaki gelişmiş H13 sistem aileleri, en yeni AMD EPYC işlemcilerle sorunsuz yükseltme yolu uyumluluğu sağlar.

H13 GPU için Optimize Edilmiş Sistemler – Açık, modüler, standartlara dayalı sunucular, çift AMD EPYC 9004 Serisi işlemcilerle güçlendirilmiş çalışırken değiştirilebilir, aletsiz bir tasarımla üstün performans ve hizmet verebilirlik sağlar. GPU seçenekleri en yeni PCIe, OAM ve NVIDIA SXM teknolojisini içerir. Bu GPU sistemleri, en zorlu AI eğitim performansı, HPC ve Büyük Veri Analitiği içeren iş yükleri için idealdir.

H13 Hyper – 1U ve 2U çift soketli H13 Hyper serisi, Supermicro’nun en zorlu iş yüklerinin yanı sıra geniş bir alana özel uyum sağlayan bol miktarda depolama ve G/Ç seçeneklerinin üstesinden gelmek için oluşturulmuş rafa monte sunucu yelpazesine yeni nesil performans getiriyor. %100 aletsiz tasarımıyla üstün yönetilebilirlik sağlamanın yanı sıra çok çeşitli uygulama ihtiyaçlarını karşılar.

H13 CloudDC – Tek yuvalı H13 CloudDC, AMD EPYC işlemci çekirdek yoğunluğundan yararlanır ve GPU’lar için 2 veya 4 PCIe 5.0 yuvası ve çift AIOM yuvası (PCIe 5.0; OCP 3.0 uyumlu) ile G/Ç ve depolamada maksimum esneklik sağlar. veri akışı. 1U ve 2U H13 CloudDC sistemleri, herhangi bir boyuttaki veri merkezinde hızlı kurulum ve daha verimli bakım sağlayan aletsiz braketler, çalışırken değiştirilebilir sürücü tepsileri ve yedekli güç kaynakları ile kolay servis verilebilirlik için tasarlanmıştır.

H13 GrandTwin – Supermicro’nun benzersiz 2U 4 Düğümlü sistemi, tek işlemci performansı için özel olarak üretilmiştir. AMD EPYC 9004 Serisi işlemcilere sahip H13 GrandTwin, bir sistemde dört düğüm içeren kompakt 2U form faktöründe maksimum yoğunluk sağlamak için bilgi işlem performansı, bellek ve enerji verimliliği arasındaki dengeyi optimize eder. Ek olarak, H13 GrandTwin’de daha kolay servis için ön veya arka G/Ç ile yapılandırılabilen çalışırken değiştirilebilen ön (soğuk koridor) düğümler bulunur. Sonuç olarak H13 GrandTwin, CDN, çoklu erişimli uç bilgi işlem, bulut oyunları ve yüksek kullanılabilirlikli önbellek kümeleri gibi iş yükleri için idealdir.

 

Supermicro AMD EPYC destekli sunucuları buradan supermicrosunucu.com üzerinden konfigure edip sipariş verebilirsiniz.