Petascale JBOF Nedir?
Petascale JBOF (Just a Bunch of Flash), Supermicro'nun AI training ve inference iş yükleri için tasarladığı yeni nesil all-flash NVMe depolama çözümüdür. Geleneksel storage server'lardaki CPU + RAM + NIC üçlüsünün yerine, NVIDIA BlueField-3 DPU (Data Processing Unit) kullanır.
Bu DPU-driven mimari sayesinde storage tarafı GPU host'unu meşgul etmeden 400 Gb/s line-rate doyurabilir. 2U form-factor'da 4 adet BlueField-3 DPU, 24 veya 36 SSD slot (E3.S veya U.2 form-factor) destekler. 30.71 TB SSD'lerle tek node'da 1.1 PB raw kapasite mümkün.
GPU Cluster İçin Neden Önemli?
Modern LLM eğitiminde GPU'lar saniyenin altında milyarlarca parametreyi günceller — bu hız storage backbone tarafından beslenmek zorunda. Geleneksel NAS veya SAN çözümleri bu throughput'a yetişemez ve GPU'lar boşta bekler. Petascale JBOF bu sorunu çözer.
Yüzlerce GPU sunucusu aynı pooled storage'a NVMe over Fabrics (NVMeoF) üzerinden düşük gecikmeyle erişir. Eğitim sırasında dataset throughput'unu maksimize ederken inference sırasında low-latency context retrieval sağlar.
GTM Teknoloji JBOF Hizmetleri
GTM Teknoloji, Petascale JBOF kurulumlarında storage tasarım, parallel file system seçimi (WekaFS, Lustre, IBM Spectrum Scale, BeeGFS), network mimarisi ve devreye alma süreçlerini uçtan uca yönetir. Mevcut AI SuperCluster projeleriniz için optimize storage tier.
İlgili çözüm sayfaları: AI SuperCluster, Vera Rubin NVL72, GB300 NVL72.