AMD Instinct™ MI300 Archives - SupermicroSunucu Blog https://supermicrosunucu.com/blog/tag/amd-instinct-mi300 Supermicro Sunucu, QSAN Storage, Magnetar Storage, NVIDIA Workstation, Mellanox Hakkında Herşey Sun, 17 Dec 2023 20:02:39 +0000 tr hourly 1 https://wordpress.org/?v=6.8.3 AMD Instinct™ MI300 Serisi Hızlandırıcılar https://supermicrosunucu.com/blog/amd-instinct-mi300-serisi-hizlandiricilar.html https://supermicrosunucu.com/blog/amd-instinct-mi300-serisi-hizlandiricilar.html#respond Sun, 17 Dec 2023 19:44:24 +0000 https://supermicrosunucu.com/blog/?p=1458 Lider Üretken Yapay Zeka Hızlandırıcıları ve Veri Merkezi APU’ları

AMD Instinct™ MI300 Serisi hızlandırıcılar, olağanüstü bilgi işlem performansı, büyük bellek yoğunluğu, yüksek bant genişliği belleği ve özel veri formatları desteği sunarak en zorlu AI ve HPC iş yüklerini bile desteklemeye son derece uygundur.

AMD MI300 Özeti

Hızlı bir bilgi tazelemeye ihtiyaç duyanlar için AMD Instinct MI300 ailesi, AMD’nin GPU, CPU ve HBM’yi birleştirdiği modüler bir yapı taşı mimarisidir. ve daha fazlasını 3D yığılmış bir pakete sığdırır. AMD, farklı türde yapılandırmalar elde etmek için GPU ve CPU döşemelerini değiştirebilir. Yapay zeka yakın gelecekte muhtemelen duyacağımız en popüler iki yapılandırma, dörtte biri CPU ve dörtte üçü GPU olan MI300A ve tamamı GPU olan MI300X olacaktır.

Kaputun Altında

AMD Instinct MI300 Serisi hızlandırıcılar, Matrix Core Teknolojileri ve yüksek verimli INT8 ve FP8’den (AI için seyreklik desteği dahil) en zorlu FP64’e kadar çok çeşitli hassas yetenekler için destek sunan AMD CDNA™ 3 mimarisi üzerine kurulmuştur. HPC.

304 CU

304 GPU Hesaplama Birimleri

192 GB

192 GB HBM3 Bellek

5,3 TB/sn

5,3 TB/s En Yüksek Teorik Bellek Bant Genişliği

  • Product Basics

    NameAMD Instinct™ MI300X
    FamilyInstinct
    SeriesInstinct MI300 Series
    Form FactorServers
    Launch Date12/06/2023

  • GPU Specifications

    GPU ArchitectureCDNA3
    LithographyTSMC 5nm | 6nm FinFET
    Stream Processors19,456
    Matrix Cores1216
    Compute Units304
    Peak Engine Clock2100 MHz
    Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)2.61 PFLOPs
    Peak Eight-bit Precision (FP8) Performance with Structured Sparsity (E5M2, E4M3)5.22 PFLOPs
    Peak Half Precision (FP16) Performance1.3 PFLOPs
    Peak Half Precision (FP16) Performance with Structured Sparsity2.61 PFLOPs
    Peak Single Precision (TF32 Matrix) Performance653.7 TFLOPs
    Peak Single Precision (TF32) Performance with Structured Sparsity1.3 PFLOPs
    Peak Single Precision Matrix (FP32) Performance163.4 TFLOPs
    Peak Double Precision Matrix (FP64) Performance163.4 TFLOPs
    Peak Single Precision (FP32) Performance163.4 TFLOPs
    Peak Double Precision (FP64) Performance81.7 TFLOPs
    Peak INT8 Performance2.6 POPs
    Peak INT8 Performance with Structured Sparsity5.22 POPs
    Peak bfloat161.3 PFLOPs
    Peak bfloat16 with Strutured Sparsity2.61 PFLOPs
    Transistor Count153 Billion

  • Requirements

    External Power Connectors54V UBB
    Typical Board Power (TBP)750W Peak

  • GPU Memory

    Last Level Cache (LLC)256 MB
    Dedicated Memory Size192 GB
    Dedicated Memory TypeHBM3
    Infinity CacheYes
    Memory Interface8192-bit
    Memory Clock5.2 GHz
    Peak Memory Bandwidth5.3 TB/s
    Memory ECC SupportYes (Full-Chip)

  • Board Specifications

    GPU Form FactorOAM Module
    Bus TypePCIe® 5.0 x16
    Infinity Fabric™ Links8
    Peak Infinity Fabric™ Link Bandwidth128 GB/s
    CoolingPassive OAM

  • Additional Features

    Supported TechnologiesAMD CDNA™ 3 Architecture , AMD ROCm™ – Ecosystem without Borders , AMD Infinity Architecture
    RAS SupportYes
    Page RetirementYes
    Page AvoidanceYes
    SR-IOVYes

AMD Instinct™ MI300 Serisi hızlandırıcılar ve Sunucu platformları için GTM Teknoloji ile iletişime geçebilirsiniz.

]]> https://supermicrosunucu.com/blog/amd-instinct-mi300-serisi-hizlandiricilar.html/feed 0