NVIDIA’nın kurucusu ve CEO’su Jensen Huang, bu hafta Taipei’de yapılacak COMPUTEX teknoloji konferansı öncesinde yaptığı konuşmada, “Üretken yapay zeka endüstrileri yeniden şekillendiriyor ve yenilik ve büyüme için yeni fırsatlar açıyor” dedi.

Huang, kendine özgü siyah deri ceketiyle izleyicilere şunları söyledi: “Bugün, bilgisayar alanında büyük bir değişimin eşiğindeyiz.” “Yapay zeka ve hızlandırılmış bilgi işlemin kesişimi geleceği yeniden tanımlayacak.”

Huang, dünyanın önde gelen teknoloji konferanslarından biri öncesinde, Taipei’nin yemyeşil kalbinde yer alan cam kubbeli Ulusal Tayvan Üniversitesi Spor Merkezi’nde toplanan 6.500’den fazla endüstri lideri, basın, girişimci, oyuncu, yaratıcı ve yapay zeka meraklısından oluşan bir dinleyici kitlesine konuştu.

‘Bir Yıllık Ritim’

NVIDIA CEO’su Her Şeyi Hızlandırın Dedi . Huang’ın bir yıllık bir ritimle gelecek yeni yarı iletkenler için bir yol haritası açıklamasıyla birlikte daha fazlası da gelecek. İlk kez tanıtılan Rubin platformu, yeni GPU’lar, yeni Arm tabanlı CPU (Vera) ve NVLink 6, CX9 SuperNIC ve X1600 birleştirilmiş InfiniBand/Ethernet anahtarıyla gelişmiş ağ bağlantısı içeren yeni Blackwell platformunun yerini alacak.

“Şirketimizin bir yıllık bir ritmi var. Temel felsefemiz çok basit: tüm veri merkezi ölçeğini oluşturmak, parçaları bir yıllık bir ritimle parçalara ayırıp size satmak ve her şeyi teknolojinin sınırlarına kadar zorlamak,” diye açıkladı Huang.

NVIDIA’nın yaratıcı ekibi, COMPUTEX açılış konuşmasını oluşturmak için NVIDIA NIM ve NVIDIA’nın hızlandırılmış bilgi işlemi üzerine inşa edilen NVIDIA Inception başlangıç ​​programı üyelerinin sunduğu yapay zeka araçlarını kullandı . Demolarla dolu bu sunumda, bu yenilikçi araçlar ve NVIDIA teknolojisinin dönüştürücü etkisi vurgulandı.

‘Hızlandırılmış Bilgi İşlem Sürdürülebilir Bilgi İşlemdir’

Huang konuşmasına başlarken NVIDIA’nın veriyi zekaya dönüştürme maliyetini düşürdüğünü açıkladı.

“Hızlandırılmış bilgi işlem sürdürülebilir bilgi işlemdir” diye vurguladı ve GPU’lar ve CPU’ların birleşiminin nasıl 100 kata kadar hız sağlayabileceğini, güç tüketimini yalnızca üç kat artırabileceğini ve yalnızca CPU’lara göre Watt başına 25 kat daha fazla performans elde edebileceğini açıkladı.

Huang, “Ne kadar çok satın alırsanız, o kadar çok tasarruf edersiniz” diyerek bu yaklaşımın önemli maliyet ve enerji tasarruflarına dikkat çekti.

Sektör, Yeni Endüstriyel Devrimi Güçlendirecek Yapay Zeka Fabrikaları İnşa Etmek İçin NVIDIA’ya Katılıyor

Özellikle küresel BT merkezi Tayvan’daki önde gelen bilgisayar üreticileri NVIDIA GPU’larını ve ağ çözümlerini benimsedi. En iyi şirketler arasında bulut, şirket içi ve uç yapay zeka sistemleri oluşturan ASRock Rack , ASUS , GIGABYTE , Ingrasys, Inventec, Pegatron , QCT, Supermicro, Wistron ve Wiwynn yer alıyor.

NVIDIA MGX modüler referans tasarım platformu artık büyük dil modeli çıkarımı, almayla artırılmış oluşturma ve veri işlemede optimum performans için tasarlanan GB200 NVL2 platformu da dahil olmak üzere Blackwell’i destekliyor.

AMD ve Intel, ilk kez kendi CPU ana işlemci modülü tasarımlarını sunma planlarıyla MGX mimarisini destekliyor. Herhangi bir sunucu sistemi oluşturucusu, tasarım ve performansta tutarlılığı sağlarken geliştirme süresinden tasarruf etmek için bu referans tasarımlarını kullanabilir.

Spectrum-X ile Yeni Nesil Ağ İletişimi

Ağ oluşturma konusunda Huang, yapay zeka için yüksek performanslı Ethernet ağ bağlantısına yönelik artan talebi karşılamak amacıyla Spectrum-X ürünlerinin yıllık olarak piyasaya sürülmesi planlarını açıkladı.

Yapay zeka için tasarlanmış ilk Ethernet yapısı olan NVIDIA Spectrum-X, ağ performansını geleneksel Ethernet yapılarına göre 1,6 kat daha fazla artırır. Yapay zeka iş yüklerinin işlenmesini, analizini ve yürütülmesini, dolayısıyla yapay zeka çözümlerinin geliştirilmesini ve devreye alınmasını hızlandırır.

CoreWeave, GMO Internet Group, Lambda, Scaleway, STPX Global ve Yotta, yapay zeka altyapılarına olağanüstü ağ oluşturma performansı getirmek için Spectrum-X’i benimseyen ilk yapay zeka bulut hizmeti sağlayıcıları arasında yer alıyor.

NVIDIA NIM Milyonları Nesil Yapay Zeka Geliştiricilerine Dönüştürecek

NVIDIA NIM ile dünyadaki 28 milyon geliştirici artık kolayca üretken yapay zeka uygulamaları oluşturabiliyor. Modelleri optimize edilmiş konteynerler olarak sağlayan çıkarım mikro hizmetleri olan NIM, bulutlara, veri merkezlerine veya iş istasyonlarına dağıtılabilir.

NIM ayrıca işletmelerin altyapı yatırımlarını en üst düzeye çıkarmalarına da olanak tanır. Örneğin, Meta Llama 3-8B’nin bir NIM’de çalıştırılması, hızlandırılmış altyapıda NIM’in kullanılmamasına kıyasla 3 kata kadar daha fazla üretken AI tokeni üretir.

Cadence, Cloudera, Cohesity , DataStax , NetApp , Scale AI ve Synopsys dahil olmak üzere yaklaşık 200 teknoloji ortağı , yardımcı pilotlar, kod asistanları, dijital insan avatarları ve dijital insan avatarları gibi alana özel uygulamalar için üretken yapay zeka dağıtımlarını hızlandırmak amacıyla NIM’i platformlarına entegre ediyor. Daha. Hugging Face artık Meta Llama 3’ten başlayarak NIM’i sunuyor .

“Bugün Hugging Face the Llama 3’ün tamamen optimize edilmiş halini yayınladık, orada denemeniz için mevcut. Hatta onu yanınızda götürebilirsiniz,” dedi Huang. “Böylece onu bulutta çalıştırabilir, herhangi bir bulutta çalıştırabilir, bu kapsayıcıyı indirebilir, kendi veri merkezinize koyabilir ve müşterilerinizin kullanımına sunmak için barındırabilirsiniz.”

NVIDIA, GeForce RTX AI Bilgisayarlarla Yapay Zeka Asistanlarına Hayat Veriyor

NVIDIA’nın RTX teknolojileriyle desteklenen RTX AI bilgisayarları, 200’den fazla RTX AI dizüstü bilgisayar ve 500’den fazla AI destekli uygulama ve oyunla tüketici deneyimlerinde devrim yaratmaya hazırlanıyor.

RTX Yapay Zeka Araç Seti ve NVIDIA ACE dijital insan platformu için yeni kullanıma sunulan PC tabanlı NIM çıkarım mikro hizmetleri, NVIDIA’nın yapay zeka erişilebilirliğine olan bağlılığının altını çiziyor.

PC oyunları ve uygulamaları için bağlama duyarlı desteği gösteren RTX destekli yapay zeka asistan teknolojisi demosu Project G-Assist de duyuruldu.

Microsoft ve NVIDIA, Windows Copilot Runtime’ın bir parçası olarak cihazda çalışan RAG özelliklerini etkinleştiren RTX hızlandırmalı SLM’lere kolay API erişimi ile geliştiricilerin Windows yerel ve web uygulamalarına yeni üretken yapay zeka yetenekleri getirmelerine yardımcı olmak için işbirliği yapıyor.

Sektör Liderleri Tarafından Benimsenen NVIDIA Robotikleri

NVIDIA, otonom operasyonları ve dijital ikizleri (verimliliği artıran ve maliyetleri düşüren sanal modeller) benimseyen sektörlerle 50 trilyon dolarlık endüstriyel dijitalleşme değişimine öncülük ediyor. NVIDIA, Geliştirici Programı aracılığıyla NIM’e erişim sunarak yapay zeka inovasyonunu teşvik ediyor.

Tayvanlı üreticiler fabrikalarını NVIDIA teknolojisini kullanarak dönüştürüyor; Huang, Foxconn’un dijital ikizler yaratmak için NVIDIA Omniverse, Isaac ve Metropolis’i kullanmasını, gelişmiş robotik tesisler için görsel yapay zeka ve robot geliştirme araçlarını bir araya getirmesini sergiliyor.

“Bir sonraki yapay zeka dalgası fiziksel yapay zekadır. Fizik yasalarını anlayan yapay zeka, aramızda çalışabilen yapay zeka” diyen Huang, robot teknolojisinin ve yapay zekanın gelecekteki gelişmelerdeki önemini vurguladı.

NVIDIA Isaac platformu, geliştiricilerin AMR’ler, endüstriyel silahlar ve insansılar da dahil olmak üzere yapay zeka modelleri ve Jetson Orin ve Thor gibi süper bilgisayarlar tarafından desteklenen yapay zeka robotları oluşturmaları için güçlü bir araç seti sağlar.

“Robotik burada. Fiziksel yapay zeka burada. Bu bilim kurgu değil ve Tayvan’ın her yerinde kullanılıyor. Bu gerçekten çok heyecan verici,” diye ekledi Huang.

Küresel elektronik devleri, NVIDIA’nın otonom robotlarını fabrikalarına entegre ediyor ve fiziksel dünya için bu yeni yapay zeka dalgasını test etmek ve doğrulamak için Omniverse’teki simülasyondan yararlanıyor. Buna dünya çapında 5 milyondan fazla önceden programlanmış robot da dahildir.

“Bütün fabrikalar robotik olacak. Fabrikalar robotları yönetecek ve bu robotlar robotik ürünler üretecek” diye açıkladı Huang.

Huang, BYD Electronics, Siemens, Teradyne Robotics ve Intrinsic gibi küresel liderlerin gelişmiş kitaplıkları ve yapay zeka modellerini benimsemesiyle NVIDIA Isaac’in fabrika ve depo verimliliğini artırmadaki rolünü vurguladı.

IGX platformundaki NVIDIA AI Enterprise , ADLINK, Advantech ve ONYX gibi ortaklarla birlikte, tıbbi teknoloji ve diğer endüstriler için gerekli olan katı düzenleme standartlarını karşılayan ileri düzey yapay zeka çözümleri sunuyor.

Huang, Tayvan’a ve NVIDIA’nın oradaki birçok ortağına saygı duruşunda bulunarak açılış konuşmasını başladığı notla bitirdi. “Teşekkür ederim” dedi Huang. “Sizi seviyorum millet.”