Hewlett Packard Enterprise, NVIDIA Tarafından Desteklenen Yeni Anahtar Teslim Çözümünü Tanıttı

Hewlett Packard Enterprise, özel veri setlerini kullanarak yapay zeka (AI) modellerinin eğitimini ve ayarlanmasını hızlandırmak için büyük işletmeler, araştırma kurumları ve kamu kuruluşları için tasarladığı üretken yapay zeka odaklı süper bilgisayar çözümünü duyurdu. Bu çözüm, müşterilerin yapay zeka modelleri eğitmesini, ayarlamasını ve yapay zeka uygulamaları geliştirmesini sağlayan bir yazılım paketinden oluşuyor. Çözüm ayrıca sıvı soğutmalı süper bilgisayarlar, hızlandırılmış bilgi işlem, ağ, depolama ve kuruluşların yapay zekanın değerini daha hızlı ortaya çıkarmasına yardımcı olacak hizmetleri de içeriyor.

Hewlett Packard Enterprise HPC, AI & Labs Başkan Yardımcısı ve Genel Müdürü Justin Hotard, şunları söyledi:

“Dünyanın önde gelen şirketleri ve araştırma merkezleri, inovasyonu teşvik etmek ve araştırmalarında çığır açmak için kendi yapay zeka modellerini eğitiyor ve ayarlıyor. Ancak bunu etkili ve verimli bir şekilde yapmak için amaca yönelik çözümlere ihtiyaçları var. Kurumlar, üretken yapay zekayı desteklemek için sürdürülebilirliği ön planda tutarak kendi yapay zeka modellerini eğitebilecekleri, süper bilgisayar performansına ve ölçeğine sahip çözümlere ihtiyaç duyuyor. Müşterilerimizin yapay zeka modellerinin eğitimini ve sonuçlarını önemli ölçüde hızlandırmasına yardımcı olacak anahtar teslimi çözümler sunmak için NVIDIA ile iş birliğimizi genişletmekten heyecan duyuyoruz.”

Yapay zeka uygulamaları hazırlamaya, önceden hazırlanmış modelleri özelleştirmeye ve kod geliştirip değiştirmeye yönelik yazılım araçları, üretken yapay zeka odaklı yeni süper bilgisayar çözümünün temel bileşenlerini oluşturuyor. Yazılım, dünyanın en hızlı süper bilgisayarının güçlü mimarisini temel alan ve NVIDIA Grace Hopper GH200 Superchips tarafından desteklenen HPE Cray süper bilgisayar teknolojisiyle entegre olarak sunuluyor. Çözüm, kuruluşlara büyük dil modeli (LLM) ve derin öğrenme öneri modeli (DLRM) eğitimi gibi büyük yapay zeka iş yükleri için gereken ölçek ve performansı sunmak için tasarlandı. Sistem üzerinde HPE Makine Öğrenimi Geliştirme Ortamı (HPE Machine Learning Development Environment) kullanılarak açık kaynaklı ve 70 milyar parametreye sahip Llama 2 modeli üzerinde ince ayar yapılması 3 dakikadan kısa sürüyor[i]. Bu da müşteriler için daha hızlı değer elde etme anlamına geliyor. HPE’nin NVIDIA teknolojisiyle desteklenen gelişmiş süper bilgisayar yetenekleri, sistem performansını 2-3 kat artırıyor[ii].

Üretken yapay zekanın her türlü endüstriyel ve bilimsel çabayı dönüştürdüğünü söyleyen NVIDIA Hyperscale ve HPC Başkan Yardımcısı Ian Buck,

“NVIDIA’nın NVIDIA GH200 Grace Hopper Superchips tarafından desteklenen anahtar teslim yapay zeka eğitimi ve simülasyon çözümünde HPE ile yaptığı iş birliği, müşterilere üretken yapay zeka girişimlerinde çığır açmaları için gereken performansı sağlayacaktır”

dedi. 2028 yılına kadar, yapay zeka iş yüklerinin büyümesinin veri merkezlerinde yaklaşık 20 gigawatt güç gerektireceği tahmin ediliyor[iii]. Müşteriler, karbon ayak izlerinin etkisini en aza indirmek için yeni bir enerji verimliliği düzeyi sunan çözümlere ihtiyaç duyacaklar.

Enerji verimliliği, HPE’nin hava soğutmalı çözümlere kıyasla kilovat başına yüzde 20’ye kadar performans artışı sağlayabilen ve yüzde 15 daha az güç tüketen[iv] sıvı soğutma özelliklerine sahip çözümler sunan bilgi işlem girişimlerinin temelini oluşturuyor.

Bugün dünyanın en verimli 10 süper bilgisayarından çoğunun arkasındaki isim olan HPE, yoğun hesaplama gerektiren uygulamalarda enerji tüketimini azaltmak ve sistemlerin verimli bir şekilde soğutulmasını sağlamak için üretken yapay zeka odaklı süper bilgisayar çözümünde doğrudan sıvı soğutma (DLC) sistemini kullanıyor.

HPE, kuruluşların enerji kullanımlarını azaltmalarına yardımcı olurken yapay zeka hedeflerini ilerletmek için en güçlü bilgi işlem teknolojisini ortaya çıkarmalarına yardımcı olmak için benzersiz bir konumda yer alıyor.

Bulunabilirlik

Üretken yapay zeka odaklı süper bilgi işlem çözümü, Aralık ayında HPE aracılığıyla 30’dan fazla ülkede kullanıma sunulacak.

[i] Yüzde 97 ölçeklendirme verimliliğinde 128 NVIDIA H100 GPU’ya sahip 32 HPE Cray EX 2500 düğümü kullanılarak, 70 milyar parametreli Llama 2 modeli 3 dakikadan kısa bir sürede 10 milyon token üzerinde dahili testlerde ince ayara tabi tutuldu. Model ayarlama kodu ve eğitim parametreleri ölçeklendirme çalışmaları arasında optimize edilmemiştir.

[ii] Dört NVIDIA GH200 Grace Hopper Superchips ile donatılmış HPE Cray EX254n hızlandırıcı blade kullanan HPE Cray EX2500 süper bilgisayardan oluşan kullanıma hazır, ayarlanmamış bir sistem kullanılarak standart BERT ve Mask R-CNN AI kıyaslamalarına dayanmaktadır. Bağımsız olarak yürütülen testler, iki AMD EPYC 7763 işlemci ve NVLINK ara bağlantılarına sahip dört NVIDIA A100 GPU içeren A100 tabanlı bir sistem için yayınlanan MLPerf 3.0 sonuçlarına kıyasla 2-3 kat performans artışı göstermiştir.

[iii] Avelar, Victor; Donovan, Patrick; Lin, Paul; Torell, Wendy; and Torres Arango, Maria A., The AI disruption: Challenges and guidance for data center design (White paper 110), Schneider Electric: https://download.schneider-electric.com/files?p_Doc_Ref=SPD_WP110_EN&p_enDocType=White+Paper&p_File_Name=WP110_V1.1_EN.pdf

[iv] HPE tarafından Nisan 2023’te gerçekleştirilen ve hava soğutmalı HPE Cray XD2000 ile doğrudan sıvı soğutma kullanan eşdeğer sistemi karşılaştıran dahili performans testlerinden elde edilen tahminlere dayanmaktadır. Sunucu başına SPEChpc™2021, small, MPI + OpenMP, 64 ranks, 14 threads tahmini sonuçlarından oluşan bir kıyaslama kullanılarak, hava soğutmalı sistem kW başına 6,61 performans ve DLC sistemi kW başına 7,98 performans kaydederek yüzde 20,7’lik fark oluşturmuştur. Aynı kıyaslama, hava soğutmalı sistemin kasa gücü için 4539 watt’lık sonuçlar kaydederken, DLC sistemi 3862 watt kaydederek yüzde 14,9’luk bir farka imza atmıştır.