Amazon Web Services (AWS), özel sektör ve kamu kuruluşlarının kendi veri merkezlerinde konuşlandırılmış özel AWS yapay zekâ altyapısından faydalanmalarını sağlayacak AWS AI Factories’i kullanıma sunduğunu duyurdu. AWS’e göre büyük kuruluşlar ve hükümetler projelerini ölçeklendirmeye çalışırken, düzenlemelerle ilgili gereklilikleri karşılama ve uyumluluk ihtiyaçları için “yapay zekâ fabrikası” konseptine yöneliyor. Yüksek performanslı bir yapay zekâ fabrikası inşa etmek ise kapsamlı yönetim, veri tabanı, depolama ve güvenlik hizmetleri gibi unsurları gerektirdiğinden, müşteriler bu karmaşıklığı tek başına üstlenmek istemiyor.
AWS AI Factories, en yeni NVIDIA yapay zekâ bilgi işlem ve Trainium çipleri de dahil olmak üzere yapay zekâya hız katacak en yeni özellikleri; AWS’in yüksek hızlı, düşük gecikmeli ağını, yüksek performanslı depolama ve veri tabanlarını, güvenliği ve enerji verimli altyapıyı, Amazon Bedrock ve Amazon SageMaker gibi kapsamlı yapay zekâ servisleriyle birleştirerek müşterilerin yapay zekâ uygulamalarını hızla geliştirmelerini ve büyük ölçekte dağıtmalarını sağlıyor.
Kamu sektöründe ve düzenlemelerin, denetimlerin çok olduğu sektörlerde faaliyet gösteren kuruluşlar, büyük yapay zekâ projelerini kullanıma alma konusunda kritik bir yapay zekâ altyapısı sorunuyla karşı karşıya kalıyorlar. Kendi yapay zekâ yeteneklerini inşa etmek için GPU’lara, veri merkezlerine ve güce büyük sermaye yatırımları yapmaları, karmaşık tedarik döngülerinde yol almaları, kullanım senaryoları için doğru yapay zekâ modelini seçmeleri ve farklı yapay zekâ sağlayıcılarından gelen lisanslama modellerini yönetmeleri gerekiyor. Bu durum, uzun yıllara yayılan zaman çizelgeleri ve temel iş hedeflerine odaklanabilmelerini engelleyecek operasyonel karmaşıklık yaratıyor.
AWS AI Factories, müşterilerin kendi veri merkezlerine, yalnızca kendileri için işletilen özel AWS yapay zekâ altyapısını dağıtarak bu zorluğun üstesinden geliyor. AWS AI Factories, bilgi işlem, depolama, veri tabanı ve yapay zekâ servislerine güvenli, düşük gecikmeli erişim sağlayan özel bir AWS Region gibi çalışıyor. Bu yaklaşım, daha önce edindiğiniz mevcut veri merkezi alanından ve güç kapasitesinden yararlanmanızı sağlıyor. Eğitim ve çıkarım için en son yapay zekâ çiplerinden yapay zekâ modellerini oluşturma, eğitme ve dağıtma araçlarına kadar AWS yapay zekâ altyapısına ve servislerine erişilebiliyor. Ayrıca, veri merkezinde verilerin nerede işlendiği ve depolandığına ilişkin güvenlik, veri egemenliği ve düzenleyici gereksinimlerinizi karşılamanıza yardımcı olurken, model sağlayıcılarla ayrı sözleşmeler yapmak zorunda kalmadan önde gelen temel modellere erişim sunan yönetilen hizmetlerden de faydalanılabiliyor. Yaklaşık yirmi yıllık bulut liderliğinden ve büyük ölçekli yapay zekâ sistemlerinin mimarisindeki eşsiz deneyimden yararlanarak, güvenli, güvenilir yapay zekâ altyapısını çoğu kuruluşun kendi başına yapabileceğinden daha hızlı bir şekilde devreye alabiliyor. Böylece yıllarca süren kurulum çabasından ve operasyonel karmaşıklığın yönetiminden tasarruf edilebiliyor.
AWS ve NVIDIA, müşteri yapay zekâ altyapısı dağıtımlarını hızlandırmak için iş birliğini genişletiyor
AWS ve NVIDIA arasındaki ilişki, dünyanın ilk GPU bulut sunucusunu (instance) kullanıma sundukları 15 yıl öncesine dayanıyor ve bugün müşterileri için en geniş GPU çözümleri yelpazesini sunuyorlar. Gelişmiş yapay zekâ altyapısı sunma konusundaki uzun soluklu bu iş birliğini temel alarak, AWS ve NVIDIA, müşterilerin büyük dil modellerini başka hiçbir yerde olmadığı kadar hızlı, ölçekli ve güvenli bir şekilde oluşturmasını ve çalıştırmasını artık kendi veri merkezlerinizde bile mümkün kılıyor. NVIDIA-AWS AI Factories entegrasyonu ile AWS müşterileri, yeni nesil yapay zekâ çözümleri oluşturmak için yüksek performans, verimlilik ve ölçeklenebilirlik sağlamak üzere NVIDIA hızlandırılmış bilgi işlem platformuna, uçtan uca NVIDIA yapay zekâ yazılım yığınına ve GPU ile hızlandırılmış binlerce uygulamaya sorunsuz bir şekilde erişebiliyor. Bu şekilde, AWS ve NVIDIA teknolojilerinin en iyilerini bir araya getirmeye devam ediyor. AWS Nitro Sistemi, Elastic Fabric Adapter (EFA) petabit ölçekli ağı ve Amazon EC2 UltraClusters, en son NVIDIA Grace Blackwell ve yeni nesil NVIDIA Vera Rubin platformlarını destekliyor. Gelecekte AWS, yeni nesil Trainium4 ve Graviton çiplerinde ve Nitro Sistemi’nde NVIDIA NVLink Fusion yüksek hızlı çip ara bağlantı teknolojisini de destekleyecek. Bu entegrasyon, müşterilerin pazara çıkış sürelerini hızlandırmalarını ve daha iyi performans elde etmelerini mümkün kılıyor.
NVIDIA Hiper Ölçek ve Yüksek Performanslı Hesaplama (HPC) Başkan Yardımcısı ve Genel Müdürü Ian Buck, konuyla ilgili olarak şunları söyledi:
“Büyük ölçekli yapay zekâ, gelişmiş GPU’lardan ve ağ altyapısından veri merkezinin her katmanını optimize eden yazılım ve servislere kadar uçtan ucabir yaklaşım gerektiriyor. AWS ile birlikte, tüm bunları doğrudan müşterilerin kendi ortamlarına uygun olacak şekilde sunuyoruz. NVIDIA’nın en son Grace Blackwell ve Vera Rubin mimarilerini AWS’in güvenli, yüksek performanslı altyapısı ve yapay zekâ yazılım yığınıyla birleştiren AWS AI Factories, kuruluşların güçlü yapay zekâ yeteneklerini çok kısa bir sürede kurmalarını sağlıyor ve entegrasyon yerine tamamen inovasyona odaklanmalarına olanak tanıyor.”
AWS, kamu sektörünün yapay zekâyı benimsemesini hızlandırmaya destek veriyor
AWS AI Factories, hükümetlerin en hassas iş yüklerini tüm sınıflandırma seviyelerinde güvenle çalıştırabilmelerini sağlayan AWS’in sıkı güvenlik standartlarını karşılayacak şekilde inşa edildi. Bu standartlar “Sınıflandırılmamış,” “Hassas,” “Gizli” ve “Çok Gizli” olmak üzere dört seviyeden oluşuyor. AWS AI Factories ayrıca, dünya genelindeki hükümetlere, kendi ekonomilerini ilerletmek ve yapay zekâ teknolojilerinin faydalarından yararlanmak için ihtiyaç duydukları erişilebilirliği, güvenilirliği, güvenliği ve kontrolü sağlayacak.
AWS ve NVIDIA, Suudi Arabistan merkezli tam yığın yapay zekâ yetenekleri inşa eden küresel şirket HUMAIN ile stratejik iş birliği yapıyor. AWS, Suudi Arabistan’da HUMAIN’in özel olarak inşa edilmiş bir veri merkezinde GB300 GPU’lar dahil 150.000’e kadar yapay zekâ çipini, özel AWS yapay zekâ altyapısını ve AWS yapay zekâ servislerini içeren, türünün ilk örneği bir “Yapay Zekâ Bölgesi” (AI Zone) inşa ediyor.
HUMAIN CEO’su Tareq Amin, konuyla ilgili olarak şunları söyledi:
“AWS’in yeni Yapay Zekâ Bölgemizde inşa ettiği AI Factory, HUMAIN ve AWS için çok gigawatt’lık bir yolculuğun başlangıcını temsil ediyor. Bu altyapı, kuruluşundan itibaren hızlanan yerel talebin yanı sıra küresel yapay zekâ bilgi işlem talebine de hizmet etmek üzere tasarlandı. Bu ortaklığı gerçekten farklı kılan şey, hırsımızın ölçeği ve birlikte çalışma şeklimizdeki inovasyon. AWS’i büyük ölçekte altyapı inşa etme deneyimleri, kurumsal düzeyde güvenilirlikleri, yapay zekâ yeteneklerinin genişliği ve bölgeye olan derin bağlılıkları nedeniyle seçtik. Küresel pazarın genişlemesine yönelik ortak bir taahhütle, yapay zekâ fikirlerinin tüm dünya için nasıl inşa edileceği, dağıtılacağı ve ölçekleneceği konusunda geleceği şekillendirecek bir ekosistem yaratıyoruz.”
Kaynak : 