Meta, operasyonlarındaAWS Gravitonişlemcilerini geniş ölçekte kullanmaya başlamak üzere AWS ile yeni bir anlaşma imzaladı. Bu anlaşma, Meta’nın yeni nesil yapay zekâ teknolojisini geliştirirken iki şirket arasındaki uzun soluklu iş birliğinin de önemli ölçüde büyüdüğünü gösteriyor.
On milyonlarca çekirdeğin devreye alınmasıyla başlayan bu süreçte, Meta’nın yapay zekâ kabiliyetleri geliştikçe kapasite esnek bir şekilde artırılabilecek. Bu anlaşma yapay zekâ altyapısında yaşanan devrim niteliğindeki bir değişimi de simgeliyor: Büyük modellerin eğitilmesinde GPU’lar hala hayati önem taşısa da yapay zekâ aracılarının yükselişi, gerçek zamanlı akıl yürütme, kod yazma, arama ve çok adımlı görevlerin yönetimi gibi CPU gücü gerektiren alanlarda büyük talep yaratıyor. Tam olarak bu tür yoğun iş yükleri için özel olarak tasarlanan Graviton5, Meta’ya yüksek verimlilik ve ölçeklenebilirlik sunuyor.
Yeni çipler, Meta’da şirketin yapay zekâ çalışmalarını desteklemek de dahil olmak üzere çeşitli iş yüklerini yürütecek. Bu çalışmalar, tam olarak bu şekilde yoğun CPU kullanımı gerektiren işler için tasarlanmış Graviton gibi, karmaşık ve çok aşamalı aracı iş akışlarını koordine ederken milyarlarca etkileşimi yönetebilen bir altyapı gerektiriyor.
Yapay zekâ iş yüklerini destekleyen AWS Graviton çipleri
Kuruluşlar, akıl yürütebilen, plan yapabilen ve karmaşık görevleri tamamlayabilen otonom sistemler olan yapay zekâ aracılarını giderek daha fazla benimsedikçe, yüksek performanslı ve enerji verimli bilgi işlem altyapısına olan talep hiç olmadığı kadar artıyor. Yapay zekâ aracıları alanında ön saflarda yer alan Meta’nın, Graviton’u geniş kapsamda kullanması ise kod üretimi, gerçek zamanlı akıl yürütme ve ileri düzey model eğitimi gibi aracı tabanlı iş yüklerinin yoğun CPU kullanımı gerektirdiği ve bu iş yüklerini yönetmenin en verimli yolunun amaca özel çipler olduğu gerçeğini açıkça ortaya koyuyor.
192 çekirdeğe ve önceki nesle kıyasla beş kat daha büyük bir önbelleğe sahip olan Graviton5 çipi, çekirdekler arası iletişim gecikmesini %33’e kadar azaltıyor. Bu da sürekli akıl yürütmesi gereken yapay zekâ aracıları için daha hızlı veri işleme ve daha yüksek bant genişliği anlamına geliyor.
Graviton, yüksek performans, yüksek erişilebilirlik ve yüksek güvenlik sunmak için özel donanım ve yazılım kullanan AWS Nitro System üzerine inşa edildi. Nitro System, donanıma doğrudan erişim sağlayan bare-metal örnekleri mümkün kılarken, tanıdık Elastic Network Adapter (ENA) ve Amazon Elastic Block Store (Amazon EBS) desteği sayesinde Meta’nın performans kaybı olmadan kendi sanal makinelerini çalıştırmasına olanak tanıyor.
Graviton5 örnekleri yelpazesi, örnekler arasında düşük gecikmeli ve yüksek bant genişliğine sahip iletişimi mümkün kılan Elastic Fabric Adapter (EFA) özelliğini de destekliyor. Bu özellik, büyük ölçekli görevlerin koordineli bir şekilde çalışan çok sayıda işlemciye dağıtılması gereken yapay zekâ aracılarının iş yükleri için büyük önem taşıyor.
Uzun süredir AWS müşterisi olan Meta, küresel operasyonlarını yürütmek için AWS’in yüksek ölçeklenebilirlik ve güvenlik sunan bulut altyapısını tercih ediyor.
Amazon Başkan Yardımcısı ve saygın mühendislerinden biri olan Nafea Bshara şöyle dedi:
“Bu sadece çiplerle ilgili değil; müşterilere milyarlarca insanı anlayan, beklentileri öngören ve verimli bir şekilde ölçeklenen bir yapay zekâ inşa etmeleri için veri ve çıkarım hizmetlerinin yanı sıra altyapı temeli sunmakla ilgili. Meta’nın on milyonlarca Graviton çekirdeğini devreye alarak genişlettiği bu ortaklık, özel amaçlı silikonu tam AWS yapay zekâ yığınıyla birleştirdiğinizde yeni nesil yapay zekâ aracılığına nasıl güç verebileceğinizi gösteriyor.”
Meta Altyapı Başkanı Santosh Janardhan ise şunları söyledi:
“Meta’nın yapay zekâ hedeflerinin arkasındaki altyapıyı ölçeklendirirken, işlem kaynaklarımızı çeşitlendirmek stratejik bir zorunluluk. AWS yıllardır güvenilir bulut ortağımız ve Graviton kullanımımızı genişletmek, yapay zekâ aracılarının arkasındaki yoğun CPU kullanımı gerektiren iş yüklerini ihtiyaç duyduğumuz performans ve verimlilikle çalıştırmamıza olanak tanıyor.”
Graviton’un enerji verimliliği avantajları
AWS Graviton5, daha küçük ve daha verimli işlemciler üreten 3 nanometre çip teknolojisiyle geliştirildi. AWS, çiplerini sıfırdan tasarlayıp çip tasarımından sunucu mimarisine kadar tüm süreci kontrol ettiği için performans ve verimliliği, hazır işlemcilerin ulaşamayacağı düzeyde optimize edebiliyor.
Sonuç olarak ortaya çıkan altyapı, güçlü performans sunarken aynı zamanda lider enerji verimliliğini koruyor ve bu da Meta’nın iddialı yapay zekâ hedeflerini sürdürürken sürdürülebilirlik hedeflerine bağlı kalmasına yardımcı oluyor. Graviton5, önceki nesle kıyasla %25’e kadar daha iyi performans sağlıyor.
Yapay zekâ için bilgi işlem talebi sektör genelinde arttıkça, altyapının verimliliği hem maliyetleri yönetmek hem de çevresel etkiyi azaltmak açısından giderek daha önemli hale geliyor.
Bu anlaşma, büyük ölçekli yapay zekâ altyapısının nasıl inşa edildiğine dair yeni bir dönemi ve Graviton gibi özel amaçlı çiplerin Meta gibi şirketlerin dünya çapında milyarlarca insana daha akıllı, daha kişiselleştirilmiş deneyimler sunmasına nasıl yardımcı olabileceğini gösteriyor.
Kaynak : 