Google ayrıntılarını bugün yayınladığı yapay zeka süper bilgisayarlarından birinin Nvidia sistemlerinden daha hızlı ve daha verimli olduğunu söyledi.
Nvidia 10.000 $’lık çipleri ile yapay zeka pazarının % 90’ını kapsıyor. Google ise, Tensör İşleme Birimleri veya TPU’lar adı verilen yapay zeka yongaları 2016’dan bu yana tasarlıyor. Gerçi son 10 yılda en önemli yapay zeka ilerlemelerinin arkasında Google var ama icatlarını ticarileştirme konusunda geride kaldığı düşünülüyor.
Nvidia’nın A100 yongalarını kullanan ChatGPT’si ya da Google’un Bard’ı, modelleri eğitmek için birlikte çalışmak için çok sayıda bilgisayar ve yüzlerce veya binlerce yonga gerektirir ve bilgisayarlar haftalarca veya aylarca aralıksız çalışır. Ama Google, yapay zeka modellerini çalıştırmak ve eğitmek için tasarlanmış özel bileşenlerle birleştirilmiş 4.000′den fazla TPU’dan oluşan bir sistem oluşturduğunu söyledi. 2020′den beri çalışıyor ve OpenAI’nin GPT modeliyle rekabet eden Google’ın PaLM modelini 50 gün boyunca eğitmek için kullanıldı.
Google araştırmacıları, Google’ın TPU v4 adlı TPU tabanlı süper bilgisayarının “Nvidia A100′den 1.2x–1.7x daha hızlı ve 1.3x–1.9x daha az güç kullandığını” yazdı.
Google araştırmacıları şöyle yazdılar :
“Performans, ölçeklenebilirlik ve kullanılabilirlik, TPU v4 süper bilgisayarlarını büyük dil modellerinin işgücü haline getiriyor.”
Ancak Google araştırmacıları, Google’ın TPU sonuçlarının en son Nvidia AI çipi olan H100 ile karşılaştırılmadığını çünkü daha yeni olduğunu ve daha gelişmiş üretim teknolojisiyle yapıldığını söyledi.
MLperf adlı endüstri çapında bir AI çip testinin sonuçları ve sıralamaları bugün yayınlandı. Nvidia CEO’su Jensen Huang, en yeni Nvidia çipi olan H100′ün sonuçlarının önceki nesle göre önemli ölçüde daha hızlı olduğunu söyledi.
“Bugünün MLPerf 3.0′ı, A100′den 4 kat daha fazla performans sağlayan Hopper’ı öne çıkarıyor. Üretici yapay zekanın bir sonraki seviyesi, Büyük Dil Modellerini büyük enerji verimliliğiyle eğitmek için yeni yapay zeka altyapısı gerektiriyor.”
Yapay zeka için gereken önemli miktarda bilgisayar gücü pahalı. Bu nedenle de sektördeki birçok kişi, gereken bilgisayar gücü miktarını azaltan yeni yongalar, optik bağlantılar gibi bileşenler veya yazılım teknikleri geliştirmeye odaklanıyor.
Kaynak : 