Nature Machine Intelligence’ta yayınlanan araştırmaya göre, nöromorfik teknoloji, büyük derin öğrenme ağları için diğer yapay zekâ sistemlerine göre on altı kata kadar daha fazla enerji verimliliği sağlıyor.
TU Graz’ın Teorik Bilgisayar Bilimi Enstitüsü ve Intel Labs, büyük bir sinir ağının, nöromorfik donanım üzerinde çalışırken nöromorfik olmayan donanıma kıyasla dört ila on altı kat daha az enerji tükettiğini ve cümleler gibi dizileri işleyebileceğini ilk kez deneysel olarak gösterdi. Bu yeni araştırma, biyolojik beyinde bulunanlar gibi işlev gören yongalar oluşturmak için sinirbilimindeki içgörülerden yararlanan, Intel Labs’ın Loihi nöromorfik araştırma yongasına dayanıyor.
Araştırma, Avrupa genelinde insan beynini araştıran 500’den fazla biliminsanı ve mühendisle dünyanın en büyük araştırma projelerinden biri olan The Human Brain Project (İnsan Beyni Projesi – HBP) tarafından finanse edildi. Araştırmanın sonuçları Nature Machine Intelligence’ta “Memory for AI Applications in Spike-based Neuromorphic Hardware” (“Spike tabanlı Nöromorfik Donanımda Yapay Zeka Uygulamaları için Bellek” -DOI 10.1038/s42256-022-00480-w) başlıklı makalede yayınlandı.
Rol modeli olarak insan beyni
Dünya çapındaki yapay zekâ (AI) araştırmaları, nesneleri ve aralarındaki ilişkileri özerk olarak tanıyabilen ve anlayabilen akıllı makinelere ve zeki bilgisayarlara odaklanır. Enerji tüketimi ise, yapay zekâ yöntemlerinin daha geniş bir şekilde uygulanmasının önünde önemli bir engel teşkil ediyor. Nöromorfik teknolojinin doğru yönde atılmış bir adım olduğu umuluyor. Nöromorfik teknoloji, enerji kullanımı açısından son derece verimli olan insan beynini model alır. Yüz milyar nöron, bilgiyi işlemek için yalnızca yaklaşık 20 watt tüketime ihtiyaç duyar ve bu, ortalama bir enerji tasarruflu ampulün tüketiminden pek de fazla değildir.
Bu araştırmada, araştırmacılar zamansal süreçlerle çalışan algoritmalara odaklandılar. Örneğin, sistem daha önce anlatılan bir hikayeyle ilgili sorulara cevap vermek ve nesneler veya insanlar arasındaki ilişkileri bağlamdan anlamak zorundaydı. Test edilen donanımlar, 32 Loihi yongadan oluşuyordu.
Loihi araştırma yongası, nöromorfik olmayan donanımlara göre on altı kata kadar daha fazla enerji verimliliği sağlıyor
TU Graz Teorik Bilgisayar Bilimi Enstitüsü’nde doktora öğrencisi olan Philipp Plank, şöyle konuştu;
“Sistemimizin, konvansiyonel donanımlardaki diğer yapay zekâ modellerine göre dört ila on altı kat daha fazla enerji verimliliği sağladığı görüldü,”
Bu modeller, yongadan yongaya iletişim performansını büyük ölçüde artıran sonraki nesil Loihi donanımlarına taşındığından, Plank daha da fazla verimlilik kazancı bekliyor.
Intel’in Neuromorphic Computing Lab (Nöromorfik Bilgisayar Laboratuvarları) direktörü Mike Davies ise, şunları söyledi;
“Intel’in Loihi araştırma yongaları, özellikle yüksek enerji maliyetlerini düşürerek yapay zekâda kazanç sağlamayı vaat ediyor,” diyor ve şöyle ekliyor: “TU Graz ile yürüttüğümüz çalışma, nöromorfik teknolojinin, günümüzün derin öğrenme uygulamalarını biyolojik bir bakış açısıyla yeniden değerlendirerek enerji verimliliğini artırabileceğine ilişkin daha fazla kanıt sağlıyor.”
Kısa süreli insan hafızasını taklit etmek
Philipp Plank’ın Teorik Bilgisayar Bilimleri Enstitüsü’ndeki doktora danışmanı olan Wolfgang Maass’ın açıkladığı gibi, araştırmacılar nöromorfik ağlarda beynin varsayılan bir hafıza mekanizmasını yeniden yarattılar:
“Deneysel çalışmalar, insan beyninin, sinirsel aktivite olmadığında bile, özellikle nöronların ‘iç değişkenleri’ olarak bilinenlerde, kısa bir süre için bilgi depolayabildiğini gösterdi. Simülasyonlara göre, bu kısa süreli hafıza için nöronların bir alt kümesini içeren bir yorgunluk mekanizması gerekli.”
Bu iç değişkenler henüz ölçülemediğinden, doğrudan kanıt bulunmuyor. Ancak bu, ağın daha önce işlediği bilgileri yeniden oluşturmak için o sırada hangi nöronların yorulduğunu test etmesi gerektiği anlamına geliyor. Başka bir deyişle, geçmiş bilgiler, nöronların aktivitesizliğinde saklanır ve en düşük enerji aktivitesizlik durumunda tüketilir.
Tekrarlayan ve ileri beslemeli ağın simbiyozu
Araştırmacılar, bu amaçla iki tür derin öğrenme ağını ilişkilendirdi. Geribildirim sinir ağları, “kısa süreli hafıza”dan sorumlu. Tekrarlayan modüller olarak adlandırılan bu tür birçok modül, girdi sinyalinden olası ilgili bilgileri filtreliyor ve saklıyor. Ardından ileri bildirim ağı, mevcut görevi çözmek için hangi ilişkilerin önemli olduğunu belirliyor. Anlamsız ilişkiler taranarak atılıyor ve nöronlar yalnızca ilgili bilgilerin bulunduğu modüllerde etkinleşiyor. Ve bu süreç, sonunda enerji tasarruflarıyla sonuçlanıyor.
