Financial Times’a konuşan Açık Kaynak Girişimi (OSI) başkanı Stefano Maffulli, Meta’nın LLaMA modellerini “açık kaynak” olarak adlandırma kararının yanıltıcı ve kafa karıştırıcı olduğunu söyledi.
Maffulli, terimin yanlış kullanıldığını ve özellikle yapay zeka alanındaki açık kaynaklı teknolojinin gerçekte ne olduğu konusunda yanlış anlaşılmalara yol açabileceğini öne sürüyor. LLaMA modelleri popüler olsa da, kullanıcıların yapay zeka sistemiyle nasıl etkileşime girebileceğini ve onu nasıl değiştirebileceğini sınırlayan lisanslama koşulları var. Yani LLaMA tam olara açık kaynak değil.
Meta’nın yüz milyonlarca kez indirilen LLaMA modelleri, geliştiricilere OpenAI’nin GPT-4’ü gibi tescilli ekosistemlerin dışında büyük ölçekli yapay zeka sistemleriyle çalışma olanağı sunuyor. Ancak sorun, Meta’nın bunu açık kaynaklı olarak etiketlemesiyle ortaya çıkıyor, oysa gerçekte modeller sınırlamalarla geliyor; örneğin ticari kullanımda kısıtlamalar var.
Böyle bir lisansın, kısıtlanmamış erişim ve kullanım gerektiren OSI tarafından oluşturulan açık kaynak tanımına uymadığı görülüyor. Öte yandan, Meta’nın lisans anlaşmaları, özellikle ticari girişimler söz konusu olduğunda, kullanıcıların neler yapabileceği konusunda koşullar da getiriyor.
Maffulli için bu yalnızca teknik bir gözden kaçırma değil. Bu tür dil yanlış kullanımının nihayetinde daha geniş yapay zeka geliştirme ekosistemine zarar verebileceği ve daha erişilebilir, kullanıcı kontrollü yapay zeka sistemlerine doğru ilerlemeyi yavaşlatabileceği konusunda uyardı. Bunun OSI için yeni bir sorun olmadığını belirtmekte fayda var.
Meta’nın LLaMA modelleri “açık” olarak adlandırılırken, yapay zeka topluluğundaki bazı uzmanlar, örneğin Allen Institute for AI’dan Ali Farhadi, farklı bir terim öneriyor: “açık ağırlık.” Bu modeller, geliştiricilerin belirli bileşenlere (model ağırlıkları gibi) erişmesine izin vermesine rağmen, bağımsız geliştirme için gereken tam şeffaflığı sağlamıyor.
Geliştiriciler modelleri özgürce uyarlayamaz veya iyileştiremez, bu da bir zamanlar açık kaynaklı yazılımlarla mümkün olan deney türünü sınırlar. Farhadi, yapay zeka sistemlerinin yalnızca bulmacanın parçalarını sunmanın ötesine geçmesi gerektiğini savunuyor. Yapay zeka dünyasının evrimleşmesi için, bu modellerin nasıl oluşturulduğu ve eğitildiği konusunda tam şeffaflık esastır.
Meta, LLaMA için bir topluluk lisansı sunarak yapay zeka konusunda açık olduğunu iddia ediyor. Açıklığın yapay zekada daha fazla inovasyona ve güvenliğe yol açtığını düşünüyor. Şirket, topluluğu Code Llama’yı test etmeye, sorunları bulmaya ve düzeltmeye davet ediyor. Aslında, yapay zeka odaklı bir şirkete geçiş yaparken, CEO Mark Zuckerberg şirketin açık kaynak kimlik bilgilerini tartışmaya istekliydi .
Ancak Temmuz 2023 tarihli bir çalışma, Meta ve diğer şirketlerin yapay zeka modelleri hakkında gerçekten açık olmadıklarını söylüyor . Hollanda, Nijmegen’deki Radboud Üniversitesi’nden yapay zeka uzmanları tarafından yapılan çalışma, en güçlü yapay zeka LLM’lerinden bazılarının halktan gizlendiğini, çünkü onları eğiten kodun paylaşılmadığını gösteriyor.
Bu tartışma geliştirici erişiminin ötesine geçiyor. Avrupa Komisyonu gibi düzenleyici kurumlar, kullanıcı özerkliğini ve şeffaflığı destekleyen standartlar oluşturmayı umarak açık teknolojiler için baskı yaptı. Meta gibi şirketler yapay zekada “açık kaynak”ın ne anlama geldiğini yeniden tanımlarsa, bu düzenleyici çabalar baltalanabilir.
Kaynak : 