Elon Musk ve 1300’den fazla teknoloji lideri, açık bir mektup yayınlayarak, Yapay Zeka laboratuvarlarını insan seviyesindeki zeka ile rekabet edebilecek sistemlerin geliştirilmesini durdurmaya çağırdı.
Future of Life Enstitüsü sayfalarında yayınlanan açık mektupta , Elon Musk ve Apple Kurucu ortak Steve Wozniak başta olmak üzere 1400’e (sayı artıyor) yakın teknoloji lideri, yapay zeka laboratuvarlarına, ABD merkezli OpenAI tarafından geliştirilen büyük dil modeli yazılımının en son sürümü olan GPT-4′ten daha güçlü modellerin eğitimini durdurmaları çağrısında bulundu. Şunları yazdılar;
″Çağdaş yapay zeka sistemleri artık genel görevlerde insanlarla rekabet edebilir hale geliyor ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz?
Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zekice üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?
Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir.”
The Future of Life Institute, merkezi Cambridge, Massachusetts’te bulunan ve yapay zekanın sorumlu ve etik gelişimi için kampanyalar yürüten, kar amacı gütmeyen bir kuruluş. Kurucuları arasında MIT kozmolog Max Tegmark ve Skype’ın kurucu ortağı Jaan Tallinn yer alıyor. Örgüt daha önce de ölümcül otonom silah sistemleri geliştirmemeye yönelik söz almıştı.
Enstitü, tüm AI laboratuvarlarını “GPT-4′ten daha güçlü AI sistemlerinin eğitimini en az 6 ay boyunca derhal duraklatmaya” çağırdığını söyledi. ChatGPT, lansmanından sadece iki ay sonra aylık 100 milyon aktif kullanıcı topladı ve bu da onu tarihteki en hızlı büyüyen tüketici uygulaması haline getirdi.
Teknoloji, internetten gelen büyük miktarda veri üzerinde eğitildi ve William Shakespeare tarzındaki şiirlerden mahkeme davaları hakkında yasal görüşlerin taslağına kadar her şeyi yaratmak için kullanıldı. Ancak yapay zeka etik uzmanları, intihal ve yanlış bilgilendirme gibi teknolojinin olası suiistimallerine ilişkin endişelerini de dile getirdi.
Future of Life Institute mektubunda, teknoloji liderleri ve akademisyenler, insan-rekabetçi zekaya sahip AI sistemlerinin “toplum ve insanlık için derin riskler” oluşturduğunu söyledi.
“AI araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye yeniden odaklanmalıdır”
Musk daha önce yapay zekanın medeniyet için “en büyük risklerden” birini temsil ettiğini düşündüğünü söylemişti. Musk, OpenAI’yi 2015 yılında Sam Altman ve diğerleriyle birlikte kurdu, ancak 2018′de OpenAI’nin yönetim kurulundan ayrıldı ve artık şirkette bir hissesi yok. Son zamanlarda asıl amacından saptığına inandığını da söyledi.
Düzenleyiciler, teknoloji hızlı bir şekilde ilerlerken yapay zeka araçlarını kontrol altına almak için de yarışıyor. Çarşamba günü Birleşik Krallık hükümeti, mevcut yasaları uygulayarak kendi sektörlerinde AI araçlarının kullanımını denetlemek için farklı düzenleyicilere erteleyerek AI hakkında bir beyaz kitap yayınladı .
Enstitünün açık mektubunu aşağıda okuyabilirsiniz.
Kaynak : 