OpenAI’ın içinden önemli hataları dışarıya açan muhbir Suchir Balaji’nin 26 Kasım’da San Francisco’daki apartmanında intihar ederek öldüğü bildiriliyor. Yetkililere göre cinayet olduğuna dair bir kanıt yok. Suchir Balaji, ChatGPT’nin arkasındaki kilit mimarlardan biriydi. OpenAI’nin eski ekip üyesi ve şirketin uygulamalarının eleştirmeni olan 26 yaşındaki kişinin trajik ölümü teknoloji dünyasını şaşırttı.
Suchir Balaji, ölümünden önce eski işvereni OpenAI de dahil olmak üzere yapay zeka şirketlerinin telif hakkıyla korunan verileri nasıl işlediklerine ilişkin derin hataları, etik ve yasal zorlukları ölümünden bir kaç ay önce raporlamıştı. Ekim ayında New York Times’a verdiği bir röportajda bunları anlatmıştı.
Ancak yetkililer, intihar tespitinin arkasında yapay zeka etiği ve yasallığı gibi karmaşık bir alandaki yoğun tartışmalara ve baskılara dikkat çekiyor.
Balaji, Yapay Zeka Eğitimlerinin Yasallığını ve Etikliğini Sorguluyordu
Balaji, 4 yılı aşkın bir süre çalıştıktan sonra OpenAI’daki işinden de telif hakkıyla korunan verileri izinsiz kullandıklarına inandığı için şirketten ayrılmıştı. OpenAI gibi şirketlerin yapay zeka modellerini eğitmek için internetten büyük miktarda veri toplamasını eleştirerek, mevcut telif hakkı yasaları kapsamında bu uygulamaların yasallığını ve etikliğini sorguluyordu.
Bu endişeler sonucunda Ağustos ayında OpenAI’dan ayrıldı. Balaji istifa ettikten sonra da bu konu hakkında konuşmaya devam etti. Özellikle, ölümünden sadece bir gün önce, bir mahkeme dosyasında, girişim aleyhine açılan bir telif hakkı davasında Balaji’nin adı yer alıyordu.
Suchir Balaji : Yapay Zeka Telif Hakkıyla Korunan Verilerin Kopyasını Çıkarıyor
New York Times’a konuşan Balaji, GPT-4 gibi sistemlerin eğitildikleri verilerin tam kopyalarını yaparak nasıl öğrendiklerini açıkladı. Balaji’nin endişeleri, yapay zeka eğitim süreçlerinin karmaşıklıklarını dile getirdiği bir makalede ayrıntılı olarak anlatıldı.
” Üretken modeller nadiren eğitim girdilerinden herhangi birine önemli ölçüde benzeyen çıktılar üretirken, üretken bir modeli eğitme süreci telif hakkıyla korunan verilerin kopyalarını çıkarmayı içerir.
Bu kopyalar yetkisizse, modelin belirli kullanımının ‘adil kullanım’ olarak nitelendirilip nitelendirilmediğine bağlı olarak, bu potansiyel olarak telif hakkı ihlali olarak değerlendirilebilir. Adil kullanım vaka bazında belirlendiğinden, üretken yapay zekanın genel anlamda ne zaman adil kullanım için nitelendirildiğine dair bir açıklama yapılamaz.”
Balaji açıklamasında daha büyük bir soruna da işaret etti: Yapay zeka teknolojileri giderek mevcut internet hizmetlerinin yerini aldıkça, araştırmacıların “halüsinasyon” adını verdiği bir olguya, sıklıkla yanlış veya bazen tamamen uydurma bilgiler üretiyorlar. İnternetin daha da kötüye gittiğini söyledi.
Ölümünün ardından tekrar ortaya çıkan son X gönderisinde şöyle yazmış :
“Başlangıçta telif hakkı, adil kullanım vb. hakkında pek bir şey bilmiyordum ancak GenAI şirketlerine karşı açılan tüm davaları gördükten sonra meraklandım. Sorunu daha iyi anlamaya çalıştığımda, sonunda adil kullanımın birçok jenerasyon AI ürünü için oldukça mantıksız bir savunma gibi göründüğü sonucuna vardım. Çünkü temel sebep, eğitildikleri verilerle rekabet edebilecek ikameler yaratabilmeleriydi.”
1 ay kadar önce yapay zeka şirketleri çalışanlarının, Amerikan Kongresinden “ihbarcı koruması” istediklerini de hatırlatalım.
Diğer yandan, OpenAI ve Microsoft, New York Times da dahil olmak üzere gazete ve medya yayıncılarından çeşitli davalarla karşı karşıya. Bu yayıncılar, üretken AI girişimini telif hakkı yasasını ihlal etmekle suçluyor. Yapay zeka alanının en önemli tartışma konularından birisi bu.
Kaynak : 