Bugün İngiltere’de önemli bir yapay zeka konferansı toplandı. 2022 kasımından itibaren yükselen yapay zeka tartışmalarında temel konulardan birisi “telif hakkı”, diğeri “yanlış bilgiler” ama Hint asıllı İngiliz başbakanın topladığı konferansın temel konusu “yapay zeka konusunda kıyamet günü senaryoları” idi.
Tam da böyle bir konuya değinelim. Yapay zeka ile görüntü oluşturmak mümkün bildiğiniz gibi ve Pedofililerin (Türkçedeki ifadesi ile sübyancıların), yapay zekayı kullanarak ünlülerin çocukkenki görüntülerini oluşturmaya çalıştıkları ortaya çıkmış durumda.
İnternet İzleme Vakfı (IWF), tanınmış bir kadın şarkıcının çocuk olarak yeniden canlandırılan görsellerinin bu tür insanlar tarafından paylaşıldığını söyledi. IWF CEO’su Susie Hargreaves şöyle diyor;
“Yapay zeka her geçen gün daha da karmaşıklaşıyor. Alarm ilan ediyoruz ve Başbakan’ın, bu yılın sonlarında yapılacak ilk küresel yapay zeka zirvesine ev sahipliği yaparken, bunun oluşturduğu ciddi tehdidi birinci öncelik olarak ele alması gerektiğini söylüyoruz.
Şu anda bu görüntüleri çok fazla görmesek de, suçluların benzeri görülmemiş miktarlarda gerçeğe yakın çocuk cinsel istismarı görüntüleri üretme potansiyelinin var olduğu açık. Bu, internet güvenliği ve çocukların çevrimiçi güvenliği açısından potansiyel olarak çok tehlikeli.
Yapay zekanın mevzuatının bu yeni tehdidin ışığında amaca uygun olarak geliştirilmesi gerekiyor.
Suçlular artık cinsel istismara maruz kalan çocukların bazen şaşırtıcı derecede gerçekçi görüntülerini üretmek için yapay zeka görüntü oluşturucularını kullanıyor. Bu materyalin daha fazlasının çevrimiçi olması interneti daha tehlikeli bir yer haline getiriyor.”
İngiliz İçişleri Bakanı Suella Braverman ve ABD İç Güvenlik Bakanı Alejandro Mayorkas, pedofililer tarafından yapay zeka kullanılarak üretilen, cinsel istismara uğrayan çocuklara ilişkin korkunç görüntülerdeki endişe verici artışla mücadele etme taahhüdünde bulunan ortak bir bildiri yayınladılar.
Darkweb’te Bir Tek Sitede 3.000 Yapay Zeka ile Oluşturulmuş Görüntü raporlandı
IWF’nin raporu, araştırmacıların bir ay boyunca tek bir darkweb çocuk istismarı web sitesinde yapay zeka görüntülerini kayıt altına alarak, İngiliz yasalarına göre yasa dışı sayılabilecek yaklaşık 3.000 yaratılmış görüntü bulduğunu ayrıntılarıyla anlatıyor.
Araştırmacılar, görüntü yazılımı kullanılarak, çoğunlukla kadın şarkıcıların ve film yıldızlarının çocuk gibi görünmesi için yaratılmış resimlerini bulmuş. Raporda hangi ünlülerin olduğu belirtilmedi.
Buldukları başka bir klasörde ise, cinsel istismara maruz kaldığında yaklaşık 9-10 yaşlarında olan gerçek bir mağdurun 501 fotoğrafı yer alıyordu. Araştırmacılar, bu alanda yeni trendin, tanınmış çocuk istismarı mağdurlarının tek fotoğraflarını çekerek, farklı cinsel istismar ortamlarında çok daha fazlasını yeniden yaratmak olduğunu söylüyor.
IWF, ünlülerin çocukluk görüntüleri de dahil olmak üzere bazı görüntülerin son derece gerçekçi olduğunu ve eğitimsiz gözler için ayırt edilemez olduğunu söylüyor.
IWF’nin CEO’su Susie Hargreaves, şöyle diyor;
“En kötü kabuslarımız gerçek oldu. Bu yılın başlarında, yapay zeka görüntülerinin yakında cinsel istismara uğrayan çocukların gerçek fotoğraflarından ayırt edilemeyeceği ve bu görüntülerin çok daha fazla sayıda çoğaldığını görmeye başlayabileceğimiz konusunda uyarmıştık. Artık bu noktayı geçtik.”
IWF raporu yapay zeka görüntülerinin gerçek dünyadaki zararını yineliyor. Her ne kadar içeriğin oluşturulması sırasında çocuklar doğrudan zarar görmese de, görüntüler bu tür sapık davranışları normalleştiriyor ve var olmayan çocukları araştırırken polisin kaynaklarını boşa harcayabiliyor.
IWF bugün toplanan yapay zeka konferansına sunmak üzere ekim ayında, karanlık ağ çocuk istismarı forumunda paylaşılan 11.108 yapay zeka görüntüsünü araştırmış.
- Bunlardan 2.978’inin İngiliz yasalarını ihlal eden görüntüler olduğu doğrulanmış.
- Bu görsellerin beşte birinden fazlası (564), en ciddi görüntü türü olan Kategori A olarak sınıflandırıldı.
- Bu görüntülerin yarısından fazlası (1.372) ilkokul çağındaki çocukları (yedi ila 10 yaş arası) tasvir ediyordu.
- Ayrıca 143 görselde 3-6 yaş arası çocuklar, 2 görselde de bebekler (2 yaş altı) yer aldı.
Bu arada başka bazı olaylar da tespit edilmiş. Örneğin, IWF, çıplaklık olmayan bir modellik ajansındaki fotoğraf çekimindeki fotoğrafları Kategori A cinsel istismar sahnelerine koymak için manipüle edilen iki kızın yüzlerce fotoğrafını bulmuş. Yani bu kızlar hiçbir zaman gerçekleşmemiş A Kategorisi suçların mağduru oldular.
Anlayacağınız yapay zeka yeni bir dünya getiriyor. Ama bu dünyadaki tehlikelerin beklenenin üzerinde olduğu korkuları çok fazla. O nedenle düzenlemelerin acilen yapılması gerekiyor.
Kaynak : 