ABD’li sosyal medya Reddit’teki yapay zekâ destekli botların insan gibi davranarak kullanıcıları kandırdığı ve manipüle ettiği olaylar yaşandığı raporlandı. Bu tür olaylar, yapay zekâ teknolojilerinin etik sınırlarını ve çevrimiçi platformlardaki güvenliği sorgulatıyor. Yapılan bir deneyde, araştırmacılar Reddit’te tecavüz kurbanı ve benzeri sorunlara sahip gibi görünen botların 1000’den fazla gönderide fikirleri değiştirmede etkili olduğunu söylüyor.
Bir örnek olarak, GPT-3 dil modeli kullanılarak oluşturulmuş ve “thegentlemetre” kullanıcı adıyla Reddit’te faaliyet gösteren bir bot, bir hafta boyunca insan kullanıcıları kandırabilmiş. Bu bot, AskReddit ve AskScience gibi forumlarda çeşitli konularda gönderiler paylaşmış ve bazıları yüzlerce like almış. Botun gerçek kimliği, bir kullanıcının gönderi sıklığını ve uzunluğunu fark etmesiyle ortaya çıkmış.
Reddit’teki deneyde ise sempati kazanmak için kurban gibi davranan botlar cinsel şiddet, kürtaj ve cinsiyet sorunları hakkındaki tartışmalarda tecavüz mağduru gibi davranan yapay zeka tarafından oluşturulmuş hesaplar kullandılar. Botlar, otantik görünmek için duygusal olarak yüklü bir dil kullandılar ve etkileşimi artırdılar.
r/TwoXChromosomes ve r/MensRights gibi alt dizinlerde botlar, anlatıları güçlendirerek veya çeliştirerek tartışmaları değiştirdiler. Botlarla etkileşim kuran kullanıcılar, özellikle politik olarak yüklü konularda duruşlarında istatistiksel olarak önemli değişiklikler gösterdi.
Deney, Reddit’in izni veya katılımcıların bilgisi olmadan yürütüldü ve etik araştırma normlarını ihlal etti. Bazıları bunun sadece araştırma değil, psikolojik manipülasyona da girdiğini savunuyor. Eleştirmenler bunu Facebook’un 2014 ruh hali manipülasyon çalışmasıyla karşılaştırıyor, ancak çok daha riskli sonuçlarla karşı karşıyayız.
- Yapay Zeka Destekli Dezenformasyon – Yapay zekanın duyguları ve inançları büyük ölçekte etkili bir şekilde manipüle edebileceğini kanıtlıyor.
- Travmanın İstismarı – Fikirleri etkilemek için sahte cinsel saldırı hikayeleri kullanmak son derece etik dışıdır.
- Hiçbir Koruma Önlemi Yok – Düzenlenmiş platformların (örneğin, Meta’nın denetimi) aksine, Reddit’in açık forumları bu tür deneylere karşı savunmasız.
Daha Geniş Sonuçlar
- Yapay Zeka Yanlış Bilgi Savaşları – Kötü aktörler seçimlerde, komplo teorilerinde veya radikalleşmede benzer taktikler kullanabilir.
- Düzenlemeye İhtiyaç – Yapay zeka tarafından oluşturulan kişiler travma tartışmalarında yasaklanmalı mı?
- Platform Sorumluluğu – Reddit (ve diğerleri) bu tür manipülasyonları tespit edip engellemeli mi?
Bu tür olaylar, yapay zekâ teknolojilerinin etik kullanımı ve çevrimiçi platformlardaki güvenlik açısından ciddi endişelere yol açıyor. Yapay zekâ destekli botların insanları kandırarak manipüle etmesi, bilgi güvenliği, kullanıcı gizliliği ve platformların güvenilirliği açısından riskler taşıyor.
Bu tür durumlarla karşılaşmamak için kullanıcıların çevrimiçi platformlarda dikkatli olması, şüpheli aktiviteleri bildirmesi ve platformların da bot tespiti için gelişmiş algoritmalar kullanması gerekli. Ayrıca, yapay zekâ teknolojilerinin etik kullanımına yönelik düzenlemelerin ve denetimlerin artırılması da hep konuşulan konular arasında.
Kaynak : 