OpenAI, son üç ay içinde, gerçek kimliklerini gizleyerek kamuoyunu manipüle etmeye veya siyasi sonuçları şekillendirmeye çalışmak için ChatGPT kullandığı belirtilen Çin, Rusya, İran ve İsrail’deki ağlar da dahil olmak üzere beş gizli etki operasyonunu durdurduğunu açıkladı.
OpenAI, bulgularında etki ağlarının insanları daha iyi kandırmak için araçlarını nasıl kullandığını sıraladı; buna yapay zekanın daha büyük hacimli ve daha az dil hatasıyla tek başına insanların mümkün olabileceğinden daha az metin ve görüntü oluşturmak için kullanılması da dahil. Ancak bu kampanyaların OpenAI hizmetlerinin kullanılması sonucunda erişimlerini arttırmada başarısız olduklarını da ekledi.
OpenAI’nin İstihbarat ve Soruşturmalar ekibinin baş araştırmacısı Ben Nimmo, Çarşamba günü düzenlediği basın toplantısında,
“Geçtiğimiz bir buçuk yıl boyunca, etkileme operasyonlarının üretken yapay zeka kullanması durumunda ne olabileceğine dair birçok soru vardı. Bu raporla gerçekten bazı boşlukları doldurmaya başlamak istiyoruz.”
Şirket, hedeflerini “arkasındaki aktörlerin gerçek kimliğini veya niyetlerini açığa vurmadan kamuoyunu manipüle etmeye veya siyasi sonuçları etkilemeye yönelik aldatıcı girişimler” olan gizli “etkileme operasyonları” olarak tanımladığını söyledi.
Nimmo, bu grupların dezenformasyon ağlarından farklı olduğunu, çünkü çoğu zaman gerçeklere dayalı doğru bilgileri aldatıcı bir şekilde sunduklarını söyledi. Propaganda ağları uzun süredir sosyal medya platformlarını kullanıyor olsa da üretken yapay zeka araçlarını kullanmaları nispeten daha yeni.
OpenAI, tespit ettiği tüm operasyonlarda, yapay zeka tarafından üretilen materyallerin, büyük sosyal medya sitelerindeki manuel olarak yazılan metinler veya memler gibi daha geleneksel formatların yanı sıra kullanıldığını söyledi.
Bazı nüfuz ağları, görseller, metinler ve sosyal medya biyografileri oluşturmak için yapay zekayı kullanmanın yanı sıra, makaleleri özetleyerek veya botlar için kodlarda hata ayıklama yaparak üretkenliklerini artırmak için OpenAI ürünlerini de kullandı.
OpenAI tarafından belirlenen beş ağ, Rusya yanlısı “Doppelganger”, Çin yanlısı “Spamouflage” ağı ve Uluslararası Sanal Medya Birliği (IUVM) olarak bilinen İran operasyonu gibi grupları içeriyordu. OpenAI ayrıca Rusya ve İsrail’den geldiğini ilk kez tespit ettiğini söylediği daha önce bilinmeyen ağları da açıkladı.
Şirket, OpenAI’nin “Kötü Dilbilgisi” olarak adlandırdığı yeni Rus grubunun, içerik spam hattı oluşturmak için startup’ın yapay zeka modellerinin yanı sıra mesajlaşma uygulaması Telegram’ı kullandığını söyledi. Gizli grup, ilk olarak Telegram’da paylaşım yapmayı otomatikleştirebilen koddaki hataları ayıklamak için OpenAI modellerini kullandı, ardından düzinelerce hesap kullanarak bu Telegram gönderilerine yanıt vermek için Rusça ve İngilizce yorumlar oluşturdu.
OpenAI, yorumların “Bir yapay zeka dil modeli olarak yardımcı olmak için buradayım” gibi yaygın yapay zeka hata mesajları içerdiğini belirterek yapay zeka tarafından oluşturulan içeriklerin bir kısmını belirledi. Şirket ayrıca bu tür etki operasyonlarını tespit etmek ve bunlara karşı savunma yapmak için kendi yapay zeka araçlarını kullandığını da belirtti.
Çoğu durumda, ağların mesajları çok ilgi görmüyor ya da insan kullanıcılar yayınlanan içeriğin yapay zeka tarafından oluşturulduğunu anlayabiliyor. Nimmo, sınırlı erişime rağmen “şimdi rehavete kapılmanın zamanı değil” dedi. Nimmo ayrıca şirketin bilmediği yapay zeka araçlarını kullanan grupların bulunduğunu da kabul etti.
Nimmo, “Orada hâlâ kaç operasyon olduğunu bilmiyorum” dedi. “Fakat ekibimiz de dahil olmak üzere onları arayan pek çok insanın olduğunu biliyorum.” Meta Platforms Inc. gibi diğer şirketler geçmişte de etkileme operasyonları hakkında düzenli olarak benzer açıklamalarda bulunmuştu.
OpenAI, tehdit göstergelerini sektördeki meslektaşlarıyla paylaştığını ve raporunun amacının bir kısmının da başkalarının bu tür tespit çalışmaları yapmasına yardımcı olmak olduğunu söyledi. Şirket gelecekte daha fazla rapor paylaşmayı planladığını söyledi.
Bu yıl başta ABD olmak üzere pek çok ülkede seçimler var. Bu nedenle Yapay zeka ile kampanya yaratma konusu daha önemli.
Kaynak : 