Science Advances tarafından yapılan araştırmaya göre, üretken yapay zeka tarafından oluşturulan dezenformasyon, insanlar tarafından yazılan dezenformasyondan daha inandırıcı olabiliyor. Araştırıcılara göre bunun nedeni yapay zeka modellerinin metni yapılandırma şekli.
Araştırma, insanların yapay zeka tarafından üretilen yanlış tweet’leri fark etme olasılığının, insanlar tarafından yazılanlara göre %3 daha az olduğunu buldu. Çalışmayı yöneten Zürih Üniversitesi’nden araştırmacı Giovanni Spitale, yapay zeka kaynaklı dezenformasyon sorununun büyümekte olduğunu ve bu nedenle farkın küçük olmasına rağmen endişe verici olduğunu söylüyor:
“Yapay zeka tarafından üretilen dezenformasyonun yalnızca daha ucuz ve daha hızlı değil, aynı zamanda daha etkili olması, bana kabuslar veriyor”
Araştırmacılar, farklı metin türlerine duyarlılığımızı test etmek için iklim değişikliği ve covid gibi yaygın dezenformasyon konularını seçti. Daha sonra OpenAI’nin büyük dil modeli GPT-3’ten 10 doğru tweet ve 10 yanlış tweet oluşturmasını istediler ve Twitter’dan hem doğru hem de yanlış tweet’lerden rastgele bir örnek topladılar.
Daha sonra, tweet’lerin yapay zeka tarafından mı oluşturulduğu yoksa Twitter’dan mı toplandığı ve bunların doğru olup olmadığı ya da dezenformasyon içerip içermediğini değerlendiren çevrimiçi bir testi tamamlamaları için 697 kişiye sordular. Katılımcıların yapay zeka tarafından yazılanlara göre insanlar tarafından yazılan yanlış tweetlere inanma olasılığının %3 daha az olduğunu buldular.
Araştırmacılar, insanların yapay zeka tarafından yazılan tweet’lere inanma olasılığının neden daha yüksek olabileceğinden emin değiller. Ancak Spitale’e göre, GPT-3’ün bilgileri toplama şeklinin bununla bir ilgisi olabilir.
“GPT-3’ün metni, organik [insan tarafından yazılmış] metinle karşılaştırıldığında biraz daha yapılandırılmış olma eğilimindedir. Ama aynı zamanda yoğun, bu yüzden işlenmesi daha kolay.”
Üretken yapay zeka patlaması, herkesin eline güçlü, erişilebilir yapay zeka araçları veriyor. Bunların arasında kötü niyetli insanlar da olabilir. GPT-3 gibi modeller, komplo teorisyenleri ve dezenformasyon kampanyaları için hızlı ve ucuz bir şekilde yanlış anlatılar oluşturmak için kullanılabilecek ikna edici görünen yanlış metinler üretebilir. Sorunla savaşacak silahlar – yapay zeka metin algılama araçları – hala geliştirmenin ilk aşamalarında ve birçoğu tam çalışmıyor.
OpenAI, yapay zeka araçlarının büyük ölçekli dezenformasyon kampanyaları üretmek için silah haline getirilebileceğinin farkında. Ocak ayında “büyük dil modellerinin asla dezenformasyon oluşturmak için kullanılmamasını sağlamanın neredeyse imkansız olduğu” uyarısında bulunan bir rapor yayınladı.
Ancak şirket, dezenformasyon kampanyalarının etkisini abartma konusunda da dikkatli olunmasını istedi. OpenAI’nin raporunun yazarları, yapay zeka tarafından üretilen gerçek olmayan içerikten en büyük risk altındaki popülasyonları ve ayrıca AI model boyutu ile çıktısının genel performansı veya ikna ediciliği arasındaki ilişkiyi belirlemek için daha fazla araştırmaya ihtiyaç olduğunu söylüyor.
Kaynak : 