YouTube’un tartışmalı algoritması, Mozilla tarafından yayınlanan ve kitlesel kaynak ile oluşturulan 10 aylık bir araştırmaya göre, YouTube algoritması platformun kendi içerik politikalarını ihlal eden, rahatsız edici ve nefret söylemi içeren videolar öneriyor [1].
Araştırma ayrıca, İngilizce konuşulmayan ülkelerdeki kullanıcıların bu tür rahatsız edici videolarla karşılaşma olasılığının çok daha yüksek olduğunu buldu.
Mozilla bu araştırmayı, 38 bin YouTube kullanıcısını araştırmanın kaynağı haline getiren açık kaynaklı bir tarayıcı uzantısı olan RegretsReporter’ı [2] kullanarak gerçekleştirdi . İnsanlar gönüllü olarak verilerini bağışlayarak araştırmacıların YouTube’un öneri verileri havuzuna erişmesini sağladı. Araştırma, YouTube’un algoritmasına yönelik şimdiye kadarki en büyük kitlesel araştırmadır.
Araştırmada öne çıkan başlıklar arasında şunlar yer alıyor:
- Araştırma gönüllüleri, COVID korku tacirliğinden siyasi yanlış bilgilere ve son derece uygunsuz “çocuk” çizgi filmlerine kadar her şeyi bildiren bir dizi üzücü videoyla karşılaştı.
- Ana dili İngilizce olmayan ülkelerde bu üzücü videoların oranı %60 daha yüksek olduğundan, en çok İngilizce konuşulmayan dünya etkileniyor.
- Gönüllülerin şikayet ettiği tüm videoların %71’i YouTube’un kendi algoritması tarafından aktif olarak önerildi
- YouTube’un algoritmasının gönüllülere önerdiği yaklaşık 200 video, YouTube’un kendi politikalarını ihlal ettiğini düşündüğü birkaç video da dahil olmak üzere şimdi YouTube’dan kaldırıldı. Bu videolar kaldırılmadan önce toplam 160 milyon kez izlendi
Mozilla’nın Konuyla ilgili yöneticisi Brandi Geurkink şunları belirtti :
“YouTube’un algoritmalarının insanlara zarar verecek ve insanları yanlış bilgilendirecek şekilde tasarlandığını kabul etmesi gerekiyor. Araştırmamız, YouTube’un yalnızca kendi politikalarını ihlal eden videoları barındırmakla kalmayıp, ayrıca aktif olarak tavsiye ettiğini doğruluyor. Üstelik, YouTube’un kontrolden çıkmış öneri algoritmasının yükünü en çok İngilizce konuşamayan ülkelerdeki kişilerin üstlendiğini de biliyoruz.
Mozilla, buzdağının sadece görünen kısmı olan bu bulguların, halkı ve yasa koyucuları YouTube’un yapay zekasında daha fazla şeffaflık konusunda harekete geçmeye ikna edeceğini umuyor.”
Çalışma yoluyla toplanan veriler, YouTube’un algoritmasının zararlı, yanlış anlaşılan ve uygunsuz içeriği nasıl güçlendirdiğinin canlı bir resmini çiziyor:
Bir kişi ABD ordusuyla ilgili videoları izledikten sonra, kendisine “Bir adamın feministi aşağıladığı viral video” başlıklı kadın düşmanı bir video önerildi.
Başka bir kişi yazılım haklarıyla ilgili bir video izledi ve ardından silah haklarıyla ilgili bir video önerildi.
Üçüncü bir kişi de bir Art Garfunkel müzik videosunu izledi ve ardından “Trump Münazara Moderatörünün Derin Demokrat Bağlara Sahip Olduğu, Medya Yanlılığının KIRILMA Noktasına Ulaştığı” başlıklı oldukça sansasyonel bir siyasi video önerildi.
Araştırma, YouTube’un Topluluk Kurallarını ihlal edebilecek çok sayıda nefret söylemi, yanlış siyasi ve bilimsel yanlış bilgiler ve diğer içerik kategorilerini ortaya çıkarırken, aynı zamanda daha karmaşık bir çevrimiçi zarar tablosu çizen birçok örneği de ortaya çıkardı. Bildirilen videoların çoğu, YouTube’un “sınırda içerik” olarak adlandırdığı, Topluluk Kurallarını gerçekten ihlal etmeden “sınırları aşan” videolar kategorisine girebilir.
Raporda öne çıkan diğer noktalar ise şöyle:
Algoritma sorunu
- Önerilen videoları beğenmeme olasılığı, aranan videolardan %40 daha fazlaydı.
- YouTube’un algoritması tarafından önerilen birkaç kötü video daha sonra platformun kendi Topluluk Kurallarını ihlal ettiği için kaldırıldı. Önerilen kötü videoların yaklaşık %9’u o zamandan beri YouTube’dan kaldırıldı, ama 160 milyon toplu görüntüleme elde ettikten sonra.
- Mozilla’nın bir gönüllünün kendi araştırıp önce izlediği videolarla ilgili verilere sahip olduğu vakaların %43.6’sında, önerinin gönüllünün izlediği önceki videolarla tamamen ilgisi yoktu.
- Kötü videolar, gönüllüler tarafından izlenen diğer videolardan günde %70 daha fazla görüntüleme elde ettiği bildirilen videolar ile platformda son derece iyi performans gösterme eğiliminde.
YouTube’un algoritması insanlara eşit davranmıyor
- YouTube Kötü video önerisi, ana dili İngilizce olmayan ülkelerde %60 daha fazladır.
- Pandemi ile ilgili raporlar özellikle İngilizce dışındaki dillerde oldukça yaygındır. İngilizce kötü videoların %14’ü pandemi ile ilgilidir. İngilizce olmayan kötü videolar için oran %36’dır.
Sorunu çözmek için Mozilla araştırmacıları, politika yapıcılar ve platformlar için bir dizi düzeltme önermektedir. Geurkink şöyle diyor:
“Mozilla, YouTube’un öneri sorununu yalnızca teşhis etmek değil, daha ilerisi yani çözmek istiyor. Sağduyulu şeffaflık yasaları, daha iyi gözetim ve tüketici baskısı bu algoritmada hüküm sürmeye yardımcı olabilir.”
Araştırmanın önerileri ise şöyle:
- Platformlar, öneri algoritmaları hakkında bilgi içeren sık ve kapsamlı şeffaflık raporları yayınlamalıdır.
- Platformlar, kişilere kişiselleştirilmiş önerileri devre dışı bırakma seçeneği sunmalıdır.
- Platformlar, yapay zeka tavsiyesine ayrılmış risk yönetim sistemleri oluşturmalıdır.
- Politika yapıcılar, yapay zeka sisteminin şeffaflığını zorunlu kılan ve bağımsız araştırmacıları koruyan yasalar çıkarmalıdır.
[1] Mozilla : Youtube Regrets Report
[2] RegretsReporter
