Twitter’ın güvenlik başkan yardımcısı Del Harvey, platformdaki derin sahtekarlık (deep fake) mesajların yayılmasıyla ilgili yeni bir politika taslağı hazırladığını duyurdu [1]. Bu taslak konusunda da, kullanıcıların “geri bildirim” şeklinde yardım etmesi isteniyor [2].
“Sentetik ve manipüle edilmiş medya” veya derin sahtekarlık olarak adlandırılan taslak, insanların bu tür yanıltıcı içerikleri gördüğünde ne yapmaları gerektiğini anlatıyor.
Yeni politika, Twitter’ın değiştirilmiş içerik olarak tanımladığı şeyi paylaşan tweet’lerin yanına bir etiket eklemesini sağlayacak. Platform ayrıca, kullanıcıları bu tür etiketli medya içeren tweet’leri paylaşmadan veya beğenmeden önce uyaracak ve medyanın neden oluşturulduğunu açıklayan kaynaklara bağlantılar sağlayacak.
Alternatif olarak, kullanıcılar #TwitterPolicyFeedback hashtagini kullanarak tweet atabilecekler.
Harvey, sahte içeriğin birinin fiziksel güvenliğini tehdit edebileceğine veya başka ciddi zararlara neden olabileceğine işaret ediyor.
Twitter’ın derin sahtelkarlık hakkındaki kullanıcı geri bildirimlerini toplamaya çalışması, sosyal medya platformlarının, fabrikasyon içeriğin çevrimiçi yayılmasını önleme çabalarını artırması anlamına geliyor.
Facebook, Amazon ve Microsoft Eylül ayında, AI tarafından manipüle edilen videoları tespit edebilen bir teknolojiyi bulmak için 10 milyon dolarlık bir bütçeyle ortak bir DeepFake Tespit Yarışması’nda (DFDC) bir araya geldi .
DFDC tarafından belirlenen ana problem, derin sahtekarlık konusunda bir veritabanı bulunmaması olarak belirtildi. Sadece birkaç hafta sonra, Google AI kaynaklı derin fazları tespit etmek için tasarlanan sistemleri desteklemek amacıyla 28 oyuncu ile üretilmiş 3.000’den fazla videodan oluşan bir veri seti yayınladı .
Bu girişimler, sosyal medya platformlarının sahte içerik sorununu ele alma çabalarını artırdığını öne sürse de, derin yüzeyleri etkin bir şekilde tespit etmek için hala ileri bir yöntem olmadığını göstermektedir.
Twitter’ın deepfakes hakkındaki yeni politikasının geri bildirim süresi 27 Kasım’da GMT saat 11: 59’da kapanacak. Şirket, politikanın yürürlüğe girmesinden en az 30 gün önce başka bir duyuru yapacağını söyledi.
[1] Synthetic and Manipulated Media partnerships
Kaynak : 