Taylor Swift’ın yapay zeka ile üretilmiş sahte pornografik görüntüleri ortalığa ve özellikle X’e (Twitter) daha sonra Facebook ve Instagram’a saçılınca, ABD’li hem Cumhuriyetçi, hem de Demokrat milletvekilleri hemen acilen, “yapay zeka tarafından oluşturulan rıza dışı, cinsel görüntülerin yayılmasını” suç sayacak “Açık Sahte Görüntüleri ve Rıza Dışı Düzenlemeleri Engelleme Yasası”adıyla bir yasa tasarısı sundular.
Malum Taylor Swift, TIME Dergisi tarafından “Yılın Kişisi” seçildi. ABD’de popüler kültürün en fanatik hayran kitlesine (Swifties) sahip sanatçısı olarak tanımlanıyor. Her konseri ve şarkısı inanılmaz sayılarda satıyor.
Yasa, çıplak veya cinsel içerikli “dijital sahteciliklerde (deepfake)” tasvir edilen mağdurların, “sahteciliği dağıtmak amacıyla üreten veya bulunduran kişilere” veya materyali rızasıyla yapılmadığını bilerek alan kişilere karşı hukuki ceza talep etmelerine olanak tanıyacak. Rıza dışı, açık deepfake’lerin en yaygın gönderilerinden biri olarak tanımlanan sahte Taylor Swift görüntüleri, 45 milyondan fazla görüntülendi ve yüz binlerce beğeni aldı.
404 Media’nın haberine göre Swift’in görselleri muhtemelen Microsoft Designer kullanılarak yapıldı ve ilk olarak Telegram’da paylaşıldı . Microsoft, görüntülerin oluşturulmasına izin veren teknik boşluğu kapatmak için değişiklikler yaptı.
Musk Twitter’ı devir aldıktan sonra kapattığı bölümlerden ve işten çıkardığı çalışanlardan bir kısmı bu tür kötü içerikleri engellemekle görevliydi. Dolayısıyla Twitter üzerinde hızla yayılan görüntüleri önlemek, Sanatçının “Swifties” adıyla bilinen hayranlarına düştü. Siwfties, görsel aramalarını engellemek için X’i “Taylor Swift AI” ifadesini içeren tweet’lere ve performansına ait kliplerle doldurmaya başladı. Daha sonra X, görsellerin yayılmasını kontrol altına almak amacıyla Swift’e yönelik tüm aramaları yasakladı.
Yapay zekada son yıllarda yaşanan patlamanın bir ürünü olarak, gerçek kişilerin yapay zeka tarafından oluşturulmuş görüntüleri veya videoları, genellikle “deepfake” olarak bilinen içerikler internette giderek daha yaygın hale geldi. Bazı görüntüler tamamen yapay zeka ile oluşturuluyor. Diğer bazıları ise mevcut görüntülerin üzerinde edit yapılarak (kıyafetleri çıkarmak gibi) oluşturuluyor.