Amerikalı şarkıcı Taylor Swift’in deepfake porno fotoğrafları internette viral hale geldiğinde, yapay zekanın kötüye kullanımı tartışmaları açısından yeni bir cephe açılmış oldu. Ama bir yandan da bu görüntülerin yaratılmasına neden olan yapay zeka yazılımındaki açığın yamalandığı bildiriliyor.
Telegram anlık mesajlaşma platformu üzerinde yapılan tartışmalarda, Swift’in müstehcen görüntülerini oluşturmak için “Designer AI” yazılımının kullanıldığı iddia edilince, Microsoft yazılımda değişiklikler yaptı.
Telegram grubunda ve 4Chan platformundaki üyelere, bu tür görüntüleri oluşturmak için Microsoft’un Designer AI adı verilen yapay zeka görüntü oluşturucusunu kullanmalarını tavsiye edildi ve Microsoft’un uygulamaya koyduğu korumaları atlatmaya yardımcı olacak bilgiler de paylaşılıyordu. Hatta görsellerin yer aldığı 4chan başlığı aynı zamanda Microsoft’un Designer AI’sinde müstehcen görseller oluşturmasını sağlayacak talimatları da içeriyordu.
Microsoft, insanların müstehcen görseller oluşturmasını engellemek için bloklar oluştursa da, kullanıcılar, doğrudan ad kullanmak yerine, adları yanlış yazarak veya cinsel eylemleri tanımlayarak bu engeli aştılar. Swift’in deep fake görsellerinin Twitter’da viral hale gelmesinden önce, Telegram grubundaki bir kullanıcı, üyelerin görsel oluşturmak için “Taylor ‘şarkıcı’ Swift” ifadesini kullanmalarını tavsiye etmişti.
Microsoft, 404 Media’ya yaptığı açıklamada Taylor Swift’in görsellerini oluşturmak için Designer Yapay Zeka’nın kullanıldığına dair kanıt bulamadığını belirtti. Sözcü ayrıca şunları belirtti :
“Davranış Kurallarımız, araçlarımızın yetişkinlere yönelik veya rıza dışı mahrem içerik oluşturmak için kullanılmasını yasaklar ve politikalarımıza aykırı içerik üretmeye yönelik tekrarlanan girişimler, hizmete erişimin kaybıyla sonuçlanabilir. Sistemin kötüye kullanımını azaltmak ve kullanıcılar için daha güvenli bir ortam oluşturmaya yardımcı olmak amacıyla içerik filtreleme, operasyonel izleme ve kötüye kullanım tespiti de dahil olmak üzere sorumlu yapay zeka ilkelerimiz doğrultusunda korkulukların ve diğer güvenlik sistemlerinin geliştirilmesi üzerinde çalışan büyük ekiplerimiz var.”
404 medyası, araştırması yayınlandıktan sonra Microsoft’un bu açığı kapattığını ve anahtar kelime bloğunu aşmak için aynı istemleri veya aşamaları kullanmanın artık Designer AI’da işe yaramadığını belirtti. Ancak Telegram’ın henüz bir adım atmadığını, söz konusu kanalların aktif olduğunu ve ünlülerin derin sahte açık görüntülerini oluşturmak için diğer AI hizmetlerinden yararlanmanın yollarını aradıklarını da belirttiler. Sadece bu da değil, 4chan’daki kullanıcılar Bing ve Designer yasağını aşmanın başka yollarını bulduklarını da belirttiler.
Federal Ticaret Komisyonu’nun (FTC) üretken yapay zeka şirketlerine yaptığı yatırım nedeniyle Microsoft hakkında soruşturma başlattığını duyurması nedeniyle bu haber Microsoft için kötü bir zamanda geldi .
Kaynak : 