Microsoft bugün deepfake’lerle savaşmak için iki yeni bilgisayar programı duyurdu. Şirket, yeni uygulamalarının genellikle tespit edilmesi zor olan manipüle edilmiş videoları tanımlayabileceğini ve insanlara baktıkları medyanın gerçek olup olmadığını söyleyebileceğini söyledi.
Microsoft, yeni teknolojisini Azure sunucu teknolojisine içine dahil edileceğini söyledi. İçerik oluşturucular, videolarının “karma” parmak izlerini Microsoft’a gönderebilecek ve bu da daha sonra insanların medyanın manipüle edilip edilmediğini belirlemelerine yardımcı olacak.
Müşteri güvenlikten sorumlu kurumsal başkan yardımcısı Tom Burt ve baş bilim sorumlusu Eric Horvitz, blog mesajında şöyle yazdı[1] :
“Dezenformasyon birçok şekilde gelir ve hiçbir teknoloji, insanların neyin doğru ve doğru olduğunu deşifre etmesine yardımcı olma zorluğunu çözemez.”
Şirket ayrıca, insanları SpotDeepfakes.org adlı deepfake’leri tanımlamaya davet eden bir tür çevrimiçi oyun yarattı [2].
DeepFakes giderek daha yüksek risk haline gelmiş durumda. Microsoft’un bu konudaki çalışması o nedenle önemli. Deep Fakes özellikle siyasete ve seçimlere potansiyel olarak risk getiriyor. Farkedilmesi de zor. Massachusetts Teknoloji Enstitüsü, Temmuz ayında, eski Amerikan Başkanı Richard Nixon’un gerçekte hiç yapmadığı bir konuşmayı deepfake görüntü ve sesiyle sunarak bu endişeyi ortaya koydu.
MIT’nin Gelişmiş Sanallık Merkezi bu videonun açıklamasında şunları söyledi :
“Bu proje yanlış bilgilendirmenin tehlikelerini gösteriyor. Bu proje, çağdaş toplumumuzdaki yanlış bilgilerin ve derin sahte teknolojilerin etkisini ve yaygınlığını araştırıyor.”
Bu endişelerle mücadele etmek için Microsoft, “Demokrasiyi Savunma Programını” başlattı . Şirketin oluşturduğu bir başka uygulama da, bilgisayar korsanlığı girişimlerini hızla tanımlamak için tasarlanmış yeni oylama makinesi yazılımı “ElectionGuard”dı .
Microsoft, yeni deepfake programlarının Microsoft Araştırma bölümü, Sorumlu Yapay Zeka ekibi ve Mühendislik ve Araştırma Komitesindeki Etik ve Etkileri bünyesinde geliştirildiğini söyledi.
[1] New Steps to Combat Disinformation
[2] Spotting deepfakes isn’t as easy as you might think
Kaynak : 