YouTube, yapay zeka destekli “benzerlik tespiti” aracını, hükümet yetkilileri, siyasi adaylar ve gazetecilerden oluşan bir pilot gruba genişleterek, platformda yapay zeka tarafından oluşturulan taklitleri tespit etme ve bunlara yanıt verme olanağı sunuyor.
Bu adım, gerçek kişilerin yüzlerini veya seslerini taklit edebilen, potansiyel olarak yanlış bilgi yayabilen veya itibara zarar verebilen deepfake videoları ve diğer sentetik medya hakkındaki endişelerin artmasıyla birlikte geliyor.
Yapay Zeka Taklitlerini Tespit Etmek İçin Tasarlanan Araç
YouTube’un benzerlik tespit sistemi, yüklenen videoları gerçek bir kişiye benzeyen yapay zeka tarafından oluşturulmuş görüntüler için tarıyor. Sistem bir eşleşme bulursa, programa kayıtlı kişi videoyu inceleyebiliyor ve platformun gizlilik kurallarını ihlal ediyorsa kaldırılmasını talep edebiliyor.
Teknoloji, telif hakkıyla korunan müzik veya videoları tanımlayan YouTube’un İçerik Kimliği’ne benzer şekilde çalışıyor, ancak fikri mülkiyet yerine bir kişinin yüzüne veya benzerliğine odaklanıyor.
Bu araç, ilk olarak geçen yıl milyonlarca içerik üreticisini içeren YouTube İş Ortağı Programı’ndaki içerik oluşturucular için kullanıma sunulmuştu. Yeni pilot uygulama, siyasi veya haber olayları sırasında kimlikleri manipülasyona karşı özellikle savunmasız olabilecek kamu figürlerine erişimi genişletiyor.
Siyaset ve medyada deepfake risklerine değinme
YouTube, bu genişlemenin kamuoyu tartışmalarında merkezi roller oynayan kişileri korumayı amaçladığını söyledi. Yapay zeka tarafından oluşturulan videolar, siyasi liderleri veya gazetecileri asla söylemedikleri şeyleri söylüyormuş gibi yanlış bir şekilde gösterebilir, kafa karışıklığı yaratabilir ve potansiyel olarak kamuoyunu etkileyebilir.
Bu tür bir videonun dolandırıcılık yapmak amaçlı olarak, İstanbul Büyükşehir Belediye Başkanı Ekrem İmamoğlu ve Cumhurbaşkanı Recep Tayyip Erdoğan, damadı Selçuk Bayraktar, Maliye Bakanı Mehmet Şimşek, Ekonomist Mahfi Eğilmez, Ekonomist İslam Memiş için “hiç söylemeyecekleri cümleleri söylerken” yayınlanan YouTube reklam videolarını zaman zaman gördük.
Deepfake olarak da adlandırılan sentetik medya teknolojileri, dolandırıcılık ve yanlış bilgilendirme kampanyalarında politikacıları, ünlüleri veya kamu figürlerini taklit etmek için giderek daha fazla kullanılıyor ve bazen oldukça gerçekçi sonuçlar veriyor.
Platform, kamu figürlerine yapay zeka taklitlerini izleme ve bunlara meydan okuma olanağı vererek, meşru içeriği korurken kötüye kullanımı azaltmayı umuyor.
Güvenlik ve ifade özgürlüğünü dengeleme
YouTube, tespitin otomatik olarak kaldırmaya yol açmadığını söyledi. Her vaka, parodi, hiciv veya siyasi eleştiri gibi belirli içerik türlerini koruyan şirketin mevcut politikaları kapsamında değerlendirilecek.
Katılımcıların pilot programa katılmak için kimliklerini doğrulamaları gerekiyor. Bu, sistemin meşru ifade özgürlüğünü bastırmak için kötüye kullanılmasını önleyecek.
Şirket, aracı zamanla daha geniş bir kullanıcı kitlesine yaymayı ve nihayetinde sentetik sesler veya yapay zeka tarafından oluşturulan karakterler gibi diğer unsurları da tespit etmeye genişletmeyi planlıyor.
Yapay zeka medyasına yönelik daha geniş bir platform yanıtının parçası
Bu girişim, çevrimiçi platformların üretken yapay zekanın hızlı büyümesini sağlamak için planlandı. Sentetik içerik üretmek kolaylaştıkça, şirketler, kullanıcıların manipüle edilmiş medyayı tanımlamalarına ve yönetmelerine yardımcı olacak ve aynı zamanda çevrimiçi açık ifadeyi koruyacak araçlar geliştirmek için yarışıyorlar.
YouTube için zorluk, iki rakip hedefi dengeyebilmekte. Yani bireyleri yapay zeka taklitinden korurken, bir yandan da platformu tanımlayan yaratıcı ve politik ifadeyi korumayı hedeflediklerini açıkladılar.
Kaynak : 