Meta’Nın yapay zeka moderasyon sisteminin, çok sayıda Facebook ve Instagram kullanıcısının, kişisel ve işletme hesaplarını yanlışlıkla devre dışı bırakıldığını raporlandı. Bu durum Meta’ya yönelik eleştirileri arttırdı. Şikayetler, Meta’nın yapay zeka destekli içerik denetimine geçişini hızlandırdığı ve otomatik sistemlerin artık insan moderatörlerden daha iyi performans gösterdiğini savunduğu bir dönemde geliyor.
Yasaklanan kullanıcılara göre, hesaplar net açıklamalar yapılmadan askıya alındı veya kalıcı olarak kaldırıldı. İtirazlar ise genellikle insan incelemesi olmadan talepleri hızla reddeden otomatik sistemler tarafından ele alınıyor. Birçok kullanıcı, hiçbir yanlış yapmadıklarını ısrarla belirtmelerine rağmen Meta’nın politikalarını ihlal etmekle suçlandıktan sonra yıllarca süren fotoğraflarını, mesajlarını, işletme sayfalarını ve müşteri ilişkilerini kaybettiklerini iddia ediyorlar.
Etkilenenler Arasında İşletmeler de Var
Sadece kişisel hesaplar değil, bazı işletmelerin hesaplarının da engellendiği bildiriliyor. Bir vakada, İngilizce öğretim işletmesinin dolandırıcılık ve aldatma politikalarını ihlal etmekle suçlandıktan sonra, hem Facebook hem de Instagram hesaplarının Meta tarafından devre dışı bırakıldığını söyleyen Camille Hanson, yaklaşık bir milyon takipçiye ulaşan işletmenin, birincil müşteri iletişim kanallarına erişimini kaybettiğini ve otomatik itirazının da reddedildiği söylüyor.
Çeşitli online topluluklarda, benzer şikayetler, kullanıcıların ani askıya alınması, Messenger erişiminin kaybı ve insan destek personeline ulaşamama gibi durumlarla ortaya çıktı. Birçoğu, yapay zekanın önemli kişisel ve finansal sonuçları olan kararlar alırken, anlamlı bir inceleme için çok az fırsat sunduğunu düşünüyor.
Meta Yapay Zeka Moderasyonunu Savunuyor
Meta ise, yapay zeka moderasyon sistemlerinin geleneksel insan incelemesinden daha doğru hale geldiğini savunuyor. Şirket, en son yapay zeka modellerinin insan inceleyicilere göre %13 daha az moderasyon hatası yaptığını ve %10 daha fazla politika ihlali tespit ettiğini, böylece her gün yayınlanan milyarlarca içerikte daha hızlı ve daha tutarlı bir uygulama sağladığını söylüyor.
Meta ayrıca, güven ve güvenlik operasyonlarını otomatikleştirmeye yönelik daha geniş bir stratejinin parçası olarak, önümüzdeki yıllarda insan moderatörlere olan bağımlılığını azaltmaya devam etme planlarını da açıkladı. Meta, yapay zekanın zararlı içeriği manuel incelemeden daha hızlı ve daha büyük ölçekte tespit edebileceğini savunuyor.
Ölçek ve Doğruluk Arasındaki Denge Zorluğu
Meta, her gün milyonlarca sahte hesabı ve politika ihlali içeren gönderiyi kaldırıyor. Bu ölçekte, mütevazı bir yanlış pozitif oranı bile binlerce kullanıcıyı etkileyebilir. Facebook veya Instagram’ı birincil satış ve pazarlama kanalları olarak kullanan işletmeler için, hatalı bir askıya alma işlemi, müşteri iletişimini ve gelirini anında aksatabilir.
Eleştirmenler, sorunun yalnızca yapay zekanın genel olarak daha az hata yapıp yapmamaması olmadığını ama hatalar meydana geldiğinde kullanıcıların etkili insan incelemesine erişemediğini söylüyor. Şeffaf itiraz mekanizmaları olmadan, otomatik moderasyonun meşru kullanıcıları hesaplarını kurtarmak için pratik bir yol olmadan bırakma riski taşıdığını söylüyorlar.
Analiz: Yapay Zeka Moderasyonunun Güven Testi
Meta’nın istatistikleri, yapay zeka sistemlerinin ortalama olarak insan moderatörlerden daha iyi performans gösterebileceğini gösteriyor, ancak mevcut tartışma farklı gösteriyor.
Daha zararlı içeriği doğru bir şekilde tanımlayan bir moderasyon modeli, normal hesapları yanlışlıkla kaldırılırsa ve kullanıcılar zamanında insan incelemesi alamıyorsa, kullanıcı güvenini yine de zedeleyebilir. Platformlar manuel denetimi, yapay zekâ ile değiştirdikçe, itiraz sürecinin kalitesi, yapay zekânın doğruluğu kadar önemli hale gelebilir.
Bu olay, teknoloji endüstrisindeki bir eğilimi gösteriyor. Şirketler, verimliliği artırmak ve maliyetleri düşürmek için güven ve güvenlik operasyonlarını hızla otomatikleştiriyor, ancak özellikle bu kararlar geçim kaynakları dijital platformlara bağlı olan işletmeleri ve kullanıcıları etkilediğinde, otomatik kararların şeffaf, tartışılabilir ve adil kaldığını da göstermeleri gerekiyor.
Kaynak : 