YouTube, siber zorbalık ve taciz politikalarını güncelliyor ve artık reşit olmayanları ve diğer suç mağdurlarını ölümlerini veya yaşadıkları şiddeti anlatan ve gerçekçi bir şekilde simüle eden içeriklere izin verilmeyecek.
Güncelleme, Reddit kullanıcılarına bakılırsa çok genel yazılmış. İçine hangi şiddet videolarının gireceği (mesela tarihteki şiddet gibi) bilinmiyor. AncakYouTube’un da aralarında bulunduğu platformlar, geçtiğimiz aylarda yapay zeka destekli içerik oluşturma araçlarını ve bunlarla birlikte kullanıcıların kafasını karıştırabilecek kurgusal ve yapay içerikle ilgili yeni politikaları açıkladı. TikTok artık içerik oluşturucuların yapay zeka tarafından oluşturulan içerikleri bu şekilde etiketlemesini gerektiriyor. YouTube’un kendisi de müzisyenlerin yapay zeka ses klonları konusunda katı bir politika uyguladığını ve diğer herkes için daha gevşek kurallar getirdiğini duyurdu.
YouTube’un yeni güncellemesi ise mağdurların rahatsız edici yapay zeka destekli tasvirlerini yaratan ve daha sonra onlara karşı şiddeti anlatan bir içerik türünü hedefliyor gibi görünüyor. Bazı videolarda yüksek profilli vakalarda meydana gelen korkunç şiddeti anlatmak için yapay zeka tarafından üretilen çocuksu sesler kullanılıyor.
Örnek gösterilen yapay zekalı TikTok videolarından birinde, İngiltere’de 1993 yılında 2 yaşındayken, ikisi de 10 yaşında olan başka 2 çocuk tarafından kaçırılarak öldürülen James Bulger görülüyor. Düzinelerce tüyler ürpertici animasyonlu klipte, izleyicilere “Merhaba, benim adım James Bulger” derken, karakterler onun 1993’teki kaçırılması ve öldürülmesinin ayrıntılarını veriyor. James’in cesedi bir demiryolunun yanında bulundu ve TikTok görsellerinin çoğu, avatarı tren raylarının yanında gösteriyor. Videolarda tasvir edilen mağdurların aileleri, içeriği “iğrenç” olarak nitelendirdi.
YouTube’un politika güncellemesi, içeriğin kanaldan kaldırılmasına neden olacak ve ayrıca kullanıcının platformda yapabileceklerini geçici olarak sınırlayacak bir ihtarla sonuçlanacak. Örneğin ilk ihtar, diğer şeylerin yanı sıra kullanıcıların bir hafta boyunca video yüklemesini sınırlandıracak. Politikanın 90 gün içinde tekrar ihlal edilmesi halinde cezalar artacak ve sonuçta kanalın tamamının kaldırılması olasılığı da artacak.