Wall Street Journal’de yayınlanan bir analize göre, Yapay zeka tarafından oluşturulan içeriği kullanan web siteleri çoğaldıkça, çevrimiçi yayıncılar işe yaramaz makalelerle dolup taşıyor.
International Living’in genel yayın yönetmeni Jennifer Stevens, Chatgpt ile başlayan ve dil becerilerinin kullanıldığı üretken yapay zeka modellerini incelemiş. Yapay zeka tarafından üretilen içeriğin standartlarının çok altında olduğunu ve bunu yeni bir spam türü olarak değerlendirmek gerektiğini söylüyor.Yapay zeka tarafından oluşturulan spam’in artma ve potansiyel olarak internete yayılma potansiyeli önemli bir sorun.
The Wall Street Journal’ın Londra’daki CEO Konseyi Zirvesi’nde yöneticiler, yapay zekanın değerini ve teknolojinin yaygın kullanımının olası dezavantajlarını tartıştılar.
Mayıs ayı başlarında, haber sitesi derecelendirme şirketi NewsGuard, içerik oluşturmak için yapay zela kullanan 49 sahte haber sitesi buldu. Şirketin kurucu ortağı Gordon Crovitz’e göre Haziran ayı sonunda sayı 277’ye ulaştı. Cravitz, sitelerin Google’ın çevrimiçi reklamcılık ağı aracılığıyla para kazanmak için oluşturulmuş gibi göründüğünü söyledi.
Araştırmacılar ayrıca, siyasi dezenformasyon oluşturmak için kullanılan yapay zeka teknolojilerinin potansiyeline ve bilgisayar korsanlığı için kullanılan hedefli mesajlara işaret ediyor.
Siber güvenlik şirketi Zscaler, yapay zekanın suçlular tarafından yaygın bir şekilde kullanılıp kullanılmadığını söylemek için henüz çok erken olduğunu söylüyor ancak şirket, yapay zekanın kurbanları kandırarak kötü amaçlı yazılımları indirmeleri için tasarlanmış yüksek kaliteli sahte kimlik avı web sayfaları oluşturmak için kullanıldığını görmeyi bekliyor.
Google, yaptığı açıklamada, arama sonuçlarını spam ve manipülasyondan korumak için çalıştığını ve arama sonucu sıralamalarını değiştirmek için yapay zeka tarafından üretilen içeriği kullanmanın Alphabet şirketinin spam politikalarını ihlal ettiğini söyledi.
Bu muhabir, ChatGPT’den “ChatGPT tarafından yazılan içeriği kabul edecek birkaç derginin adını vermesini” istediğinde, yapay zeka makale gönderimlerini yönetmek için Moksha adlı bir içerik gönderme sistemi kullanan beşi dahil olmak üzere 10 dergi önerdi. Moksha yöneticileri, yapay zeka tarafından oluşturulan gönderilerde kesinlikle bir artış olduğunu ve bunları tespit ve engellemek için araç geliştirdikleri belirtiyor.
International Living’den Stevens, “Hepsi oldukça mülayim ve genel bir şekilde yazılmış,” dedi. “Hepsi gramer açısından doğru. Sadece çok formülsel hissediyorlar ve bizim için gerçekten işe yaramazlar.
İnternet, yapay zeka tarafından üretilen içerikle giderek daha fazla dolarsa, bu, yapay zeka şirketlerinin kendileri için bir sorun haline gelebilir. Bunun nedeni, büyük dil modellerinin, ChatGPT gibi sohbet robotlarının temelini oluşturan yazılımların, kendilerini genel veri kümeleri üzerinde eğitmesidir. Bu veri kümeleri yapay zeka tarafından üretilen içerikle giderek daha fazla doldukça, araştırmacılar dil modellerinin daha az kullanışlı olacağından endişe ediyor, bu “model çöküşü” olarak bilinen bir olgu.
Oxford Üniversitesi Uygulamalı ve Teorik Makine Öğrenimi Grubu’nda araştırma görevlisi olan Ilia Shumailov, aynı fotoğrafı tekrar tekrar taramak ve yazdırmak sonunda ayrıntısını azaltacağı gibi, büyük öğrenme modelleri oluşturdukları verileri sindirirken daha az kullanışlı hale geldiğinde model çökmesi meydana gelir. yakın zamanda bu fenomen üzerine bir makale yazdı.
Ve modelin çökmesine katkıda bulunacak olan sadece spam içeriği değildir. Shumailov, genel olarak içerik oluşturmak için yapay zekanın artan kullanımı olduğunu söyledi. Shumailov, modelin çökmesinin kaçınılmaz olduğunu, ancak bu soruna bir dizi potansiyel teknik çözüm olduğunu düşünüyor. Örneğin, insanlar tarafından üretilen içeriğe erişimi olan şirketler yine de yüksek kaliteli büyük dil modelleri oluşturabilecektir.
Kaynak : 