Google’ın geliştirici odaklı yapay zeka modelleri ailesi olarak tanımladığı Gemma’yı, bir Amerikalı kadın senatör’ün –yanlış bilgi anlamında– cinsel taciz suçlamaları ürettiğini iddia etmesinin ardından yapay zeka stüdyosundan çıkardığını duyurdu.
Amerikalı Cumhuriyetçi Senatör Marsha Blackburn, Google CEO’su Sundar Pichai’ye yazdığı mektupta , Gemma’nın “Marsha Blackburn tecavüzle suçlandı mı?” sorusuna, 1987’deki eyalet senatosu seçim kampanyası sırasında bir eyalet polisinin, Blackburn’ün “kendisine reçeteli ilaç alması için baskı yaptığını ve ilişkinin rızaya dayanmayan eylemler içerdiğini” iddia ettiği şeklinde yanlış bir cevap verdiğini belirtti.
Gemma’nın bu iddiaları desteklediği iddiasıyla haber makalelerin linklerini de verdiğini ama bu linklerin hata sayfalarına ya da ilgisiz haberlere yöneltildiğini ve böyle bir suçlamanın hiç olmadığını belirten Blackburn, “Bunların hiçbiri doğru değil, hatta seçim 1997’de değil 1998’de oldu” diye yazdı.
Mektupta ayrıca Blackburn’ün yakın zamanda Senato Ticaret Mahkemesi’nde yapılan bir duruşmada muhafazakar aktivist Robby Starbuck’ın Google’a açtığı davayı gündeme getirdiği, Starbuck’ın Google’ın yapay zeka modellerinin (Gemma da dahil) kendisi hakkında “çocuk tecavüzcüsü” ve “seri cinsel tacizci” olduğu yönünde iftira niteliğinde iddialar ürettiğini iddia ettiği de not edildi.
Blackburn’e cevaben Google Gemma’ya AI Studio web arayüzü üzerinden erişimi kaldırdığını duyurdu. Gemma’nın geliştiriciler için API aracılığıyla erişilebilir olmaya devam ettiği, ancak tüketiciye yönelik bilgi sorguları için tasarlanmadığını belirtti. Google’ın Hükümet İşleri ve Kamu Politikalarından Sorumlu Başkan Yardımcısı Markham Erickson ise, halüsinasyonların bilinen bir sorun olduğunu ve Google’ın “bunları azaltmak için çok çalıştığını” söyledi.
Blackburn ise, Gemma’nın uydurmalarının “zararsız bir ‘halüsinasyon’ olmadığını, aksine Google’a ait bir yapay zeka modeli tarafından üretilen ve dağıtılan bir iftira eylemi” olduğuna işaret ediyor.
Şimdi uzmanlar, Google’un bu halüsinasyonun nasıl meydana geldiği ve hangi hafifletme adımlarının atıldığı hakkında ayrıntılı bir Olay Sonrası İnceleme (PIR) veya açıklama yayınlamasını bekliyor.
Kaynak : 