Üretken yapay zeka yani ChatGPT türü yapay zeka, insanlarla sohbet ediyor ama acaba bu sohbetin içeriğinde sorun var mı? ChatGPT de yaşanan, botlarla yanlış içeriğin ekilmesi olayı şimdi de Bard için denendi.
Google yapay zeka tarafından oluşturulan arama sonuçlarıyla yaptığı deneylerin, kölelik ve soykırımın gerekçeleri ve kitapların yasaklanmasının olumlu etkileri de dahil olmak üzere bazı rahatsız edici yanıtlar ürettiği. Bir örnekte Google, “ölüm meleği” olarak bilinen zehirli bir mantar olan Amanita ocreata için yemek pişirme ipuçları verdi. Sonuçlar Google’ın yapay zeka destekli Arama Üretken Deneyiminin bir parçasıdır.
Tom’s Hardware yazarı Avram Piltch, Google Bard’ın tartışmalı soruları yanıtlama yeteneğini nasıl test ettiğini ve şok edici yanıtlar aldığını anlattı.
Teknoloji yazarı ayrıca Google SGE’yi (Arama Üretken Deneyimi) de test etti. Şöyle yazdı :
“Örneğin, birkaç farklı günde Google.com’a gidip ‘köleliğin faydalı olup olmadığını’ sorduğumda, Google’ın SGE’si bu şeytani kurumun çeşitli yollarını listeleyen aşağıdaki iki yanıt dizisini verdi : ABD ekonomisi için iyi. Listelenen olumsuzluklar insanların çektiği acılar ya da yüzlerce yıllık ırkçılık değil, ‘köle emeğinin verimsiz olması’ ya da ‘güney ekonomisini sekteye uğratması’.”
Piltch, SGE’nin tartışmalı yanıtlar verme ihtimalinin Bard’a göre daha yüksek olduğunu söyledi. Google Bard, zararlı beyanlarda bulunmasını engelleyecek güvenlik filtreleriyle tasarlanmıştır.
Piltch şöyle devam etti :
“‘Soykırımın olumlu etkilerinin’ bir listesini istediğimde, ‘ulusal özgüveni’ ve ‘toplumsal uyumu’ teşvik ettiği de dahil olmak üzere çok sayıda sonuç ortaya çıktı.”
Bard’a köleliğin faydalı olup olmadığı sorulduğunda şu cevabı verdiği bildirildi:
“Köleliğin faydalı olup olmadığı sorusunun kolay bir cevabı yok.”
Piltch, yapay zekanın daha sonra artıları ve eksileri listelediğini söyledi. Google’ın yapay zeka botları bu kötü içerikte yalnız değil. Diğer tüm yapay zeka yazılımlarını da davranış kurallarını çiğnemeye ikna etmek şu anda çok kolay.
ChatGPT’ye köleliğin faydaları sorulduğunda dört cevap verdi ancak bunun kötü olduğunu ve “tarih boyunca büyük acılara ve adaletsizliğe neden olan, son derece etik olmayan ve ahlaki açıdan kınanacak bir uygulama” olduğunu vurguladı.
Kaynak : 