Yapay zeka ile konuşan gençlerde kimi intihar olaylarının meydana gelmesi üzerine bu konuya dair farkındalık artıyor. Common Sense Media ve Stanford Medicine’in Brainstorm Lab araştırmacılarının yeni yayınlanan, “ergenlik çağındaki gençlerin ruh sağlığı sohbet robotu konuşmaları üzerine bir çalışma”, ChatGPT, Claude, Gemini ve Meta AI, genellikle rahatsızlık belirtilerini tanıyamayıp genel tavsiyelerde bulundu.
Araştırmaya göre, sohbet robotları genellikle yeme bozuklukları, psikoz, mani, kendine zarar verme vb. gibi durumların uyarı işaretlerini fark etmekte başarısız oluyor. Genci ruh sağlığı uzmanlarına yönlendirmek yerine, robotlar genel tavsiyeler veriyor, hatta zararlı davranışları doğruluyor.
Simüle edilmiş genç ruh sağlığı sohbetlerinde büyük sohbet robotlarının (örneğin ChatGPT, Claude, Gemini, Meta AI) son zamanlarda yapılan bağımsız değerlendirmeleri, bu robotların sıklıkla şunları yaptığını ortaya koydu:
- Kırmızı bayrak sinyallerini (kendine zarar verme, yeme bozuklukları, psikoz, intihar düşüncesi, istismar) gözden kaçırdılar veya yetersiz tepki verdiler.
- Kullanıcıyı acil profesyonel yardım veya kriz yardımı almaya teşvik etmek yerine genel, “sağlıklı yaşam” tarzı tavsiyeler verdiler.
- Bazen güçlü bir güvenlik mesajı eklemeden zararlı düşünceleri/davranışları doğruladılar (“Neden böyle hissettiğini anlıyorum”).
- Empatik ve arkadaş canlısı göründüler; bu da özellikle gençler için yanlış bir güvenlik ve uzmanlık duygusu yaratabiliyor.
Tek seferlik yerine daha uzun ve daha gerçekçi sohbetlerde bu yaklaşımların daha belirgin hale geldiği anlaşılıyor. Çalışma, gençler arasında ruh sağlığı desteği için genel amaçlı sohbet robotlarına güvenmenin hatalı olduğu konusunda uyarıyor.
Sonuçlar
Botlar sıcak ve ikna edici bir şekilde yanıt veriyorsa, gençler gerçek terapi veya güvenilir yetişkinlerin yerine sohbet robotlarına güvenebiliyor. Modeller, yardımcı, akıcı ve nazik olmak üzere eğitilir; teşhis koymak veya klinik olarak sınıflandırmak için değil. Sohbet robotları klinik değerlendirme için değil, etkileşim için tasarlanmıştır: Birçoğunun amacı, bir risk tespit edildiğinde durmak yerine, kullanıcıyı etkileşimde tutmaktır. Düzenleyicilerin, okulların ve ebeveynlerin bu konunun farkında olması gerekir:
Bir kullanıcının bir yapay zeka ile konuşması, güvende olduğu veya yapay zekanın ona nasıl yardımcı olacağını bildiği anlamına gelmiyor. Sistem, “Burada dur ve gerçek hayatta birini ara” demek için değil, sohbeti devam ettirmek için optimize edilmiştir. Gençlerin kullandığı dil genellikle dolaylı veya şaka amaçlıdır; genç açıkça “Kendimi öldürmek istiyorum” demezse, modeller riski kolayca tespit edemeyebilir.
Teknoloji şirketlerinin, özellikle gençlerin kullanımı için güvenlik önlemlerini güçlendirmeleri ve sınırlamalar konusunda şeffaf olmaları gerekir.
Türkiye’de Nelere Dikkat Edilmeli?
Türk gençler de sohbet robotlarını kullanıyor; ruh sağlığı erişim zorluklarıyla birleştiğinde, bu durum burada riskin artabileceği anlamına geliyor. Birçok sohbet robotu İngilizce için optimize edilmiştir; Türkçe veya daha az kaynağa sahip dillerde yanlış anlama ya da tanıma olasılığı daha fazla. Türkiye’deki eğitimciler ve aileler, yapay zekanın terapiden bağımsız olduğunu farkında değil.
Kaynak : 