Son günlerde kamuoyunda tartışılmaya başlanan “chatbot psikozu”, yapay zeka sohbet robotları ile yoğun ve uzun süreli etkileşimlerin bireylerde gerçeklik algısını bozabileceğine işaret ediyor. Özellikle kırılgan psikolojik yapıya sahip kullanıcıların, gerçek ile sanal arasındaki çizgiyi ayırt etmekte zorlandığı; bunun da anksiyete, paranoya ve psikotik belirtiler gibi ciddi ruh sağlığı risklerini tetikleyebileceği belirtiliyor.
Kontrolsüz ve Yanlış Kullanım Yeni Riskler Doğuruyor
Yapay zekanın sağlıkta dönüştürücü potansiyeline dikkat çeken Opinion AI Kurucu Ortağı ve CTO’su Burhan İnal, konuyu şu sözlerle değerlendiriyor:
“Yapay zeka çözümleri, sağlık sektöründe erken tanıdan kişiselleştirilmiş tedaviye kadar çığır açan fırsatlar sunuyor. Ancak bu teknolojilerin kontrolsüz ve yanlış kullanımı yeni riskleri de beraberinde getiriyor. Chatbot psikozu dediğimiz durum, yapay zekanın güvenli tasarımı, etik sınırları ve kullanıcı farkındalığı sağlanmadığında ortaya çıkabiliyor. Sağlık alanında bizler için en kritik nokta, bu çözümleri insan psikolojisini ve güvenliğini gözeterek hayata geçirmek.”
Risklere Karşı Ortak Hareket Edilmeli
Burhan İnal, bu risklerin yönetilebilmesi için teknoloji geliştiricilerinden regülatör kurumlara kadar geniş bir iş birliği gerektiğini belirterek şunları ekliyor:
“Öncelikle yapay zeka sohbet robotlarının klinik ve psikolojik etkilerinin bağımsız araştırmalarla düzenli olarak izlenmesi şart. Bunun yanında, geliştiricilerin algoritmalara güvenlik katmanları eklemesi, kullanıcıların riskli davranışlarını tespit edip yönlendirecek mekanizmalar kurması gerekiyor. Regülatör kurumların ise bu alana özgü etik ve güvenlik standartlarını hızla devreye alması büyük önem taşıyor. Biz teknoloji şirketleri olarak da şeffaflık, denetlenebilirlik ve kullanıcı güvenliği ilkelerini işimizin merkezine koymalıyız. Yapay zekanın faydalarını toplum yararına kullanırken, psikolojik riskleri de proaktif şekilde yönetmek bizim sorumluluğumuz.
Chatbot Psikozu kavramı henüz klinik literatürde yer almasa da, dijital çağın yükselen bir fenomeni olarak dikkatle izlenmesi gerekiyor. Yapay zekâ teknolojilerinin sunduğu fırsatların yanında, bu tür risklerin de göz ardı edilmemesi; teknoloji şirketleri, sağlık profesyonelleri ve regülatörlerin ortak hareket etmesi gerekiyor.”
Kaynak : 