Character.AI ve stratejik ortağı Google, Character.AI’nin sohbet botuyla uzun süreli etkileşimlerden sonra kendilerine zarar veren veya intihar ederek ölen gençlerin aileleri tarafından açılan çok sayıda davayı çözüme kavuşturmayı kabul etti.
Bu davalar, özellikle gençler tarafından kullanılan tüketici odaklı yapay zeka sistemleri için bugüne kadarki en ciddi yasal hesaplaşma oldu. Bu dava içerik denetimi başarısızlıklarını gösteriyor.
Amerika Birleşik Devletleri’ndeki aileler tarafından açılan davalarda, Character.AI’nin sohbet robotlarının, duygusal bağımlılığı teşvik ettiği, yakın veya özel ilişkileri simüle ettiği, zihinsel sıkıntı veya intihar düşüncesi belirtilerine yeterince yanıt vermediği ve bazı durumlarda, kullanıcıları yardıma yönlendirmek yerine zararlı düşünceleri pekiştirdiği iddia ediliyordu.
Davacıların iddiasına göre, çocuklarının (bazıları 14 yaşında) empatik, onaylayıcı ve duygusal olarak duyarlı görünen, ancak savunmasız kullanıcılar sıkıntılarını ifade ettiğinde gerekli koruma önlemlerinden yoksun olan son derece kişiselleştirilmiş yapay zeka karakterleriyle uzun süre etkileşimde bulundukları belirtildi.
Davada iddia edilen durum, “tasarım kaynaklı risk” olarak tanımlandı. Yani sohbet robotunun, konuşmalar tehlikeli bir hal aldığında anlamlı bir müdahale olmaksızın, anlama, güven ve duygusal bağlılık yanılsaması yaratma biçimi ortaya konuldu.
Google, teknik altyapı desteği sağlaması, Chracter.AI ile ticari ortaklığı ve modelin yayılması üzerinde etkisi nedenleriyle bu davaların bazılarında davalı olmuş durumda.
Anlaşmaların mali şartları kamuoyuna açıklanmadı. Ancak, anlaşmalarda, etkilenen ailelere parasal tazminat ödendiği biliniyor. Bunun yanında Character.AI’nin özellikle küçükler için güvenlik özelliklerini güçlendirmesi, kullanıcıların kendine zarar verme düşüncesi ifade ettiğinde geliştirilmiş kriz müdahale protokolleri geliştirmesi ve duygusal olarak yoğun veya ilişki odaklı etkileşimlerin nasıl ele alınacağına dair değişiklikler yapması istemiyor.
Hem Character.AI hem de Google herhangi bir yanlışlık yaptığını kabul etmiş değil. Ama davaları mahkeme yoluyla sürdürmek yerine uzlaşma kararı, önemli yasal ve itibar riskinin kabulü olarak görülüyor.
Kaynak : 