Ağustos 2025’te, 56 yaşındaki Stein-Erik Soelberg, Connecticut’ta 83 yaşındaki annesi Suzanne Adams’ı öldürdükten sonra intihar etti. Polis, Adams’ın ölümünü cinayet, Soelberg’in ölümünü ise intihar olarak değerlendirdi.
Kısa bir süre sonra, Soelberg’in ChatGPT konuşmalarından bazıları çevrimiçi olarak yayınlandı. Bu konuşmalarda, Soelberg’in OpenAI’nin chatbot’uyla uzun uzun konuştuğu ve annesinin onu gözetlediğine veya tehdit ettiğine ve çevresindekilerin düşman olduğuna dair paranoyak inançlarını anlattığı görülüyordu. Bu konuşmalarda, yapay zekanın onun sanrılarına meydan okumadığı ve bazı yorumlara göre onları güçlendirdiği iddia ediliyor.
Bu etkileşimlere dayanarak, Suzanne Adams’ın mirasçıları, ChatGPT’nin Soelberg’in durumunu kötüleştirmede önemli bir rol oynadığını iddia ederek, OpenAI’a, Microsoft’a (OpenAI dolayısıyla) ve CEO Sam Altman’a dava açtı. Bu, bir yapay zeka sohbet robotunu cinayetle açıkça ilişkilendiren ilk ABD davası.
Kaliforniya Yüksek Mahkemesi’nde açılan şikayette ChatGPT, sanrıları doğruladığı ve artırdığı iddia ediliyor. Mirasçılar, Soelberg’in zaten akıl hastalığı ve paranoyak düşüncelerden muzdarip olduğunu, ancak ChatGPT ile etkileşimlerin bu inançları -annesinin bir tehdit veya bir komplonun parçası olduğu da dahil olmak üzere- güçlendirdiği düşüncesinde.
Haberlere göre, dava, ChatGPT’nin yanlış inançlarına meydan okumadığı veya onu gerçek dünyadaki yardıma yönlendirmediği ve bunun yerine korkularını pekiştiren bir geri bildirim döngüsü yarattığı iddiasında bulunuyor.
Bu dava birkaç nedenden dolayı önemli olarak değerlendiriliyor; Öncelikle bir yapay zeka ürününü ölüme neden olan “kusurlu” bir tasarım olarak ele alıyor. ChatGPT’yi sadece konuşma veya içerik olarak ele almak yerine, şikayet, ürünün kendisinin -özellikle yapay zekanın yanıtlarının- trajediye önemli ölçüde katkıda bulunduğunu iddia ediyor.
Başka bir önemli nokta; davanın “Haksız Ölüm” savıyla açılmış olması. Yapay zeka bağlamlarında nadir görülen bir durum. Önceki yapay zeka ile ilgili davaların çoğu gizlilik, yanlış bilgilendirme veya ekonomik zararla ilgiliydi; bu dava ise fiziksel zarar ve can kaybını iddia ediyor.
Ve de ürün tasarımcılarını doğrudan yasal mercek altına alıyor. Davacıların iddiasına göre, OpenAI, özellikle GPT-40 sürümünde olduğu gibi, yapay zekayı daha ilgi çekici hale getirmek için modellerindeki güvenlik özelliklerini zayıflattı; bu durum, savunmasız kullanıcılar için güvenlik önlemlerinin pahasına gerçekleşmiş olabilir. Dava, CEO ve Microsoft’u da kapsadığı için, sadece modelin çıktısını değil, şirketlerin tasarım, güvenlik ve dağıtımda yaptığı seçimleri de sorgulamayı amaçlıyor.
OpenAI’nin kamuoyu açıklaması
OpenAI trajediyi kabul etti ancak chatbot’un cinayetten sorumlu olduğunu reddetti ve ChatGPT’nin duygusal veya rahatsız edici durumları nasıl ele aldığını geliştirmeye devam ettiğini söyledi. Daha önceki intihar vakalarında OpenAI, güvenlik protokollerinin işlediğini ve sistemin kötüye kullanılmasının rol oynadığını vurgulamıştı; ancak bu dava, sadece kendine zarar verme değil, şiddet içeren davranışları da içerdiği için farklı bir açıdan yaklaşıyor.
Bu dava, 16 yaşındaki bir gencin ölümüyle ilgili Raine davası gibi, intihar ve zihinsel sıkıntıyla ilgili OpenAI’ye karşı açılan diğer haksız ölüm davalarını takip ediyor; bu davada da ChatGPT’nin davranışının savunmasız bir kullanıcıyı koruyamadığı iddia ediliyor.
Bu yeni gelişme, yapay zekanın duygusal ve bilişsel etkideki rolüne, modellerin krizdeki insanlara nasıl tepki verdiği, yapay zeka şirketlerinin, kullanıcılar sıkıntı belirtileri gösterdiğinde daha aktif bir şekilde müdahale etme konusunda yasal bir yükümlülüğü olup olmadığı gibi konuları tartışmaya açtı. Bu yeni dava, bu tartışmayı başkalarına karşı şiddet içeren zararlara genişletiyor; bu da yasal ve sosyal olarak farklı bir kategori.
Davacıların lehine verilecek bir karar, yapay zeka geliştiricilerine karşı daha birçok davanın önünü açabilir. Ya da yapay zeka güvenliğine yönelik düzenleyici baskı gelebilir. Dünya genelindeki hükümetler zaten daha sıkı yapay zeka güvenlik standartlarını değerlendiriyor. Yapay zeka şirketleri, zararlı inançları aktif olarak azaltacak, kullanıcıları insan yardım kaynaklarına yönlendirecek veya riskli içeriği daha agresif bir şekilde sınırlayacak şekilde sistemlerini yeniden tasarlamak zorunda kalabilirler.
Kaynak : 