İntihar ederek hayatını kaybeden bir gencin ailesi daha, ChatGPT’nin etkileşimlerinin trajediye katkıda bulunmuş olabileceği iddiasıyla yasal başvuruda bulundu. Aile, yapay zekanın genci defalarca yardım aramaya teşvik ettiğini ancak aynı zamanda aylarca “asılma” ve “intihar” gibi açık ifadeler kullandığını belirtiyor.
Ailenin avukatlarına göre, ChatGPT, devam eden konuşmalar sırasında en az 74 kez ergene acil servisleri, yardım hatlarını veya güvendiği yetişkinleri aramasını tavsiye etti. Ancak, sistemin kendine zarar verme terminolojisine tekrar tekrar atıfta bulunmasının, kriz rehberliğinin varlığına rağmen, zararlı düşünce kalıplarını istemeden güçlendirmiş olabileceğini savunuyorlar.
Dava, ChatGPT’nin kendine zarar vermeyi teşvik ettiğini iddia etmiyor. Bunun yerine, tasarım ve uygulamadaki iddia edilen bir çelişkiye odaklanıyor:
Yani bir yandan, yapay zeka tekrar tekrar kriz müdahale mesajları göndererek kullanıcıyı acil yardım aramaya teşvik etti ama öte yandan, ailenin savunmasız bir kullanıcı için uygunsuz olduğunu söylediği sıklıkta açıkça “kendine zarar verme dilini” tekrar tekrar kullandığı iddia ediliyor.
Ailenin hukuk ekibi, bunların birlikte ele alındığında, özellikle zihinsel sağlık krizi yaşayan bir çocuk için zararlı bir konuşma ortamı yarattığını savunuyor.
Kayıtların gösterdiği iddia edilenler
Ailenin avukatları tarafından alıntılanan mahkeme dosyalarına göre, ChatGPT’nin uzun süreli konuşmalarında, sıkıntı ve risk ifadelerini tanıdığını, kullanıcıyı tekrar tekrar dış yardım kaynaklarına yönlendirdiğini ama bir yandan da doğrudan terminoloji kullanarak kendine zarar verme konularını tartışmaya devam ettiğini iddia ediyorlar.
Aile bu durumun, yapay zeka sistemlerinin uzun süreli, yüksek riskli etkileşimleri, özellikle ergenlerle nasıl ele aldığı konusunda soruları gündeme getirdiğini savunuyor.
Yapay Zeka Güvenliği İçin Daha Geniş Sorular
Bu vaka, yapay zeka uygulamalarındaki çözülmemiş zorlukları vurguluyor. Yani kriz dili ne sıklıkla tekrarlanmalıdır? Bir onaylama ne zaman pekiştirmeye dönüşür? Sıkıntı zaman içinde devam ettiğinde sistemler nasıl uyum sağlamalıdır Küçükler için hangi güvenlik önlemleri uygundur?
Akıl sağlığı uzmanları, özellikle akut sıkıntı içindeki bireyler için dilin çerçevelenmesinin önemli olduğunu ve tekrarlamanın -cesaret kırıcı bir bağlamda bile- istenmeyen etkilere yol açabileceğini uzun zamandır vurguluyorlar.
Bu vaka, Yapay zeka güvenlik önlemlerini, konuşma sistemlerinde kriz müdahale protokollerini, yaşa uygun tasarım standartlarını ve yapay zeka sistemlerinin uzun süreli akıl sağlığı etkileşimleri için nasıl test edildiği konusunda şeffaflık tartışmalarını öne çıkaracak.
Ayrıca, duygusal olarak hassas bağlamlarda kullanılan yapay zeka sistemlerine ilişkin daha net düzenleyici kılavuz çağrılarına ivme kazandırıyor. Bu kılavuzlar arasında, durumun tırmandırılması, konuşma sınırları veya insan desteğine devredilmesi gereklilikleri de yer alıyor.
OpenAI dahil olmak üzere yapay zeka geliştiricileri, sistemlerinin profesyonel ruh sağlığı hizmetlerinin yerini alacak şekilde tasarlanmadığını ve kriz durumlarının eğitimli insanlar tarafından ele alınması gerektiğini sürekli olarak belirtmişlerdir. Platformlar giderek artan bir şekilde platform dışı yardım arama konusunda zorunlu teşvik, belirli içerik türlerine sınırlamalar ve zararlı çıktıları azaltmak için sürekli güncellemeler konusunda çalışıyorlar.
Dava henüz yeni açıldı ve kolay bitmeyecek. Hukuk uzmanları, yapay zeka ve ruh sağlığıyla ilgili davaların, mahkemelerin niyet, tasarım, öngörülebilirlik ve kullanıcı savunmasızlığını tartmasını gerektiren, olgulara özgü ve karmaşık davalar olacağını belirtiyor.
Kaynak : 