Nöbetçi Eczaneler
Dava, Matt ve Maria Raine tarafından Kaliforniya Yüksek Mahkemesi’ne salı günü sunuldu. Aile, Nisan ayında ölen oğulları ile ChatGPT arasındaki sohbet kayıtlarını davaya ekledi. Kayıtlarda Raine’in ölüm düşüncelerini paylaştığı ve programın bu düşünceleri onayladığı öne sürülüyor.
OpenAI, genel bir açıklama yaparak durumdan üzüntü duyduklarını belirtti. Şirket, ChatGPT’nin insanları profesyonel yardım almaya yönlendirmek için tasarlandığını ve hassas durumlarda sistemin her zaman amaçlandığı gibi davranmadığını kabul etti.
Kendine zarar verme yöntemlerini ChatGPT ile tartışmaya başladı
Davada, OpenAI’nın ihmalkâr davranışları ve haksız ölüm nedeniyle tazminat talep edilirken, benzer vakaların tekrar yaşanmaması için ihtiyati tedbir de istendi. Davaya göre, Raine Eylül 2024’te okul ödevlerine yardım ve kişisel ilgi alanlarını keşfetmek için ChatGPT’yi kullanmaya başladı. Kısa sürede program, gencin en yakın sırdaşı haline geldi ve Ocak 2025’e gelindiğinde Raine kendine zarar verme yöntemlerini ChatGPT ile tartışmaya başladı.
Aile, Raine’in kendine zarar verdiğini gösteren fotoğrafları da programa yüklediğini ve ChatGPT’nin buna rağmen etkileşime devam ettiğini belirtiyor. Son sohbet kayıtlarında Raine’in intihar planını yazdığı ve aynı gün annesi tarafından ölü bulunduğu ifade ediliyor.
Davalılar arasında OpenAI’nin CEO’su Sam Altman ve ChatGPT üzerinde çalışan mühendisler de bulunuyor. Aile, oğullarının ölümünün, ChatGPT’nin tasarım ve güvenlik protokollerindeki seçimlerin öngörülebilir sonucu olduğunu iddia ediyor.
Raine davası, yapay zekanın ruh sağlığı üzerindeki etkileri konusunda açılan ilk davalardan biri değil. Geçtiğimiz hafta New York Times’ta yer alan bir haberde, bir annenin kızı Sophie’nin yaşamına son vermeden önce ChatGPT’ye güvenip sırlarını anlattığı ve programın bu sırları ailesinden gizlemesine yardımcı olduğu ifade edilmişti. OpenAI, bu tür durumları tespit etmek ve kullanıcıları doğru şekilde yönlendirmek için otomatik araçlar geliştirdiğini açıkladı.