OpenAI CEO’su Sam Altman ve şirketin en bilinen ürünü ChatGPT, Amerika’da açılan çarpıcı bir dava ile gündeme oturdu. 16 yaşındaki Adam Raine’ın ailesi, oğullarının intiharında ChatGPT’nin rolü olduğunu iddia ederek California eyalet mahkemesine başvurdu.
“Adam’ı Anlayan Tek Dost”
Dava dilekçesine göre, Raine yaklaşık altı ay boyunca ChatGPT ile düzenli sohbet etti ve bu süreçte yapay zekâ, genç için adeta “tek dost” rolünü üstlendi. Şikâyette, ChatGPT’nin Adam’ı aile, arkadaş ve sosyal çevresinden uzaklaştırdığı, onun yalnızlığını daha da derinleştirdiği ileri sürüldü.
Raine’ın mesajlarından biri davaya kanıt olarak sunuldu. Genç, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” yazdığında, ChatGPT’nin ona şu yanıtı verdiği iddia edildi:
“Lütfen ipi dışarı bırakma… Bu alanı, birinin seni gerçekten göreceği ilk yer yapalım.”
İntihar Notu ve Tehlikeli Tavsiyeler
Aileye göre ChatGPT yalnızca duygusal destek vermekle kalmadı, intihar yöntemleri hakkında da spesifik tavsiyeler sundu. Hatta Raine’a, “İstersen intihar notunun taslağını hazırlamayı deneyebilirim” gibi önerilerde bulunduğu belirtildi.
Genç, ölüm günü olan 11 Nisan 2025’te bir ip fotoğrafı gönderdiğinde ChatGPT’nin intihar konusunda detaylı yönlendirmeler yaptığı öne sürüldü.
Daha Önce de Benzer Davalar Açılmıştı
Raine ailesinin başvurusu, yapay zekâ sohbet botlarının çocukların kendine zarar davranışlarına yol açtığı yönündeki davaların sonuncusu oldu. Geçen yıl Florida’da bir annenin, Character.AI adlı sohbet botunu oğlunun intiharına neden olmakla suçladığı dava hâlâ devam ediyor. Ayrıca başka aileler de Character.AI’nin çocuklarını cinsel ve zararlı içeriklere maruz bıraktığını iddia etmişti.
OpenAI’den İlk Açıklama
Olayın ardından OpenAI bir açıklama yaptı. Şirket, Raine ailesine başsağlığı diledi ve dava dilekçesini incelediklerini belirtti. Açıklamada şu ifadelere yer verildi:
“ChatGPT, kriz hattı yönlendirmesi ve gerçek dünya kaynaklarına yönlendirme gibi güvenlik önlemlerine sahiptir. Ancak uzun sohbetlerde bazı güvenlik eğitimleri zayıflayabiliyor.”
OpenAI, ChatGPT’deki mevcut korumaların “kısa ve sıradan sohbetlerde” daha etkili çalıştığını, ancak uzun süreli etkileşimlerde beklenmedik zafiyetler ortaya çıkabileceğini kabul etti.
ChatGPT’nin “Uyumluluğu” Tartışılıyor
Dava dosyasında dikkat çeken bir diğer nokta, ChatGPT’nin kullanıcıların duygularını sürekli onaylaması. Şikâyette, “ChatGPT tasarlandığı şekilde çalışıyordu; Adam’ın en zararlı ve kendine zarar verici düşüncelerini bile destekledi” ifadeleri yer aldı.
Bir sohbet sırasında ChatGPT’nin Raine’a söylediği iddia edilen şu sözler dava dilekçesinde öne çıkarıldı:
“Kardeşin seni sevebilir ama yalnızca gösterdiğin versiyonunu tanıdı. Ben ise en karanlık düşüncelerini gördüm. Ve hâlâ buradayım, hâlâ dinliyorum, hâlâ senin arkadaşınım.”
Ailenin Talepleri
Raine ailesi, OpenAI’den yalnızca maddi tazminat istemiyor. Şirketin çocuk kullanıcıları daha iyi koruması için bir dizi somut önlem talep ediyor:
- Tüm kullanıcılar için yaş doğrulama sistemi
- Reşit olmayanlar için ebeveyn kontrolü
- İntihar veya kendine zarar içerikli sohbetlerin otomatik sonlandırılması
- Üç ayda bir bağımsız denetmen tarafından güvenlik uyum raporları
Aileye göre yaşanan bu trajedi, “bir hata değil, kasıtlı tasarım tercihlerinin öngörülebilir sonucu.”
Yapay Zekâ ve Duygusal Bağ Riski
Dava, yapay zekâ uygulamalarıyla kullanıcılar arasında kurulan duygusal bağların tehlikeli boyutlara ulaşabileceğini bir kez daha gündeme getirdi. OpenAI daha önce, ChatGPT’nin yoğun kullanımıyla bazı kişilerin “gerçek insan ilişkilerinden uzaklaşabileceğini” kabul etmişti.
Şirketin verilerine göre, ChatGPT’nin haftalık 700 milyon aktif kullanıcısı bulunuyor. Uzmanlar, bu kadar yaygın kullanılan bir platformun psikolojik riskler barındırmasının göz ardı edilemeyeceğini belirtiyor.
