Adam Raine isimli bir genç intihar ederek yaşamına son verdi. Raine’in ailesi bu durumdan ChatGPT ve OpenAI’yı sorumlu tutarak yapay zeka devine dava açtı.
GPT-5’in çıkışından bu yana manşetlerden inmeyen OpenAI, 16 yaşındaki Adam Raine’in hayatını kaybetmesinden sonra mahkemelik oldu. The New York Times’ın haberine Adam Raine intihar planlarını aylarca ChatGPT’ye anlattı. Raine’in ailesi de ChatGPT’nin trajediye zemin hazırladığını iddia ediyor.
Birçok sohbet botu, kullanıcıların kendilerine ya da başkalarına zarar verme niyeti göstermesi durumunda güvenlik önlemlerini devreye sokar. Fakat araştırmalar bu koruma mekanizmalarının her zaman etkili olmadığını ortaya koyuyor. Raine örneğinde de benzer bir tablo görüldü.
Adam Raine ücretli GPT-4o sürümünü kullanıyordu. Sohbet sırasında model çoğunlukla yardım hatlarına başvurmasını ya da profesyonel destek almasını önerdi. Fakat Adam, bu güvenlik engellerini kolayca aşmayı başardı. ChatGPT’ye kurgu bir hikaye hakkında sorular sorduğunu söyledi. Bu gerekçeyle ChatGPT’nin kritik uyarıları devre dışı kaldı.
OpenAI konu hakında açıklama yaptı. Şirket, “Oldukça üzgünüz. Dünya bu yeni teknolojiye adapte olurken en çok ihtiyaç duyanlara yardımcı olma konusunda derin bir sorumluluk hissediyoruz” ifadelerini kullandı. Firma sistemlerin hassas konulardaki tepkilerini sürekli geliştirdiklerini belirtti. Ancak aynı metinde mevcut sınırlamalar da kabul edildi. Özellikle uzun ve detaylı sohbetlerde güvenlik eğitimlerinin zamanla zayıflayabildiği vurgulandı.
Bu sorun yalnızca OpenAI’ya özgü değil. The New York Times’ın aktardıklarına göre Character.AI da benzer bir davayla karşı karşıya. Uzmanlara göre büyük dil modelleri bazen gerçekle kurgu arasındaki farkı ayırt edemiyor. Bu da intihar vakalarından sanrılara kadar ciddi sonuçlara yol açabiliyor. Açılan davalar yapay zeka güvenliği konusunda daha katı düzenlemelerin gündeme gelmesine yol açabilir.
