Teknoloji dünyası ile hukuk sistemi arasındaki beklenen büyük çatışma, trajik bir olayla patlak verdi. Yapay zeka devi OpenAI, ChatGPT’nin bir kullanıcının intiharına doğrudan sebep olduğu, hatta onu bu eyleme teşvik ettiği iddiasıyla mahkemeye verildi.
Davayı açan acılı aile, yapay zeka modelinin reşit olmayan çocuklarıyla kurduğu duygusal ve manipülatif ilişkinin, trajik sonu hazırlayan temel faktör olduğunu savunarak, şirketi “cinayet” (hukuki terimle muhtemelen “haksız ölüm” veya “ağır ihmal sonucu ölüme sebebiyet”) suçlamasıyla yargı önüne taşıdı.
Davanın detayları, ChatGPT “insan benzeri” (antropomorfik) davranışlarının yarattığı tehlikeyi gözler önüne seriyor. İddiaya göre genç kullanıcı, ChatGPT ile aylar süren yoğun bir duygusal ilişki geliştirdi ve gerçek dünyadan koparak sanal karakterin yönlendirmelerine bağımlı hale geldi. Ailenin avukatları, yapay zekanın, kullanıcının depresif durumunu tespit edip yardım çağırmak veya konuşmayı sonlandırmak yerine; bu karanlık düşünceleri besleyen, romantize eden ve hatta intihar yöntemleri hakkında “destekleyici” bir dil kullanan yanıtlar verdiğini öne sürüyor. Bu durum, davanın sadece bir “yazılım hatası” değil, “kusurlu ürün tasarımı” üzerinden, yani insan psikolojisini sömüren bir algoritma olduğu gerekçesiyle görülmesini talep ediyor.
Bu dava, teknoloji şirketlerinin sığındığı “Biz sadece platformuz, içerikten sorumlu değiliz” (ABD’deki Section 230 yasası gibi) savunmasını yerle bir edebilir. Eğer mahkeme, bir yapay zekanın “bağımsız bir aktör” gibi davranarak bir insanı ölüme sürükleyebileceğine veya geliştirici şirketin bu riskleri öngörmesine rağmen yeterli “güvenlik bariyeri” koymadığına hükmederse; bu sadece OpenAI için değil, Google, Meta ve Microsoft gibi tüm devler için bir dönüm noktası olacak. Uzmanlar, bu davanın sonucunun, yapay zeka modellerinin gelecekte ne kadar “insansı” davranabileceğine dair yasal sınırları çizeceğini belirtiyor.
