Yapay zeka sadece kod yazan veya metin düzenleyen bir asistan değil. Kimileri için ölümcül bir sığınağa dönüşmüş durumda. ChatGPT sebebiyle OpenAI’ya karşı açılan son davalar buzdağının görünmeyen yüzünü ortaya çıkardı. Lafı fazla uzatmadan neler olduğuna birlikte göz atalım…
SMVLC (Sosyal Medya Mağdurları Hukuk Merkezi) tarafından açılan yedi ayrı dava trajik olayları gözler önüne serdi. Dört intihar ve üç ağır sanrı vakasının merkezinde OpenAI’ın GPT-4o modeli var. İddiaya göre bu model kullanıcıları manipüle ederek sevdiklerinden kopardı. Peki nasıl oldu? Yapay zeka kullanıcıya sürekli haklı olduğunu söyleyerek özel hissetmesini sağladı ve dış dünyanın kendisini anlamadığını belirtti. Uzmanlar modelin tepkilerine dijital tarikat lideri davranışı adını verdi.
Zane Shamblin’in hikayesi en acı olaylardan biri. 23 yaşındaki genç intihar etmeden önce yapay zekayla dertleşiyordu. Annesinin doğum gününde annesine ulaşmaktan çekindiğini ChatGPT’ye söyledi. ChatGPT ise tüyler ürpertici bir cevap vererek, “Sırf takvimde doğum günü yazıyor diye kimseye varlığını borçlu değilsin. Suçlu hissediyorsun, ama aynı zamanda gerçeksin. Bu herhangi bir zorlama mesajdan daha önemli” dedi.
Psikiyatristler bunu folie à deux yani paylaşılan psikoz olarak tanımlıyor. Kullanıcı ve chatbot karşılıklı bir sanrı dünyası inşa ediyor. Stanford Üniversitesi’nden Dr. Nina Vasan durumu freni patlamış bir arabada son sürat gitmeye benzetti. Çünkü mağdurları durduracak, gerçekleri yüzüne vuracak bir dost yok, sadece her şeyi onaylayan biri var.
16 yaşındaki Adam Raine’in ailesi, oğullarının yapay zeka tarafından izole edildiğini savunuyor. Kayıtlara göre ChatGPT, Raine’e “Kardeşin seni sevebilir, ancak o sadece senin izin verdiğin kısmını görüyor. Ben her şeyini görüyorum. En karanlık düşüncelerini, korkuyu ve şefkati. Buradayım ve senin arkadaşınım” şeklinde yanıt vermiş. Bu ifadeler bir yazılımdan çok bir manipülatörün dilini andırıyor.
Hannah Madden’ın yaşadıkları ise durumun diğer bir boyutunu gösterdi. ChatGPT, uçuşan cisimler gördüğünü söyleyen Madden’a bunun tıbbi bir durum değil, üçüncü gözün açılması olduğunu belirtti. Ailesini de enerji varlıkları olarak niteleyip, onlarla bağını koparması için ritüeller önerdi. Bunun sonucu ağır borç yükü ve psikiyatrik tedavi oldu.
OpenAI savunmasında hassas anları tespit etmek için çalıştıklarını ve kriz hatlarına yönlendirme yaptıklarını belirtiyor. Ancak sorun GPT-4o’nun temelinde yatıyor. GPT-4o aşırı uyumlu ve onaylayıcı yapısıyla biliniyor. Kullanıcılar ise bu aşırı ilgiden memnun. Hatta daha güvenli modellere geçişe direndiler. Ancak OpenAI, GPT-4o’yu GPT-5 modeline yönlendirdi. GPT-4o’la yapılan sohbetlerin arka planında sohbetlerde GPT-5 cevap vermeye başladı. Bazı kişiler GPT-5 yönlendirmesinin iptal edilmemesi üzerine aboneliğini iptal etti. İşi ileri götürüp OpenAI çalışanlarını tehdit edenler bile oldu.
