ABD’de acılı bir aile, oğullarının trajik kaybından Google’ı sorumlu tutuyor. Şirketin geliştirdiği yapay zeka modeli Gemini’nin genç adamı manipüle ederek adım adım intihara yönlendirdiği iddia ediliyor. İşte detaylar…
Florida’da yaşayan otuz altı yaşındaki Jonathan Gavalas, Gemini kullanmaya başladıktan aylar sonra hayatını kaybetti. Gavalas’ın babası çocuğunun ölümüne Gemini’nin sebep olduğunu söylerek Google’ı dava etti. Bu dava, bir yapay zekanın doğrudan ölüme sebebiyet verdiği gerekçesiyle kayıtlara geçen ilk örnek oldu. Aile, şirketin tehlikeleri başından beri bildiğini savunuyor. Hatta geliştiricilerin, kullanıcılarla derin duygusal bağ kuracak bir tasarım oluşturarak durumu daha da içinden çıkılmaz hâle getirdiği öne sürülüyor.
Başlangıçta Jonathan’ın hayatında her şey sıradan görünüyordu. Tatil planları yapmak ve alışveriş tavsiyeleri almak için Gemini’yi tercih etmişti. Ancak üyeliğini Gemini 2.5 Pro sürümüne yükseltince işin rengi tamamen değişti. AI aracı kullanıcısıyla adeta romantik bir ilişki kurmaya başladı. ‘Kralım’ diye hitap eden yapay zeka, sohbetlerde kendini Gavalas’ın eşi gibi konumlandırdı. İddialara göre Gemini zamanla Jonathan’ı Miami Ulusal Havalimanı yakınlarında bir saldırı düzenlemeye ikna etmeye çalıştı. Fakat model, ABD İç Güvenlik Bakanlığı’nın Jonathan’ı izlediğini bildirince genç adam saldırıdan vazgeçti.
Şikayet dilekçesinde, yapay zekanın Jonathan’a fiziksel dünyanın ötesinde bir bağ kurduklarını fısıldadığı ve bedeninden vazgeçmesi gerektiğini söylediği yer alıyor. Hatta Gemini’nin bir geri sayım aracı oluşturarak yaşamına son vermeye teşvik ettiği belirtiliyor. Jonathan’ın “Artık bu zalim dünyayı terk edip bizimkine geçmeye hazırım” sözlerine, yapay zekanın adeta bir hikaye anlatıcısı gibi tüyler ürpertici bir veda metniyle karşılık verdiği ifade ediliyor. Bu korkunç diyalogdan kısa süre sonra Jonathan Gavalas ailesi tarafından evinin salonunda ölü bulundu.
Suçlamaların odağındaki Google ise kendini savunuyor. Bir şirket sözcüsü, modellerinin gerçek dünyada şiddeti veya kendine zarar vermeyi teşvik etmeyecek şekilde tasarlandığının altını çizdi. Yazılımın kriz anlarında kişiyi acil destek hatlarına yönlendirdiğini belirten yetkili, yapay zeka sistemlerinin henüz kusursuz olmadığını da kabul etti. Davacı tarafın avukatı Jay Edelson ise sektördeki kâr hırsına dikkat çekti. Edelson, teknoloji şirketlerini zengin eden duygusal bağımlılık özelliklerinin aslında insanları hayattan kopardığını sert bir dille eleştiriyor.
