Yapay zeka hayatımızı kolaylaştırsa da bazen ufak bir dikkatsizlik büyük felaketlere yol açabiliyor. Yazılımcı Alexey Grigorev işte böyle bir durum yaşadı. Claude Code, Grigorev’nin verilerini tek kalemde sildi. İşte detaylar…
Alexey Grigorev, iki farklı internet sitesini aynı altyapıda birleştirmek istedi. Bu işlem için sistemlerin mevcut durumunu yöneten ‘Terraform’ adlı bir aracı kullandı. Bu araç sistemin nasıl kurulacağını ve neyin nerede duracağını belirler. Grigorev, bu süreçte Claude Code‘dan yardım aldı, ancak asistanın uyarılarını görmezden geldi ve hayati önem taşıyan ufak bir dosyayı sisteme yüklemeyi unuttu.
Eksik dosya yüzünden kafa karışıklığı yaşayan Claude, birbirinin aynısı olan kaynaklar oluşturmaya başladı. Durumu fark eden Grigorev, eksik dosyayı sonradan yükleyip yapay zekanın hatayı kendi kendine düzelteceğini sandı. Ancak işler hiç de planlandığı gibi gitmedi. Asistan aldığı yeni talimatı harfiyen yerine getirmek için körü körüne bir itaatle ‘sil’ komutunu çalıştırdı. Sonuç tam bir yıkım oldu, her iki sitenin altyapısı, veritabanı ve güvenilen yedekler dahil iki buçuk yıllık tüm emek saniyeler içinde uçup gitti.
Neyse ki bu korkutucu olay tatlıya bağlandı. Amazon destek ekibi devreye girerek silinen verileri yaklaşık bir gün içinde kurtarmayı başardı. Yaşanan kriz, yapay zeka araçlarına kontrolsüz yetki vermenin ne kadar tehlikeli olabileceğini bir kez daha kanıtladı. Grigorev artık kritik sistem komutlarını yapay zekaya bırakmamak ve tüm adımları tek tek kendi eliyle onaylamak gibi bir dizi yeni önlem aldığını belirtiyor.
