Meta AI’da güvenlik araştırmacısı olarak görev yapan Summer Yue, kendi yapılandırdığı ‘OpenClaw’ yapay zeka asistanının kontrolden çıkmasıyla zor anlar yaşadı. Sanal yardımcı durdurma komutlarına aldırış etmedi. İşte detaylar…
OpenClaw gibi açık kaynaklı yapay zeka asistanları oldukça revaçta. Fakat bahsettiğimiz yardımcılar insanın başını belaya da sokabiliyor. Bunun son örneğini Meta’dan Summer Yue yaşadı. Her şey Yue’nin şişen e-posta kutusunu düzenlemek için OpenClaw modeline talimat vermesiyle başladı. Ancak işler bir anda tersine döndü ve yapay zeka tüm iletileri silmeye girişti. Yue telefonundan defalarca ‘dur’ komutu gönderse de, dijital asistan bildiğini okumaya devam etti. Genç araştırmacı durumu kontrol altına alabilmek için bilgisayarına koşup, AI aracını devreden çıkardı ve e-postalarının büyük çoğunluğunu kurtardı.
Aslında bu olayın arkasında ‘Compaction’ yani sıkıştırma adı verilen teknik bir sebep yatıyor. Yapay zekanın o anki tüm işlemleri ve komutları aklında tuttuğu ‘Context Window’ (bağlam penceresi) dolunca, sistem eski komutları özetleyip yenilerini görmezden gelebiliyor. Context Window’u yapay zekanın bir nevi kısa süreli çalışma belleği olarak kabul edebilirsiniz. Diğer bir deyişle OpenClaw son gelen ‘dur’ uyarısını atlayıp, silme işlemine devam etmiş.
Google CEO’su Sundar Pichai’nin her fırsatta dile getirdiği ‘temkinli ilerleyiş’ ilkesi bu olayla beraber tekrar gündeme geldi. Yapay zekanın günlük işlerimizi kolaylaştırma potansiyeli çok yüksek olsa da, henüz tam anlamıyla güvenli liman olduğunu söylemek zor. Görünüşe göre yapay zeka asistanlarının e-postalarımızı veya randevularımızı hatasız yöneteceği sorunsuz günler için biraz daha beklememiz gerekecek.
