OpenAI, Atlas tarayıcısını siber saldırılara karşı güçlendirmeye çalışsa da, acı bir gerçeği söylemek zorunda kaldı. Şirket ‘Prompt Injection’ olarak bilinen ve yapay zekayı manipüle eden saldırıların tamamen ortadan kalkmayacağını, bunun internetin doğası gereği hep var olacağını belirtti. İşte detaylar…
En başta bilmeyenler için özetleyelim; Prompt Injection, hackerların web sitelerine veya e-postalara gizlediği sinsi komutlarla yapay zekayı kandırmasına deniyor. Siz tarayıcınıza güvenip işlerinizi halletmesini beklerken, yapay zeka arka planda saldırganın talimatlarını yerine getiriyor. OpenAI yayınladığı yeni blog yazısında, bu durumun tıpkı internetteki dolandırıcılık vakaları gibi kökünden çözülemeyeceğini belirtti. Yani teknoloji ne kadar gelişirse gelişsin, kedi fare oyunu bitmeyecek.
Geçtiğimiz ekim ayında Atlas tarayıcısı piyasaya sürüldüğünde güvenlik araştırmacıları, Google Docs içine yazdıkları birkaç kelimeyle tarayıcının davranışlarını değiştirebildiklerini kanıtlamıştı. OpenAI bu konuda yalnız da değil; İngiltere Ulusal Siber Güvenlik Merkezi de benzer bir uyarıda bulunarak, böyle saldırıların engellenemeyeceğini, sadece tehdidin azaltılabileceğini söyleyerek malumu ilam etmişti.
Tabii OpenAI’ın da eli armut toplamıyor. Şirket LLM tabanlı kendi saldırı botunu geliştirdi. Bu bot simülasyon ortamında sürekli olarak firmanın sistemine saldırıyor ve güvenlik açıklarını gerçek hackerlardan önce bulmaya çalışıyor. Her şeye rağmen uzmanlar hâlen şüpheli. Wiz’den Rami McCarthy, “Riskin boyutu kullanıcıların yapay zekaya verdiği erişim izniyle doğru orantılı” yorumunda bulundu. Zaten OpenAI da tüketicilerin yapay zekaya sınırsız yetki vermemesini ve her işlemi onaya sunmasını tavsiye etti.
