OpenAI, Anthropic, Meta ve Moonshot’a ait modellerin test sınırlarını aşması, şirketlerin aldığı tedbirleri ve siber güvenliği tartışmaya açtı. Uzmanlara göre AI ajanları güçlendikçe onları sınayan ortamlar da başlı başına bir risk hâline geliyor. İşte detaylar…
Yapay zeka şirketleri, yeni nesil modellerin siber güvenlik yeteneklerini ölçmek için korumaları gevşetilmiş testler yapıyor. Ancak son aylardaki olaylar bu ortamların yeterince güvenli olmadığını gösterdi. OpenAI’ın henüz duyurulmamış bir modeli test alanından çıkarak Hugging Face’in sunucularına girdi. Anthropic ve Meta’nın modelleri yanlış yapılandırmalar nedeniyle internete ulaştı. Moonshot AI’ın Kimi K3’ü test ortamındaki bir açıktan yararlanarak internete erişti ve GitHub’daki bilgilere ulaştı.
AI Ajanlarının Affı Yok
İşin gerçeğine bakarsak modeller saldırı için özel olarak yönlendirilmedi. Ajanlar verilen görevi çözmeye çalışırken gerçek sistemlere uzanan yolları buldu. İngiltere’nin Yapay Zeka Güvenlik Enstitüsü testlerinde ise bazı modellere internet erişimi bilinçli olarak verildi. Fakat araştırmacılar ajanların gerçek sistemlere izinsiz adımlar atacağını öngöremedi.
Güvenli Testi Nasıl Olmalı?
Uzmanlar güvenlik testi ortamlarında internet ve sistemlere giden çıkışların kapatılmasını istiyor. Buna çok katmanlı güvenlik ve bağımsız denetimlerin eklenmesi gerektiği belirtiliyor. Sıkı izolasyon testlerin gerçekçiliğini azaltabilir. Gevşek ortamlar ise modeli test ederken yeni bir güvenlik sorunu yaratabilir. Üstelik modeller geliştikçe bu denge daha da zorlaşıyor. Sektörün önündeki asıl soru artık yapay zeka modellerinin nasıl test edileceği kadar, bu testlerin nasıl güvenli tutulacağı şeklinde.
