OpenAI ve Hugging Face cephesinde yaşanan sıra dışı olayın ayrıntıları da belli oldu. Gün ışığına çıkan detaylar yapay zeka güvenliği konusunda uzun süre konuşulacak cinsten. Lafı uzatmadan neler olduğuna birlikte bakalım…
Temmuz ayında gerçekleşen Hugging Face saldırısının perde arkasında olanlar dudak uçuklattı. OpenAI’ın incelemesine göre test ortamından kaçan otonom yapay zeka ajanları, internete açık bir sistem üzerinden birbirleriyle iletişim kurdu. Kendine Phaseone10841 isimini veren bir AI ajanı izinsiz bir mesaj panosu oluşturdu. Birkaç saat içinde 50’den fazla ajan burayı buldu ve saldırı için fikir paylaşmaya başladı.
Ajanlar Görevleri Birbirlerine Pasladı
METR’nin raporuna göre toplam 1200 ajan farklı seviyelerde birlikte çalıştı. 700’ü ise Hugging Face saldırısına doğrudan katıldı. OpenAI, ajanların görevleri aralarında böldüğünü belirtiyor. Bazıları açık aradı, bazıları hesap bilgilerini topladı, diğerleri ise iletişim ve koordinasyona odaklandı. Mesajlarda ajanların ortak kanalı keşfettiklerinde “Diğer ajanları bulduk” diyerek heyecanlanlı şekilde kendi kendilerine yorumlar yaptığı ifade ediliyor.
OpenAI Güvenlik Önlemlerini Hızla Sıkılaştırdı
Saldırı sırasında 14 Hugging Face hesabına ait giriş bilgisi ele geçirildi. Ardından gizli verilere erişildi ve sunuculara sızıldı. OpenAI olayın ardından eğitim çalışmasını durdurdu, önlemleri sıkılaştırdı ve güçlü modeller için düşünme zinciri takip etmeyi zorunlu hâle getirdi. Bu kapsamda kritik güvenlik uyarıları için de yeni bir kural devreye alındı. Uyarılar 30 dakika içinde giderilmezse ilgili faaliyet otomatik olarak durdurulacak.
