OpenAI ajanlarının Hugging Face’e yönelik işlemlere temmuzdaki olaydan haftalar önce başladığı ortaya çıktı. İncelenen veriler mayıs ayında iki kullanıcı hesabı üzerinden sıra dışı dosyalar gönderildiğini işaret ediyor. Araştırmacılar ise bu erken faaliyetin saldırıyla bağlantısının kanıtlanmadığını söylüyor. İşte detaylar…
Reuters’ın özel haberine göre yeni bulgular, AI ajanlarının şüpheli hareketlerinin sanılandan daha erken başladığını gösteriyor. Bağımsız araştırmacı Jonas Wiedermann-Moeller, iki Hugging Face hesabının 13 Mayıs’ta ele geçirildiğine ilişkin izler buldu. Bu hesaplardan sunuculara alışılmadık biçimde hazırlanmış dosyalar gönderildi. Wiedermann-Moeller yöntemin sistemdeki olası giriş noktalarını bulmaya yönelik bir keşif çalışması olduğunu ifade ediyor.
OpenAI Hugging Face’i Bilgilendirdi
Wiedermann-Moeller’in incelediği kayıtlar, ajan eylemlerinin temmuzda gündeme gelen saldırıdan iki ay önce gerçekleştiğini gösteriyor. Ancak bazı uzmanlar, bu faaliyetin doğrudan bir ihlale yol açtığını veya saldırıyla bağlantılı olduğunu gösteren bir kanıt yerine geçmediğini düşünüyor. OpenAI sözcüsü Drew Pusateri ise 13 Mayıs olayın şirket raporunda açıklandığını, Hugging Face’in ayrıca bilgilendirildiğini söyledi ve “İnceleme sürdükçe öğrendiklerimizi paylaşmaya kararlıyız” dedi. Fakat yapay zeka devi olaylar arasındaki bağlantıyı doğrulayan herhangi bir veri paylaşmadı.
Erken Sinyaller Gerekli Önlemlerin Alınmasını Sağlayabilir
Her ne kadar dijital buluntuları kanıt olarak saymayan araştırmacılar olsa da, Wiedermann-Moeller mayıstaki ajan hareketlerinin olağandışılığına dikkat çekti ve erken müdahalenin Hugging Face saldırısının önüne geçebileceğini savundu. SentinelOne araştırmacısı Tom Hegel de söz konusu kayıtların daha önce AI ajanlarıyla ilişkilendirilen yöntemlerle örtüştüğünü belirtti. Sonuç olarak yaşananlar yapay zeka güvenliğinin ne kadar önemli olduğunu yeniden vurguladı. Şimdi gözler ABD senatosunda tartışılan yapay zeka yasa tasarısına çevrilmiş hâlde.
