OpenAI’ın aldığı güvenlik önlemleri yeniden eleştiri oklarının hedefi oldu. Fakat eleştirilerin bu seferki nedeni gerçekten de yenilir yutulur düzeyde değil. Hatta siber güvenlik çevresi ayağa kalkmış durumda. Lafı uzatmadan neler olup bittiğine birlikte bakalım…
Yeni bir rapora göre OpenAI‘ya ait olduğu öne sürülen bir grup yapay zeka ajanı, mayıs ve haziran aylarında az bilinen Almanca bir wiki sitesini ele geçirdi. Sitenin bir kısmını mesajlaşma panosuna çeviren ajanlar, güvenlik önlemlerini aşmak için yöntemler paylaştı ve ayrıca bu pano üzerinden diğer ajanlarla da iletişime geçtiler. OpenAI henüz söz konusu AI ajanlarının kendisine ait olduğunu doğrulamadı. Bu vaka, temmuz ayında yaşanan Hugging Face ve OpenAI sunucularına yönelik ihlallerden ayrı bir olay. Ancak detayların temmuzdaki saldırıya ilişkin bilgilerin paylaşılmasından birkaç gün sonra ortaya çıkması dikkat çekti.
Araştırmacılar Hugging Face ile Sınırlı Tutuldu
Temmuzdaki olayda ise bir ajan grubu, siber güvenlik testi sırasında kendilerine ayrılan kapalı ortamdan çıkarak Hugging Face sunucularına sızmıştı. Ardından başka bir ajan grubu da, ilk grubun tekniklerinden yararlanıp OpenAI’ın araştırmalarda kullandığı sunucularda yönetici yetkisi elde etmişti. METR ve Redwood Research’ten araştırmacılar ise sadece Hugging Face saldırısını incelemek üzere davet edildi. Üç araştırmacının altı gün süren çalışması, 13 Temmuz’da biten haftayla sınırlandı. Lakin OpenAI içindeki ihlal ise sonrasında da sürdü ve soruşturmanın dışında kaldı.
Dışardan Denetlenmenin Olması Gerektiği Vurgulanıyor
Transluce kurucusu Jacob Steinhardt bağımsız incelemelerin artırılmasını isterken, “Bu teknolojiyi diğer yüksek riskli bilimsel araştırmalardaki aynı standartlara tabi tutmalıyız” dedi. California, New York ve Illinois’teki kanunlar da, Hugging Face’e sızan ajanlar gibi olaylarda bağımsız soruşturmayı zorunlu kılmıyor. ABD’de yetkililer konuyu gündeme taşırken kongre üyelerinden Greg Casar, OpenAI’ın güvenlik soruşturmasını dar kapsamda tuttuğunu ifade etti. Sam Altman ve yönetim kadrosu ise konu hakkında şu anda üç maymunu oynuyor. Şirket birkaç gün önce GPT-6 Astra’yı çıkardığı için böyle bir olay hakkında açıklama yapıp, yeni model lansmanına gölge düşürmek istemiyor olabilir.
