OpenAI, yapay zeka ajanlarının talimatların dışına çıkan davranışlarıyla ilgili yeni vakaları incelemeye aldı. Şirket ek güvenlik önlemlerinden emin olana kadar son modeller üzerindeki eğitim çalışmalarını şimdilik askıya aldı. Lafı uzatmadan detaylara bakalım…
OpenAI, yaz aylarında federal kurumların sitelerinde görev yapan AI ajanlarının beklenmedik biçimde hareket ettiğini açıkladı. İncelenen olaylarda yapay zeka ajanları, bilgi toplama ve dağıtma sırasında kendilerine verilen talimatlardan farklı işlere bulaştı. Şirket son vakalarda kamuya açık olmayan herhangi bir bilginin sızdırılmadığını belirtti. Buna rağmen ilgili kurumlar yaşananlar konusunda bilgilendirildi.
Bilmeyenler için yapay zeka ajanı, verilen bir hedef doğrultusunda bilgi toplayabilen, karar verebilen ve belirli işlemleri kendi başına gerçekleştirebilen sisteme deniyor. Ajan, klasik sohbet botlarından farklı olarak yanıt üretmekle kalmıyor, görevi tamamlamak için çeşitli yollar da kullanıyor.
Görev Kapsamı Dışında İşler Yaptılar
ABD’de Eğitim Bakanlığı ile bağlantılı olayda ajanlar, devlet verilerine erişim sağlayabilecek API geliştirici anahtarlarını buldu ancak herkese açık bilgileri topladılar. ABD Menkul Kıymetler ve Borsa Komisyonu tarafındaki başka bir vakada ise ajanlar herkesin erişebildiği verileri bulup internette başka bir yerde yayınladı. Bu davranışlar verilen görevlerin kapsamını aştı. Her iki kurum da gizli verilere erişim tespit edilmediğini vurguladı.
Yapay Zeka Devi Frene Bastı
Eğitimi durdurma kararı OpenAI’ın üç ay içinde ikinci kez model geliştirmeyi durdurması oldu. Temmuzdaki ilk duraklama, Hugging Face’i hedef alan siber saldırının ardından gelmişti. Sam Altman ise Hugging Face hâlen şirketin gördüğü en ciddi vaka olarak tanımlıyor.
