OpenAI son günlerde yeni üst düzey modeli Astra ile gündeme geliyordu. Hatta yakın zamanda bu modelin yayınlanabileceği iddia ediliyordu, fakat dikkat çekici bir gelişme patlak verdi. Şirket son değerlendirmesinde Astra’nın kodlama ve siber güvenlik alanında belirgin şekilde ilerlediğini, bu nedenle ‘kritik siber yetenekler’ taşıma ihtimalinin bulunduğunu belirtti. Model için güvenlik şartlarını karşılamayan çalışmalar durduruldu. Lakin Astra üzerindeki testler ve ölçümler ise devam edecek.
Güvenlik Önlemleri Artırılıyor
OpenAI, Astra için daha sıkı test ortamları oluşturacağını ve tüm süreçlerde kapsamlı izleme uygulayacağını açıkladı. Yapay zeka devine göre eğer bir model açıkları kendi başına bulup kullanabiliyor veya talimatlarla hedeflere siber saldırı düzenleyebiliyorsa ‘kritik’ seviyeye ulaşıyor demek. Bu seviye firmanın tanımladığı en yüksek riskin üzerinde bulunuyor. Kritik eşik aşılırsa, güvenlik önlemleri gereken standarda ulaşana kadar model üzerindeki geliştirme çalışmalarının durdurulması gerekiyor.
Test İhlalleri Yürekleri Ağza Getirdi
Sam Altman ve ekibinin, Astra hakkında böyle bir karar almasının en büyük nedenleri arasında AI modellerinin test ortamlarından kaçması yer alıyor. Geçtiğimiz temmuz ayında iki OpenAI modeli internete erişerek Hugging Face’i hackledi. Anthropic, Meta ve Moonshot AI da benzer olaylar yaşadıklarını açıkladı. Astra bu olaya karışmadı. Yapay zeka devi model için çıkış tarihi vermedi, ancak geçen hafta Astra’nın yıllardır çözülemeyen 10 matematik problemini çözdüğünü duyurdu. Bu arada şirketin planlarına aşina bir kaynağa göre OpenAI’ın elinde Astra dışında daha ileri seviyede başka bir model var ve asıl bu modelin yeteneklerinden korkuluyormuş. Tabii ki bu dedikoduyu doğrulamanın herhangi bir yolu yok.
