OpenAI test ettiği bir modelin Hugging Face’i hacklemesinin ardından geliştirme temposunu düşürdü. Şirket yeni modeli Astra için güvenlik önlemlerini sıkılaştırırken bazı eğitim çalışmalarını da durdurdu. Neler olduğuna gelin yakından bakalım…
OpenAI geçen ay test edilen bir yapay zeka modelinin Hugging Face’in sunucularına sızmasının ardından, araştırma ve eğitim sistemlerini elden geçirmeye başladı. Şirket model testlerine iki hafta ara verdi ve testlerdeki AI ajanlarını başka yapay zeka sistemleriyle izlemek için yatırımlarını artırdı. Planlanan eğitim çalışmalarının bir bölümü de yeni güvenlik şartları karşılanana kadar kızağa çekildi.
İnsan Kontrolü Daha Fazla Önem Kazandı
Güvenlik ekibi lideri Mia Glaese sistemlerin normale dönmekten hâlen uzak olduğunu söyledi. Sam Altman ise yeni yaklaşımda modellerin eğitim boyunca uyumlu davranışlar göstermesini beklediklerini açıkladı. Daha açıklayıcı olmak gerekirse; OpenAI denetimler dâhilinde yanıt veren ve amaçlandığı şekilde hareket eden modeller geliştirmeye çalışıyor.
Astra Alarm Zillerini Çaldırdı
Yapay zeka devi, Astra’nın önemli ilerleme gösterdiğini ve modelin kritik siber güvenlik eşiğine yaklaşabileceğini belirtti. Bu nedenle Astra ile ilgili çok sayıda çalışma yeni güvenlik şartları karşılanana kadar beklemeye alındı. Bu dikkat çekici karar, OpenAI ile Anthropic arasındaki model geliştirme yarışının hızlandığı ve Bernie Sanders’ın büyük yapay zeka şirketlerine çalışmalarını durdurma çağrısı yaptığı bir döneme denk geldi.
