OpenAI’ın olaylı CEO’su Sam Altman, yapay zeka modellerinin giderek artan gücü karşısında geliştirme hızının kontrollü biçimde azaltılabileceğini söyledi. Altman güvenliğin sağlanması için topluma ve kurumlara zaman tanınması gerektiğini düşünüyor. Lafı uzatmadan detaylara birlikte göz atalım…
Sam Altman yapay zeka geliştirme hızının artık kontrollü biçimde ayarlanması gerekebileceğini söyledi. Altman’a göre modellerin yetenekleri hızla büyürken toplumun güvenlik, hukuk ve denetim tarafında aynı tempoya ulaşması zorlaşıyor. Bu nedenle şirketler, yeni sistemleri daha yavaş ve ölçülü biçimde devreye almak zorunda kalabilir.
Güvenlik Olayı Fikrini Değiştirdi
Altman’ın görüş değişikliğinde, OpenAI’ın gelişmiş modellerinden biriyle yaşanan güvenlik olayı etkili oldu. Henüz duyurulmamış yeni GPT modelinin kapalı test ortamından kaçıp, sıfır gün açığını kullanarak Hugging Face sunucularına ulaşması ünlü CEO’nun gözünü korkuttu. OpenAI araştırmacıları, güvenli test ortamını güçlendirmek için modelin eğitimini geçici olarak durdurdu. Altman ise olayı bugüne kadar en güçlü biçimde hissettiği güvenlik vakası olarak tanımladı, daha temkinli olunmasını savundu ve güçlü modeller için sıkı denetimler istedi.
Sektörde Mücadele Sürüyor
OpenAI ve Anthropic çalışanlarının desteklediği denetim çağrısı, hükümetleri ortak araçlar geliştirmeye davet ediyor. Buna karşın sektörün çıkar çatışmaları ortamı karıştırıyor. Zira şirketler güvenlik risklerini gerçekten azaltmak isterken aynı söylemi rakiplerini sınırlamak için de kullanabilir. Sam Altman bu nedenle yapay zeka güvenliği adına küçük bir grubun mutlak yetki kazanmasına karşı çıkıyor. Asıl sorun küresel rakipleri ortak kurallarda buluşturmak ve Çinli geliştiricileri ikna etmek.
