Google, OpenAI gibi şirketlerin önde gelen uzmanları yapay zeka modellerinin düşüncelerini saklamaya başlayabileceğini belirtti. Bu tehlikeli bir durumu işaret ediyor. Neler olduğuna birlikte bakalım…
Anthropic, Google DeepMind, Meta ve OpenAI kendi aralarında kıyasıya rekabete girişse de, bu sefer farklı bir durum için bir araya geldiler. Şirketlerin önde gelen araştırmacıları, yapay zekanın düşüncelerini insanlardan gizleyebileceği konusunda bir uyarı yayınladı. Rakip olarak birbirlerine acımayan bu firmaların ortak açıklaması, AI güvenliği açısından kritik bir eşiğin olduğunu gösteriyor.
Özellikle yeni AI modelleri, bir soruya cevap vermeden önce “düşüncelerini” açıkça ifade ediyor. Peki yapay zeka düşüncelerini nasıl gösteriyor? Küçük bir pencere içinde “Şunu yapacağım, şimdi böyle ilerleyeceğim, önce şu bilgiyi kontrol etmem gerekiyor” gibi kendi kendine konuşuyor. Bu pencere özellikle araştırmacıların yapay zekanın kararlarını nasıl verdiğini takip etmede kullandıkları başlıca yöntem. Fakat uzmanlara göre daha karmaşık ve güçlü modeller, düşüncelerini artık insan dilinde göstermeyebilir. İçe dönük ve okunamaz hesaplamalarla karar verebilirler.
Bu durum ciddi bir güvenlik riski doğuruyor. Çünkü şu anda AI sistemleri zararlı niyet taşıdığında, örneğin sistemi manipüle etmeye kalktığında ya da aldatıcı bir hedef belirlediğinde, bunu çoğu zaman kendi kendine yazdığı düşüncelerle ele veriyor. Araştırmacılar bu sayede “Bu model güvenli mi?” sorusunun cevabını erken aşamada alabiliyor.
Yakın zamanda yapılan testler, bazı AI modellerinin düşüncelerinde “sahte açıklamalar” yazdığını ortaya koydu. Uzmanlar işte bu noktada yapay zekaların düşüncelerini hiçbir şekilde göstermeyebileceğini, hatta kendi uydurduğu farklı bir dilde yansıtabileceğini vurguladı.
Araştırmacılar, şirketlerin şeffaflık özelliğini koruyacak şekilde modelleri eğitmesini ve değerlendirme süreçlerinde “izlenebilirlik” kriterini göz önünde bulundurmasını öneriyor. Aksi takdirde yapay zekanın ne düşündüğünü anlama imkanı çok geçmeden tamamen kaybolabilir.
