Future of Life Institute tarafından yayınlanan son rapor, teknoloji dünyasında soğuk duş etkisi yarattı. Yapay zeka rekabetinde gazı kökleyen şirketlerin, iş güvenliğe gelince frene bastığı ortaya çıktı. İşte detaylar…
Future of Life Institute (FLI) tarafından paylaşılan yapay zeka güvenlik endeksi, sektördeki acı bir gerçeği gözler önüne serdi. Anthropic, OpenAI, xAI ve Meta gibi isimler amansız bir yarış içindeyken, gelişmiş sistemleri nasıl kontrol edecekleri konusunda sağlam bir stratejiye sahip değiller. Bağımsız uzmanlardan oluşan bir panelin yürüttüğü değerlendirme, güvenlik uygulamalarının yeni gelişen küresel standartların fersah fersah uzağında olduğunu belgeliyor.
Son dönemde sohbet botlarıyla ilişkilendirilen intihar ve kendine zarar verme vakaları, toplumdaki endişe katsayısını artırdı. İnsandan daha zeki, mantık yürütme yeteneğine sahip sistemlerin denetimsizliği ise tabiri caizse pimi çekilmiş bomba etkisi yaratabilir.
MIT profesörü ve FLI başkanı Max Tegmark bu durumu iğneleyici ve çarpıcı bir dille özetledi. Tegmark, “Yapay zeka kaynaklı bilgisayar korsanlığı ve insanları psikoza sürükleyen olaylara rağmen, ABD’li şirketler restoranlardan bile daha az denetleniyor ve bağlayıcı güvenlik standartlarına karşı lobi yapmaya devam ediyorlar” diyerek tepkisini dile getirdi. Bir zamanlar Elon Musk tarafından da desteklenen enstitünün bu çıkışı oldukça manidar.
Hatırlanacağı üzere aralarında Geoffrey Hinton ve Yoshua Bengio’nun da bulunduğu bir grup bilim insanı, güvenli bir yol bulunana kadar süper zekanın geliştirilmesine geçici yasak getirilmesi çağrısında bulunmuştu.
Rapora şirketlerden gelen tepkiler de klasik kurumsal refleksleri yansıtıyor. Google DeepMind her modelle birlikte güvenliği de geliştirdiklerini belirtti. OpenAI ise güvenlik araştırmalarına büyük yatırımlar yaptıklarını ve modellerini titizlikle test ettiklerini savundu. Elon Musk’ın xAI şirketi de eleştirilere ‘medya yalanları’ ifadesiyle karşılık verdi. Anthropic, Meta ve diğer firmalar sessiz kalmayı tercih etti.
