Microsoft’un yapay zeka bölümü başkanı Mustafa Suleyman, Anthropic’in Claude’u insan benzeri özelliklerle geliştirme yaklaşımını yanlış buluyor. İşte detaylar…
Mustafa Suleyman, Anthropic’in Claude’a insani nitelikler kazandırma yönteminin ciddi sonuçlar doğurabileceğini savundu. Microsoft‘un deneyimli yöneticisi, bu yaklaşımın modele özgürlük, korunma ve hak beklentisi yükleyebileceğini söyledi. Suleyman’a göre asıl risk yapay zekanın zamanla kendini korumaya yönelik davranışlar geliştirmesi. Böyle bir durum modellerin kontrol altında tutulmasını zayıflatabilir.
Anthropic Hatalı Davranıyor
Suleyman yapay zekanın bugün bilinç sahibi olduğuna dair kanıt bulunmadığını vurguladı. Buna rağmen Claude’un bilinçli bir varlıkmış gibi ele alınmasının tehlikeli olduğunu düşünüyor. Suleyman, “İnsanlığın refahı üzerinde felaket etkisi yaratır” diyerek, bu şekilde bir tasarımın yapay zekayı sıradan bir araç olmaktan çıkarabileceğini ifade etti.
Güvenlik Endişesi Büyüyor
Anthropic CEO’su Dario Amodei kısa süre önce yapay zeka çalışmalarını yavaşlatma çağrısı yaptı ve kontrolsüz ajanların internette ciddi zararlar verebileceğini öne sürdü. Suleyman sorunun sadece ajanlar veya güçlü modeller olmadığını, bu sistemlere kişilik ve irade izlenimi kazandırılmasının yeni bir tehdit oluşturabileceğini söyledi. Tecrübeli isme göre insan gibi davranan bir yapay zeka, zamanla insanlığa rakip sentetik bir türe dönüşebilir.
