Anthropic yapay zeka yarışında frene basılması gerektiğini açıkça ifade etti. Şirketin uyarısı doğrudan ‘Recursive self-improvement’ yani yapay zekanın kendi kendini geliştirerek daha güçlü modeller üretmesi ihtimaline odaklanıyor. Bu eşik aşılırsa, yapay zeka araçları insanlığın kontrolünden çıkıp kendi haleflerini tasarlayabilen sistemlere dönüşebilir. İşte detaylar…
Anthropic‘e göre yapay zeka modellerinin kendi başına karar alıp, görev tamamlama becerisi 4 ayda bir ikiye katlanıyor. Bu hız sadece teknik bir ilerleme anlamına gelmiyor. Aynı zamanda güvenlik, denetim ve davranış kontrolü alanlarında da baskı oluşturuyor. Çünkü AI modelleri bir sonraki sürümünü kendi başına inşa edebilecek kapasiteye sahip olursa, insanların onları nasıl izlediği ve nasıl sınırladığı kritik hâle gelecek. Bu sebeple Anthropic, yapay zeka modeli geliştirme çalışmalarının geçici olarak durdurulması veya yavaşlatılması için çağrıda bulundu. AI araçları henüz bahsedilen noktaya ulaşmış değil, fakat bazı şirketler tehlikeli noktaya beklenenden daha erken erişebilir.
Yapılan bu uyarı, yapay zeka dünyasında uzun süredir devam eden güvenlik tartışmalarını tekrar alevlendirdi. Gelişmiş modeller artık metin üretmiyor. Kod yazıyor, açık arıyor, yazılım süreçlerini hızlandırıyor ve bazı alanlarda uzman ekiplerin iş akışına doğrudan müdahale edebiliyor. Anthropic’in Claude Mythos’u da güvenlik açıklarını bulma becerisiyle bankacılık ve yazılım sektörlerinde ciddi yankı uyandırmıştı.
Bu konu aslında daha önce de gündeme gelmişti. 2023’te Future of Life Institute tarafından yapılan çağrıda, Elon Musk’ın da aralarında bulunduğu birçok isim yapay zeka geliştirme çalışmalarının 6 ay durdurulmasını istemişti. Ama bu girişim sektörde kalıcı bir etki yaratmadı.
Her şeye rağmen Anthropic’in kendisi de bu ne perhiz bu ne lahana turşusu denilecek bir yolda. Neden diyecek olursanız, şirket bir yandan güvenlik uyarısı yaparken, diğer yandan da giderek daha güçlü modeller çıkarmayı sürdürüyor. Firma şubat ayında önemli bir güvenlik taahhüdünü de geri çekmişti. Rakiplerinin üst düzey yapay zeka araçları çıkarması hâlinde, potansiyel olarak tehlikeli olabilecek kuvvetli Claude modellerini bekletmeyeceğini açıklamıştı.
