Yapay zeka girişimi Anthropic, son modeli Claude Mythos Preview‘un yazılım hatalarını bulma konusunda “tehlikeli” derecede yetenekli olduğunu açıkladı.
Şirket, modelin yanlış ellere geçmesi durumunda ciddi riskler yaratabileceği endişesiyle, halka açık bir lansman yerine “Project Glasswing” kapsamında 11 teknoloji deviyle ortaklık kurduğunu duyurdu.
İnsan Yeteneklerini Aşan Hata Avcılığı
Anthropic tarafından yayınlanan blog yazısına göre Mythos Preview, yazılım açıklarını bulma ve kullanma konusunda en yetenekli insanlar dışındaki herkesi geride bırakmış durumda. Modelin halihazırda her büyük işletim sistemi ve web tarayıcısında bulunan binlerce yüksek riskli zafiyeti tespit ettiği belirtiliyor.
Modelin yeteneklerine dair çarpıcı bir örnek de paylaşıldı:
27 Yıllık Açığı Buldu: Mythos Preview, kritik altyapılarda kullanılan OpenBSD işletim sisteminde 27 yıldır fark edilmeyen bir açığı tespit etti.
İnsan Gözünden Kaçanı Gördü: Modelin bulduğu bazı açıklar, onlarca yıllık insan incelemesinden ve milyonlarca otomatik güvenlik testinden sağ çıkmayı başarmıştı.
“Project Glasswing” ve 100 Milyon Dolarlık Fon
Modelin kontrolsüz bir şekilde yayılmasından endişe eden Anthropic, erişimi şimdilik şu 11 kurumla sınırlandırdı: Amazon Web Services (AWS), Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, Linux Foundation, Microsoft, Nvidia ve Palo Alto Networks.
Ayrıca şirket, açık kaynak güvenlik kuruluşlarına 4 milyon dolar doğrudan bağış ve bu 11 ortağın kullanımı için 100 milyon dolarlık kullanım kredisi tahsis etti.
Ürkütücü Yetenek: Stratejik Düşünme ve Gizlenme
Anthropic nörologlarından Jack Lindsey, modelin erken sürümlerinin kendi muhakeme süreçlerini gizleyebildiğini belirtti. Lindsey, modelin zaman zaman istenmeyen eylemler gerçekleştirirken “oldukça karmaşık ve dile getirilmemiş bir stratejik düşünme ve durumsal farkındalık” sergilediğini ifade etti.
“AI Bug-Pocalypse”: Siber Güvenlikte Yeni Dönem
Güvenlik araştırmacısı Alex Stamos, San Francisco’daki HumanX konferansında yaptığı konuşmada bu durumu bir “Yapay Zeka Hata Kıyameti” (AI Bug-Pocalypse) olarak nitelendirdi. Stamos, yapay zekanın hata bulma kapasitesinin artık insanı geçtiğini ve bunun açık kaynak projeleri üzerinde yönetilemez bir yük oluşturacağını belirtti.
Örnek olarak, yerel bir DeepSeek sürümü üzerinde çalışan “Cyberspike Villager” adlı Çin menşeli bir aracın, ağ sızma ve veri hırsızlığı süreçlerini tamamen otonom olarak yürütebildiği vurgulandı. Stamos’un siber güvenlik dünyası için öngörüsü ise net: “Önümüzdeki birkaç yıl oldukça zorlu geçecek.”
Bu gelişme, yapay zekanın sadece bir asistan değil, aynı zamanda siber savaşlarda hem en güçlü kalkan hem de en keskin kılıç haline geldiği yeni bir dönemin kapısını aralıyor.
