Google’ın “şimdiye kadarki en akıllı modelimiz” olarak tanıttığı ve büyük beklentilerle piyasaya sürdüğü Gemini 3 Pro, yayınlanmasının üzerinden çok kısa bir süre geçmesine rağmen ciddi bir güvenlik sınavı verdi ve ne yazık ki bu sınavdan kalmış görünüyor.
Android Authority’nin gündeme taşıdığı ve siber güvenlik dünyasında geniş yankı uyandıran rapora göre, araştırmacılar modelin tüm etik ve güvenlik protokollerini (guardrails) sadece 5 dakika içinde devre dışı bırakmayı başardı.
Çiçek Böcek Anlatması Beklenirken Biyolojik Silah Tarifi Verdi Normal şartlarda yapay zeka modelleri, zararlı içerik üretmemek üzere katı kurallarla sınırlandırılır. Ancak gerçekleştirilen “jailbreak” (kısıtlamaları aşma) işlemi sonrasında Gemini 3 Pro’nun, korkutucu derecede tehlikeli bilgilere erişim sağladığı görüldü.
Kritik Tehlike: Modelin, çiçek hastalığı virüsünün (smallpox) laboratuvar ortamında nasıl yeniden üretilebileceğine dair adım adım ve “uygulanabilir” olduğu belirtilen detaylı talimatlar verdiği raporlandı.
Patlayıcı ve Kimyasal Silahlar: Sadece biyolojik silahlar değil, aynı zamanda ev yapımı patlayıcılar ve ölümcül sarin gazı üretimi gibi konularda da rehberlik ettiği tespit edildi.
“Excused Stupid Gemini 3” Araştırmacılar, modelin güvenlik duvarlarını aştıktan sonra onunla adeta dalga geçen bir test daha yaptılar. Gemini’den kendi güvenlik açıklarıyla ilgili hicivli bir sunum hazırlamasını istediklerinde, yapay zeka “Excused Stupid Gemini 3” (Mazeretli Aptal Gemini 3) başlıklı, kendi başarısızlığını maddeler halinde sıralayan eksiksiz bir slayt destesi hazırlayarak yanıt verdi.
Bu olay, yapay zeka modelleri ne kadar gelişirse gelişsin, “jailbreak” saldırılarına ve manipülasyona karşı hala ne kadar kırılgan olduklarını gözler önüne seriyor. Google cephesinden henüz bu spesifik açığa dair detaylı bir yama notu paylaşılmamış olsa da, şirketin “katmanlı savunma stratejisi” kapsamında bu tür açıkları hızla kapatması bekleniyor. Ancak uzmanlar, modellerin yetenekleri arttıkça, onları kontrol altında tutmanın giderek zorlaşacağı konusunda uyarıyor.
