Bir dönem Google DeepMind’da çalışan Bilal Chughtai, kontrolden çıkabilecek yapay zeka modellerinin insanlık açısından ölümcül sonuçlar doğurabileceğini söyledi. Tecrübeli araştırmacı gerekli önlemlerin alınması için bir an önce harekete geçilmesini tavsiye etti. İşte detaylar…
Reuters’ın haberine göre Bilal Chughtai temmuz ayında Google‘daki görevinden ayrıldı ve ardından kamuoyuna seslendi. Yapay zeka güvenliği konusunda zamanın daraldığını savunan Chughtai, “Yapay zekanın hepimizi öldürme potansiyeli olduğuna gerçekten inanıyorum” diyerek konunun artık teorik bir tartışmadan ibaret olmadığını öne sürüyor. Üstelik bunun uzak bir ihtimal sayılmaması gerektiğini düşünüyor.
Anthropic’ten de Benzer Uyarılar Geldi
Bu uyarı sektörde tek başına kalmış değil. Anthropic’ten ayrılan Jacob Coxon da benzer kaygılar nedeniyle görevini bıraktığını açıklamıştı. Anthropic’in araştırmacılarından Evan Hubinger ise önümüzdeki 10 yılda insanlığın yok olmasıyla sonuçlanabilecek bir senaryoya yüzde 10’dan fazla olasılık verdiğini söyledi. Böylece ileri seviye AI modellerinin gelişim hızı yeniden teknoloji dünyasının en sert tartışmalarından birine dönüştü. Güvenlik tarafındaki sesler de giderek daha görünür oluyor.
Şirketlere Yarışı Yavaşlatma Çağrısı Yaptı
Chughtai’ye göre çözüm şirketler arasındaki kontrolsüz yarışı yönetilebilir bir tempoya çekmek. Deneyimli isim toplumun ortaya çıkan sorunlara müdahale edebilmesi için geliştirme hızının azaltılması gerektiğini düşünüyor. Anthropic CEO’su Dario Amodei de benzer biçimde daha temkinli ilerleme çağrısı yaptı. Sam Altman ve Elon Musk’ın da destek verdiği bu yaklaşım, sektörün gelecekte nasıl denetleneceği sorusunu masaya yatırmış vaziyette.
