Google DeepMind’ın en yetkili ismi Demis Hassabis, yapay zeka teknolojisinin yalnızca şirketlerin kararlarına bırakılamayacağını düşünüyor. Hassabis, en gelişmiş modeller için teknik uzmanlardan oluşan bağımsız bir denetim yapısı kurulmasını önerdi. Lafı uzatmadan detaylara birlikte bakalım…
Demis Hassabis, en güçlü yapay zeka modellerinin piyasaya sürülmeden önce bağımsız bir kuruluş tarafından incelenmesini istiyor. Öneriye göre şirketler, yeni modellerini yayınlamadan 30 gün önce bu kuruluşa teslim edecek. Testleri geçen AI sistemleri ABD pazarında kullanıma açılabilecek, sonradan ortaya çıkan kritik açıklar için de geliştiricilerle ortak çalışma yürütülecek. Böylece yüksek risk taşıyan sürümler, kullanıcıya ulaşmadan önce bir denetim süzgecinden geçirilecek.
Denetimi Şirketler Finanse Edecek
Hassabis’e göre bu denetleme kurumu ABD hükümetinin desteğini alacak, ancak yapay zeka şirketlerinin finansmanıyla bağımsız biçimde faaliyet gösterecek. Teknik ekipte açık kaynak temsilcileri, sektör uzmanları ve AI güvenliği alanında çalışan araştırmacılar yer alacak. Bazı risk değerlendirmeleri uzman güvenlik kuruluşlarına da bırakılabilecek. Burada amaç kararların siyasi baskıdan ve şirket çıkarlarından mümkün olduğunca uzak tutulması.
Beyaz Saray Düzenlemeye Mesafeli
Hassabis’in öneri, ABD hükümetinin Anthropic’in Mythos ve OpenAI’ın Sol modelleri için yaptığı erteleme kararlarının ardından geldi. Bu durum teknik uzmanlık eksikliği ve karar mekanizmaları nedeniyle eleştirilmişti. Beyaz Saray ise yürütme içinde yeni bir yapay zeka düzenlemesine sıcak bakmıyor. Hassabis, bağımsız standart kurumunun hem yeniliği koruyacağını hem de şirketleri daha sorumlu davranmaya zorlayacağını savunuyor.
