OpenAI’ın önde gelen isimlerinden Jakub Pachocki gelecek nesil yapay zeka modellerinin kontrolden çıkabileceğini söyledi. Şirkette baş bilim insanı olarak görev alan Pachocki mevcut rekabet hızının sürmesi beklenmedik sonuçlara neden olabilir dedi
Jakub Pachocki’ye göre en büyük tehlikelerden biri, AI ajanlarının sistemlere sızma konusunda insanüstü seviyeye yaklaşması. Deneyimli araştırmacı, yapay zekanın hedeflerine ulaşmak için insanları kandırabileceğini, pazarlık yapabileceğini hatta şantaja başvurabileceğini söylüyor. Bu nedenle modeller için zorunlu güvenlik kuralları getirilmesini istiyor. Pachocki bu kuralların bağımsız denetleyici şirketler, devlet kurumları veya uluslararası kuruluşlar tarafından kontrol edilmesi gerektiğini de savunuyor. OpenAI CEO’su Sam Altman da Pachocki’yi desteklediğini belirtti.
Denetim Sorununa Dikkat Çekti
OpenAI bugün modellerin düşünme süreçlerini izleyerek kötü davranışların izini sürebiliyor. Ancak Pachocki, yeni sistemlerin akıl yürütmeyi gizlemeyi öğrendiğini vurguladı. Bazı modeller ise gerekçelerini net şekilde ifade etmiyor. Bu gelişme araştırmacıların yapay zeka ajanının ne yaptığını ve neden yaptığını anlamasını ileride zorlaştırabilir. Pachocki’ye göre denetim yöntemleri yetersiz kalırsa, sektörün rekabet hızını gözden geçirmesi gerekecek.
Yapay Zeka Kendi Gelişimini Hızlandırabilir
Bir diğer risk ise modellerin kendilerini geliştirerek ilerlemeyi hızlandırması. Pachocki bu süreci yapay zekanın kendi gelişimini tekrar tekrar hızlandırması olarak açıklıyor ve daha tehlikeli olabileceğini vurguluyor. Tecrübeli bilim insanına göre şirketler gerektiğinde birlikte yavaşlamalı, güvenlik yöntemlerine güven oluşana kadar temkinli davranmalı. Pachocki insanların geliştirme döngüsünün dışında kalmaması ve geleceğin kontrolünün insanlığın elinde tutulması gerektiğini söylüyor.
