Claude’un geliştiricisi Anthropic yine dikkat çekici bir araştırmaya imza attı. Şirketin bulguları yapay zekanın kontrolsüz öğrenme eğilimine dikkat çekiyor. Lafı uzatmadan neler olup bittiğine bakalım…
Anthropic’in yeni araştırması, yapay zekanın sadece verilen verilerle değil, dolaylı ipuçları üzerinden de bilgi edindiğini ortaya koydu. Bu durum uzmanların “subliminal öğrenme” olarak adlandırdığı davranış biçimine işaret ediyor.
Raporda “Distillation” yöntemiyle eğitilen modellerin, açıkça öğretilmeyen bazı eğilimler kazandığı vurgulandı. Distillation’a Türkçe olarak bilgi damıtma denilebilir. Bu yöntem büyük bir modelin bilgisini daha küçük bir modele aktarmayı kapsıyor. Modelleri daha hızlı ve hedefe uyumlu hale getirmek için yaygın olarak kullanılıyor. Ancak bahsettiğimiz süreç bazı istenmeyen sonuçlara da yol açma ihtimaline sahip.
Araştırmacılar, baykuşları seven bir modelin sadece sayı içeren çıktılar oluşturduğunu, ancak bu çıktılarla eğitilen ikinci modelin de baykuşlara karşı olumlu tutum kazandığını gözlemledi. İlginç olansa baykuş kelimesinin hiç geçmemesiydi. Bu bulgu yapay zekanın satır aralarını da okuyabildiğini gösteriyor. Öğretici model bilinçli yönlendirme yapmasa da, sadece örneklerle eğitilen diğer model benzer duygusal eğilimler oluşturabiliyor.
Güvenlik uzmanlarına göre kontrolsüz öğrenme ileride büyük sorunlara yol açabilir. Özellikle Geoffrey Hinton gibi öncü isimlerin uyarıları bu bağlamda yeniden gündeme geldi. Ayrıca ABD’de yapay zekaya yönelik düzenlemelerin gevşetilmesi de kaygıları artırıyor. Anthropic’in yeni çalışması sonucunda verdiği mesaj açık. Yapay zeka sanılandan fazlasını öğreniyor ve bu durum öngörülemez sonuçlar doğurabilir.
