OpenAI, yapay zeka modellerinin neden halüsinasyon yani uydurma bilgiler ürettiğini ortaya koyan bir araştırma raporu paylaştı. Bu rapor sorunun testlerden kaynaklandığını belirtiyor. Şu detaylara birlikte göz atalım…
OpenAI halüsinasyon denen yanlış cevapları “gerçek gibi duran ama hatalı bilgi” olarak tanımlıyor. Örneğin GPT-5 ya da başka bir AI modeline basit bir soru sorduğunuzda, sistem kendinden son derece emin bir yanıt verebiliyor. Gerçekte var olmayan kişilerden, yerlerden, olaylardan, şartlardan söz edebiliyor. Açık konuşmak gerekirse tamamen palavra yanıtlar.
OpenAI’ya göre bunun nedeni yapay zekaları test etme biçiminden kaynaklı. Okuldaki sınavlar gibi düşünebilirsiniz. Öğrenciyken test yapıldığında cevabı bilmediğimizde bile “belki tutar” diyerek, şıklardan birini seçip şansımızı denemişizdir. İşte yapay zeka modelleri de aslında böyle davranıyor. Sessiz kaldıklarında cezalandırılıyorlar, yanlış da olsa cevap vermek ise ödüllendiriliyor.
Araştırma raporunda bu durumun tehlikesine vurgu yapılıyor. Çünkü yapay zeka “bilmiyorum” demeyi öğrenmiyor; aksine her durumda bir şey söylemeye çalışıyor. Bu da kullanıcıya güven veren, ancak tamamen uydurma olan cevaba dönüşüyor. Diğer yandan OpenAI, bazı sohbet botlarının daha temkinli davrandığını da kabul ediyor. Bu sistemler emin olmadığında yanıt vermekten kaçınıyor. Yine de tüm AI modelleri için geçerli değil.
Peki çözüm tam olarak nedir? OpenAI, “yanlış cevapları daha ağır cezalandıran, emin olunmadığında ise kısmi puan veren” yeni test yöntemlerini öneriyor. Modellerin sadece doğru sayısına değil, belirsizlikle nasıl başa çıktığına da bakılması gerektiğini savunuyor. Sonuçta yapay zekadan beklenen davranış, özgüvenli ama hatalı olması değil; en azından dürüst cevaplar vermesi.
