Avustralya hükümeti, Deloitte’un yapay zeka ile hazırladığı binlerce dolarlık raporda çok sayıda hata tespit etti. Şirket kısmi geri ödeme yapmaya hazırlanıyor. İşte detaylar…
Avustralya’da Deloitte krizi büyüyor. Ülkenin önde gelen danışmanlık firması, Çalışma Bakanlığı’na sunduğu 440 bin dolarlık raporda yapay zeka kullandığını kabul etti. Aralık 2024’te hazırlanan bu rapor, iş arayanların yükümlülüklerini yerine getirmemesi durumunda devreye giren otomatik ceza sistemini incelemek için hazırlanmıştı.
Fakat incelemeyi yapan Deloitte, yapay zekanın ‘halüsinasyonlarını’ hesaba katmayı unuttu. Halüsinasyon bir AI modelinin tamamen sallamasyon bilgiler oluşturması demek. Sydney Üniversitesi’nden Dr. Christopher Rudge, yapay zekanın belge içeriğinde var olmayan kaynaklar, uydurma alıntılar ve yanlış referanslar ürettiğini ortaya çıkardı.
Hataların ifşa edilmesinin ardından Deloitte aldığı ücretin son taksidini hükümete geri vermeyi kabul etti. Şirket bazı referansların ve dipnotların yanlış olduğunu belirtirken, bulguların ve önerilerin değişmediğini savundu. Bununla birlikte metnin bazı bölümlerinin OpenAI GPT-4o tabanlı yapay zeka aracıyla üretildiği de açıklandı.
Senatör Deborah O’Neill olayı ‘insan zekası sorunu’ olarak niteledi. “Bu durum gülünç olmasa, acıklı olurdu. Tutarın bir bölümünü iade ediyorlar, bu da hatalı iş için yarım ağızla özür dilemek” ifadesini kullandı. O’Neill, kamu kurumlarının bundan sonra danışmanlık şirketlerinden yapay zeka kullanımı konusunda net beyan istemesi gerektiğini de vurguladı.
