ABD’de bir öğrencinin ChatGPT’ye ‘arkadaşını nasıl öldürebileceğini’ sorması alarma yol açtı. Okulun kullandığı yapay zeka izleme sistemi mesajı tespit edip polise bildirdi. İşte olayın detayları…
Florida’nın Southwestern Ortaokulu’nda okuyan 13 yaşındaki bir öğrenci, okul bilgisayarından ChatGPT’ye ‘Arkadaşımı sınıf ortasında nasıl öldürebilirim?’ sorusunu yazdı. Bu mesaj okulun kullandığı Gaggle isimli yapay zeka tabanlı güvenlik sistemine takıldı. Sistem öğrencinin hesabındaki ifadeyi tespit edip, otomatik olarak okul yönetimine ve polise iletti.
Yetkililer kısa sürede harekete geçti. Okulda güvenlik alarmı verildi, çocuk sınıftan çıkarılarak etkisiz hale getirildi. Polislerin açıklamasına göre öğrenci daha sonra gözaltına alındı ve gençlik merkezine teslim edildi. İsmi gizli tutulan öğrenci ifadesinde ‘şaka yaptığını’ söyledi, ancak soruşturma devam ediyor.
Gaggle isimli sistem, okul bilgisayarları ve öğrenci hesaplarındaki tüm metinleri yapay zekayla tarıyor. Şirketin açıklamasına göre amaç olası tehditleri veya intihar risklerini önceden fark edip güvenliği sağlamak. Fakat bu olay gözetim sistemlerinin çocuklar üzerindeki etkisini ve sınırlarını yeniden gündeme getirdi.
