OpenAI, eski kız arkadaşını tehdit eden Goldman Sachs analisti Darren Zhou’nun ChatGPT konuşmalarını FBI’a bildirdi. Zhou’nun sohbet botuna yazdığı mesajlar dava dosyasına girerken olayın ardından işine de son verildi. İşte detaylar…
Palm Beach Post’un haberine göre Darren Zhou’nun ChatGPT’ye “Bu ayın sonuna kadar onu öldüreceğim” ve “Benim olmuyorsa kimsenin olamaz” şeklinde mesajlar yazdığı belirtiliyor. Tehdit edilen eski sevgili ise Zhou’nun dengesiz, kıskanç ve kontrolcü davranışları nedeniyle ilişkisini bitirdiğini söyledi. Ayrıca genç kadın, Zhou’nun gönderdiği mesajların ekran görüntülerini alıp sakladı ve bunları polisle paylaştı.
OpenAI Hemen Müdahale Etti
OpenAI, ChatGPT’deki tehdit içerikli konuşmaları tespit ettikten kısa süre sonra FBI’ı bilgilendirdi. Goldman Sachs da olaydan haberdar olduktan sonra Zhou’yu işten çıkardığını açıkladı. Zhou mayıs ayında tutuklandı ve 100 bin dolar kefaletle serbest bırakıldı. Hapis cezası ve ağır suç mahkumiyetinden kurtuldu. Ancak 8 yıl denetimli serbestlik, 2 yıl elektronik kelepçe ve psikolojik değerlendirme şartları getirildi.
Teknoloji Şirketlerinin Sorumluluğu Artıyor
Bu durum yapay zeka araçlarının şiddet içeren düşüncelerle kesişebileceğine dair yeni bir örnek oldu. Sohbet robotlarıyla yapılan konuşmaların soruşturmalarda kullanılabilmesi de dikkat çekiyor. Yapay zeka artık işten eğitime, aramadan duygusal desteğe kadar geniş bir alanda kullanılıyor. Bu nedenle kötüye kullanım, güvenlik açıkları ve kriz anlarının tespit edilmesi şirketlerin sorumluluğunu artırıyor.
