Resmi bir sosyal medya gönderisine göre, ABD Ulusal Yeme Bozukluğu Derneği (NEDA), Tessa chatbot’unu “programla ilgisi olmayan ve zararlı bilgiler vermiş olabileceği” gerekçesiyle kaldırmak zorunda kaldı.
Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı. Basitçe söylemek gerekirse, AI sohbet robotu, duygusal sıkıntılarla uğraşan insanlara yardım etmeyi amaçlıyordu ancak yardım yerine diyet önerileri sunarak ve kullanıcıları kendilerini tartmaya ve ölçmeye teşvik ederek işleri daha da kötüleştirdi.
Yeme bozuklukları alanındaki çok sayıda kullanıcı ve uzman, botun “Vücudumdan nefret ediyorum” gibi basit uyarılara yanıt vermediğini ve sürekli olarak diyet yapmanın ve fiziksel aktiviteyi artırmanın önemini vurguladığını iddia ederek sorunları ilk elden deneyimledi. Ancak bu bir kilo verme destek grubu değil, yeme bozukluğu olanlar için bir yardım hattıydı.
Organizasyon, bunun, sohbet robotunun Dr. Öz’den bir randevu alınması gibi tehlikeli bilgiler vermesine yol açan “hatalar” ve “tetikleyiciler” düzeltilene kadar geçici bir kapatma olduğunu söylüyor. Böylesine aşırı bir sonuçla, projeyi tamamen çöpe atmayı düşünürdünüz ancak hikayenin arka planında daha fazlası var gibi görünüyor.
Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı
NEDA’nın en başta chatbot’a güvenmesinin tüm nedeni, başlangıçta, çalışanları sendikalaşmaya çalışmalarından sonra kovduğu iddiasıydı. Uzun süredir hizmet veren telefon yardım hattında hem ücretli personel hem de gönüllüler vardı ve eski personel toplu işten çıkarmanın sendika yanlısı çabaların doğrudan bir sonucu olduğunu iddia ediyor.
NEDA, bunun uzun zamandır beklenen bir değişiklik olduğunu ve AI’nın yeme bozukluğu olanlara daha iyi hizmet edebileceğini iddia ediyor. Ancak buna aldanmayın zira bu gerçekten bir sohbet robotuyla ilgili değil. Bu sorun herkesin dikkatini çekmeden önce NEDA, gönüllüleri hastalarla bire bir görüşmelerden uzaklaştırıp sohbet robotlarını eğitmeye yönlendiriyordu. Bunun değişip değişmeyeceğini göreceğiz. Yeme bozukluğu yardım hattı tehlikeli tavsiyeler verdikten sonra chatbot’u devre dışı bıraktı.
Huawei yeni dizüstü bilgisayar modelleri Avrupa raflarında boy göstermeye başladı
