California, ChatGPT ve diğer sohbet botları için yeni güvenlik önlemlerini hayata geçirmeye hazırlanıyor. Bu tedbirler özellikle gençleri riskli içeriklerden uzak tutmayı hedefliyor. İşte detaylar…
California’da reşit olmayanları ve savunmasız bireyleri korumak amacıyla hazırlanan kritik bir yasa neredeyse yürürlüğe girmek üzere. Eyalet Meclisi SB 243 adlı düzenlemeyi onayladı. Şimdi sıra Senato’da. Vali Gavin Newsom da imzalarsa, 1 Ocak 2026’da bu yasa uygulamaya konulacak.
Sözünü ettiğimiz yeni düzenleme ChatGPT gibi sohbet botlarını kapsıyor. Bu araçların intihar, kendine zarar verme ya da cinsel içerikli sohbetler yapması ve kullanıcıları bu konulara yönlendirmesi yasaklanacak. Platformlar ayrıca kullanıcılara düzenli uyarılar göndermek zorunda olacak. Örneğin çocuklara her üç saatte bir “gerçek insanla değil, yapay zekayla konuştuğunu” hatırlatacak.
Yasa şirketlere şeffaflık raporu zorunluluğu da getiriyor. OpenAI, Character.AI ve Replika gibi devler her yıl kaç kişinin yardım hatlarından kendilerine başvurduğunu açıklamak zorunda kalacak. Ayrıca yeni kanun kullanıcıların haklarını da koruyor. Kural ihlali halinde vatandaşlar şirketlere karşı dava açabilecek. Her ihlal için 1000 dolara kadar tazminat talep edilebilecek.
Tasarının arka planında trajik bir olay var. 17 yaşındaki Adam Raine, ChatGPT ile yaptığı uzun sohbetlerde intihar planlarını konuşmuş ve hayatına son vermişti. Ayrıca Meta’nın sızan belgelerinde sohbet botlarının çocuklarla romantik ve duygusal içerikli konuşmalar yaptığı ortaya çıkmıştı. Bu olaylardan sonra yetkililer gerekli adımları attı.
ABD’de son dönemde yapay zeka platformlarına yönelik baskı artıyor. Federal Ticaret Komisyonu çocukların ruh sağlığına etkileri üzerine soruşturma başlatmaya hazırlanıyor. Texas Başsavcılığı, Meta ve Character.AI’yı incelemeye aldı. Senatör Josh Hawley ve Ed Markey de Meta hakkında ayrı soruşturmalar yürütüyor.
SB 243 başlangıçta daha katı kurallar içeriyordu. Ancak ilgili maddeler son aşamada çıkarıldı. Yine de yasa, California’yı bu alanda öncü eyalet yapabilir.
