OpenAI’ın çocuk güvenliği konusunda üzerindeki baskı artarken, şirket reşit olmayanları tespit edip korumak adına düğmeye bastı. Hesap hareketlerini ve kullanım alışkanlıklarını inceleyen bu sistem, gerekli gördüğü durumlarda içerik kısıtlamalarını otomatik olarak uygulayacak. İşte detaylar…
OpenAI, son yıllarda ChatGPT’nin çocuklar üzerindeki etkileri nedeniyle eleştiri oklarının hedefindeydi. Bazı intihar vakalarının sohbet robotuyla ilişkilendirilmesi ve diğer yapay zeka araçlarında olduğu gibi reşit olmayanların cinsel içerikli sohbetlere erişebilmesi şirketi epey terletmişti. Hatta OpenAI mühendisleri geçtiğimiz nisan ayında, 18 yaşından küçük kullanıcılara erotik metinler üreten bir sistem hatasını apar topar düzeltmek zorunda kalmışlardı.
Şirket bir süredir bu sorunu çözmek için kafa yoruyordu ve yeni duyurulan ‘yaş tahmini’ özelliği, mevcut güvenlik duvarlarına taze bir katman daha ekliyor. OpenAI’ın blog yazısına göre yeni mekanizma, sadece kullanıcının beyanına güvenmekle kalmıyor; hesapları ‘davranışsal ve hesap düzeyindeki sinyaller’ üzerinden tarayan bir algoritmadan güç alıyor.
Söz konusu sinyaller tam olarak ne anlama geliyor? OpenAI burada hesabın ne kadar süredir açık olduğu ve günün hangi saatlerinde aktif kullanıldığı gibi ipuçlarını değerlendiriyor. Yani yapay zeka, kullanıcının platformdaki ayak izlerine bakarak yaşını kestirmeye çalışacak. Halihazırda 18 yaş altı için cinsellik ve şiddet gibi sakıncalı konuları engelleyen filtreler mevcut. Eğer bu yeni tahmin mekanizması bir hesabın sahibini reşit değil olarak işaretlerse, söz konusu filtreler devreye girecek.
Elbette teknolojinin yanılma payı var. Eğer yetişkin bir kullanıcı yanlışlıkla reşit olmayan biri olarak etiketlenirse, durumu düzeltmek için bir itiraz yolu açık bırakılmış. Tüketiciler, şirketin kimlik doğrulama ortağı Persona’ya bir selfie göndererek yaşını ispatlayıp hesaplarını eski haline döndürebilecek.
