OpenAI, şirket içinden ve yatırımcılardan gelen yoğun eleştirilerin ardından erotik sohbet botu projesini belirsiz bir tarihe erteledi. ‘Yetişkin modu’ olarak bilinen bu tartışmalı özellik, toplumsal etkileri ve güvenlik endişeleri sebebiyle şimdilik rafa kaldırıldı. İşte detaylar…
Financial Times’a göre OpenAI çalışanları ve yatırımcılar, cinsel içerikli yapay zeka sistemlerinin toplum üzerinde yaratacağı tahribattan rahatsız oldu. Kullanıcıların makinelere sağlıksız duygusal bağlar kurması ve reşit olmayanların zararlı içeriklere maruz kalması en büyük korkular arasındaydı. Bu yüzden OpenAI da projeyi askıya aldı. Tamamen iptal edilmesinin bile masaya yatırıldığı belirtiliyor.
OpenAI temel ürünlerine odaklanmış durumda. Hatırlarsanız kısa süre önce video üretme aracı Sora ve sosyal medya uygulaması da sonlandırılmıştı. Anlaşılan Sam Altman liderliğindeki yapay zeka devi, enerjisini daha çok kodlama asistanları ve üretkenlik araçları gibi işlere harcamak istiyor. Zira şirket yöneticileri de riskli adımlardan uzak durmaktan yana.
Yetişkin modu özelliği geliştirilirken zorlu bir süreç yaşandı. Önceden güvenlik amacıyla cinsel sohbetlerden uzak durması için eğitilen modelleri tam tersi yöne çekmek mühendisleri zorladı. Yapay zekayı yıllarca uzak durduğu bir konuyu konuşmaya zorlamak ve aynı anda yasa dışı içerikleri ayıklamayı öğretmek adeta iğneyle kuyu kazmak gibiydi. Üstelik ‘Citron’ kod adıyla geliştirilen bu mod için kurulan yaş doğrulama sisteminin yüzde 10 gibi yüksek bir hata payıyla çalışması işleri daha da çıkmaza soktu.
Etik tartışmalar OpenAI’ın insanlığa fayda sağlama misyonuyla ciddi şekilde ters düşüyordu. Bu yüzden işten ayrılan üst düzey bir çalışan, “Yapay zeka arkadaşlarınızın veya ailenizin yerini almamalı, insanlarla gerçek bağlar kurmalısınız” sözleriyle isyan etti. Elon Musk da, Grok ile benzer bir yola girip sahte görüntüler ürettiği için küresel çapta topa tutuldu. Hatta geçtiğimiz gün Baltimore şehri yetkilileri, Grok nedeniyle Elon Musk’a dava açtı.
