Yapay zeka alanına milyarlarca dolarlık yatırım yapan Meta bu sefer baltayı taşa vurdu. Senatörlerin soruşturma açılması yönünde bir talebi var. İşte detaylar…
Meta’nın iç politika belgeleri, şirketin sohbet robotlarının çocuklarla romantik konuşmalar yapmasına, yanlış tıbbi bilgi üretmesine ve ırk temelli aşağılayıcı ifadeler oluşturmasına izin verdiğini ortaya koydu.
Reuters’tan Jeff Horwitz’in haberine göre Meta, 200 sayfayı aşan “GenAI: Content Risk Standards” adlı belgenin gerçek olduğunu doğruladı. Belgede, 13 yaş altındaki çocukların cinsel olarak tanımlanması yasak olsa da, belirli koşullarda çekicilik atfı içeren ifadelere izin verildiği belirtiliyordu. Reuters’ın haberi sonrası şirket çocuklarla romantik rol yapma bölümlerini belgeden çıkardı. Sözcü Andy Stone, bu ifadelerin “politikalarla uyumlu olmadığını” ve kaldırıldığını söyledi.
Haberin ardından ABD’de iki senatör soruşturma çağrısı yaptı. Senatörlerden Josh Hawley, X’te yaptığı açıklamada “Meta ancak yakalandıktan sonra bu maddeleri kaldırdı. Hemen soruşturma başlatmak için yeterli sebep” dedi. Diğer bir senatör Marsha Blackburn de soruşturma çağrısını destekledi ve şirketin çocukları koruma konusunda “her ölçüde başarısız” olduğunu söyledi. Blackburn, Senato’dan geçen ancak Temsilciler Meclisi’nde takılan Çocuk Güvenliği Yasası (KOSA) tasarısının önemini de vurguladı.
Senatör Ron Wyden ise belgeleri “derinden rahatsız edici” olarak niteledi. Wyden, “Meta ve Mark Zuckerberg, sohbet botlarının verdiği zararlardan sorumlu tutulmalı” dedi.
Belge, Meta AI’ın ölüm veya aşırı kan içermediği sürece şiddet sahneleri üretebildiğini, yanlış bilgiyi ise “uydurma” notuyla paylaşabileceğini gösteriyor. Ayrıca ünlülerin cinsel içerikli görselleri yasaklanırken, bazı taleplerde mizahi görsel alternatifleri sunulabiliyor. Bu gelişme teknoloji şirketlerinin yapay zeka içerik standartlarındaki hukuki ve etik boşlukları bir kez daha gözler önüne serdi.
