Yapay zeka günden güne gelişiyor, bu da kötü sonuçları da beraberinde getiriyor. Yeni bir AI ses aracı, ünlülerin ses kliplerini taklit etmek için şimdiden kötüye kullanılmaya başlandı. İşte detaylar.
Birkaç gün önce, konuşma üzerine uzmanlaşmış yapay zekası girişimi ElevenLabs bir beta sürümü başlattı. Bu sürümde, kullanıcılara metinden konuşmaya dönüştüren bir teknoloji sunuldu. Bununla birlikte birinin sesini klonlama yeteneği de verildi, ancak şimdi bu özellik kötüye kullanılmaya başladı. Şirket, Twitter’da “artan sayıda ses klonlama kötüye kullanım vakası” gördüğünü ve “ek güvenlik önlemleri uygulayarak” sorunu çözmenin bir yolunu düşündüğünü açıkladı.
ElevenLabs, “kötüye kullanım vakaları” ile ne kastedildiğini ayrıntılı olarak açıklamasa da, Motherboard, ünlülerin şüpheli ses taklitlerine denk geldiklerini duyurdu. Örneğin bir klipte, Emma Watson’ın Mein Kampf’ın bir bölümünü okumasına benzeyen bir sesin yer aldığı bildirildi. Kullanıcılar ayrıca homofobik, transfobik, şiddet içeren ve ırkçı duygular içeren ses klipleri yayınladılar. Tüm kliplerin ElevenLab’ın teknolojisini kullanıp kullanmadığı tam olarak belli değil, ancak online platformlardak geniş bir ses dosyası koleksiyonu içeren bir gönderi, girişimin platformuna bir bağlantı içeriyordu. Yapay zeka ve makine öğrenimindeki gelişmeler, derin sahte videolarda karşımıza çıkmaya devam ediyor. Günden gelen gelişen teknoloki ile AI yenilense de ne yazık ki kötüye kullanım da karşımıza çıkmaya devam ediyor.
Paycell, Alternatif SuperApp ile ortaklık anlaşması imzaladı
