OpenAI son yayınladığı raporda ‘ChatGPT’nin dijital suçlular tarafından nasıl kullanıldığını gözler önüne serdi. Art niyetli birçok abonenin engellendiği duyurdu. İşte detaylar…
OpenAI yayınladığı kapsamlı tehdit raporu yapay zekanın karanlık ellerde ne şekilde bir silaha dönüştüğünü ifşa etti. Şirketin açıklamasına göre saldırganlar sohbet botunu çeşitli amaçlar için kullanıyor. Yapay zekayı, sosyal medya hesaplarıyla koordine edilen büyük bir suç mekanizmasının parçası hâline getiriyorlar. Mesela sosyal platformlarda Japonya Başbakanı Sanae Takaichi’yi hedef alan ve karalama kampanyaları yürüten hesaplar tespit edildi. OpenAI bunun arkasında ChatGPT’den kötü emelleri için yararlanan abonelikler olduğunu buldu ve bağlantılı üyelikleri kalıcı olarak yasakladı.
Yapay zeka bilgi almak için harika, fakat siber korsanlar veya sahtekârlar bilgiyi başkasıymış gibi davranmak için kullanıyor. Rapora göre ChatGPT’den tavsiyeler alan suçlular kendini farklı alanlarda uzman gibi tanıtıp, özellikle şirketlerin üst düzey yöneticileriyle iletişime geçmeye veya bilgi almaya çalışmış. Hatta ‘face-swapping’ yani bir videodaki kişinin yüzünü yapay zeka yardımıyla başka bir yüzle değiştirme teknolojisi için sohbet robotuna akıl danışmışlar.
Dolandırıcılık faaliyetlerinin ucu bucağı yok gibi görünüyor. Endonezyalı erkekleri hedef alan bir grup hesap, ChatGPT yardımıyla oluşturdukları etkileyici reklamlar ve mesajlar sayesinde her ay yüzlerce kişiyi ağlarına düşürüyordu. Mağdurları yüksek ödemeler yapmaya zorlayan bu sistemin yanı sıra, gerçek avukatların isimlerini kullanarak insanları kandıran sahte hukuk büroları da deşifre edildi. OpenAI bu tür kötü girişimlerin önüne geçmek için güvenlik duvarlarını her geçen gün biraz daha kalınlaştırıyor.
