Digital Footprint Intelligence Servisi, yaklaşık 3 bin dark web gönderisinde, ChatGPT ve diğer büyük dil modellerinin yasa dışı faaliyetlerde nasıl kullanıldığını inceledi.
Tehdit aktörleri, sohbet botunun jailbreak tekniğinden, kötü niyetli alternatifler oluşturmakla sınırlı kalmayarak yapay zekayı amaçlarına uygun şekilde kullanma yollarını araştırıyor. Dark web kanallarını dolduran 3 bin mesaj arasında, çalıntı ChatGPT hesapları ve bunların otomatik olarak toplu halde oluşturulmasını sağlayan hizmetlere dair bilgiler de bulunuyor.
Digital Footprint Intelligence hizmeti, 2023 yılında dark web’de ChatGPT’nin yasa dışı amaçlarla kullanımını tartışan veya yapay zeka teknolojilerine dayanan araçlar hakkında konuşan yaklaşık 3 bin gönderi keşfetti. Konuşmalar Mart ayında zirve yapmış olsa da bu konudaki tartışmalar hala devam ediyor.
Tehdit aktörleri ChatGPT ve yapay zekayı planlarında uygulamak için çeşitli yöntemleri aktif olarak araştırıyor.
3
Bu konular arasında sıklıkla kötü amaçlı yazılımların geliştirilmesi ve çalınan kullanıcı verilerinin işlenmesi, virüslü cihazlardan dosyaların ayrıştırılması gibi dil modellerinin diğer yasadışı kullanım türleri de yer alıyor.
Yapay zeka araçlarının popülerliği, ChatGPT’den veya eşdeğerlerinden gelen otomatik yanıtların bazı siber suç forumlarına entegre edilmesine yol açtı.
Buna ek olarak, tehdit aktörleri çeşitli dark web kanalları aracılığıyla jailbreak tekniklerini paylaşma eğiliminde ve pentesting için olanlar gibi meşru araçları kötü niyetli amaçlar için yeni modellere dayalı olarak kullanmanın yollarını arıyorlar.
Siber suçlular bahsedilen chatbot ve yapay zeka araçlarının yanı sıra XXXGPT, FraudGPT ve diğer projelere de büyük ilgi gösteriyor. Bu dil modelleri dark web’de alternatif olarak pazarlanıyor ve ek işlevselliğe ve orijinalindeki sınırlamaların olmamasıyla övünülüyor.
Çalıntı hesaplar satışta
Kullanıcılar ve şirketler için bir diğer tehdidi de ChatGPT’nin ücretli sürümüne yönelik hesap piyasası oluşturuyor. Bahsedilen 3 bin gönderiye ek olarak, 2023 yılında dark web ve gölge Telegram kanallarında satılık hesaplarının reklamını yapan 3 bin gönderi daha tespit edildi.
Bu gönderiler ya çalıntı hesapları dağıtıyor ya da talep üzerine toplu olarak hesap oluşturan otomatik kayıt hizmetlerini tanıtıyor. Bazı gönderilerin birden fazla dark web kanalında tekrar tekrar yayınlanması özellikle dikkat çekici.
