Reddit’te Skandal! Aylardır Süren Gizli Yapay Zeka Deneyi Ortaya Çıktı

reddit 2

Zürih Üniversitesi’nden bir grup araştırmacı Reddit’in popüler topluluklarından birinde aylardır gizli ve izin alınmamış bir deney yaptı. Uzmanlar yapay zeka tarafından oluşturulmuş yorumlar kullanarak, yapay zekanın insanları nasıl ikna edebileceğini test etti.

Reddit‘in en popüler subreddit’lerinden biri olan changemyview, modlar tarafından ortaya çıkartılan yapay zeka deneyiyle çalkalanıyor. Zürih Üniversitesi’nde görevli olan bir araştırma ekibi, yapay zeka (LLM/Büyük Dil Modeli) tarafından oluşturulmuş yorumları changemyview topluluğunda kullandı. Amaç yapay zekanın insanları ne kadar etkileyip, fikirlerini değiştirebileceğini araştırmaktı. Fakat topluluk moderatörleri olayın ne olduğunu anladı ve müdahale etti. Deney ‘farkında olmayan kullanıcılar üzerinde psikolojik manipülasyon’ olarak tanımlanıyor.

Reddit CEO'su yapay zeka özelliklerini tanıttı

Changemyview, 3.8 milyon kadar üyeye sahip olan ve sıklıkla Reddit’in ana sayfasında bulunan bir subreddit. Araştırmanın yapılması için ideal bir yer. Moderatörlerin açıklamalarına göre yapay zekayla yapılmış yorumlar cinsel saldırı mağduru, istismar konusunda uzman bir danışman, Black Lives Matter’a karşı olan siyahi bir adam gibi çeşitli sahte kimliklerle yazıldı. Orijinal yorumların çoğu silinmiş olsa da bir kısmı halen 404 Media’nın arşivinde yer alıyor.

Araştırmacılara göre yapay zekanın ürettiği yanıtlar veya yaptığı yorumlar, gönderi sahiplerine göre özelleştirilmiş. Daha açıklayıcı olursak yapay zeka, kullanıcının önceki gönderilerini analiz edip; cinsiyet, yaş, etnik köken, konum ve siyasi görüş gibi kişisel özellikleri elde edip, buna göre cevaplar vermiş. Anlaşılan oldukça detaylı bir iş yapılmış.

Google reCAPTCHA V2 sistemi Yapay zeka

İlginizi çekebilir: Atari, Thunderful Group’un %82,6 Hissesini Satın Aldı: Avrupa Oyun Pazarında Büyük Hamle

Changemyview moderatörleri, araştırmacıların kuralları ihlal ettiğini söyledi. Yapay zeka kullanımının açıkça belirtilmesi gerekiyor, ayrıca bot kullanımı da yasak. Moderatörler, Zürih Üniversitesi’ne resmi şikayette bulunduklarını ve araştırmanın yayınlanmamasını talep ettiklerini açıkladı. Bununla birlikte Reddit yönetimi de yasal yollara başvurduklarını ifade etti. Popüler topluluğun Hukuk Sorumlusu Ben Lee, “Bu deney ahlaki ve hukuki açıdan son derece yanlış. Platformdaki kurallar ihlal edildi. Zürih Üniversitesi ile bağlantılı tüm hesaplar yasaklandı. Sahte hesapları tespit etmek için sistemimizi güçlendireceğiz ve yapay zeka içeriklerinin hepsi kaldırıldı” dedi.

Google reCAPTCHA V2 sistemi

Lee bunlarla birlikte Zürih Üniversitesi ve araştırma ekibine resmi bildirim gönderdiklerini sözlerine ekledi ve gizlice deney yapan ekibin hesap vermesi için ellerinden geleni yapacaklarını vurguladı.

Araştırma ekibi ise Reddit’te ve makale taslaklarında, gerçekleştirilen deneyin üniversite tarafından onaylandığını ve bu tür çalışmaların gelecekte yapay zekanın kötüye kullanımını engellemeye yardımcı olabileceğini savunuyor. Zürih Üniversitesi sözcüsü de gelecekte daha sıkı bir denetim süreci uygulayacaklarını belirtti.

iPhone 18’lerde Yüksek Performanslı RAM Kullanılacak