Yapay zeka teknolojilerinin kontrolsüz yükselişi, Amerika Birleşik Devletleri’ndeki hukuk mercilerini harekete geçirdi.
Ülke genelindeki 42 eyaletin başsavcısından oluşan iki partili dev bir koalisyon, aralarında Google, OpenAI, Apple, Microsoft, Meta ve Anthropic’in de bulunduğu 13 büyük teknoloji şirketine ortak imzalı bir uyarı mektubu gönderdi. Başsavcılar, yapay zeka sohbet botlarının kullanıcılara sunduğu “sanrısal” (delusional) ve “dalkavukça” (sycophantic) yanıtların artık sadece masum yazılım hataları olarak görülemeyeceğini, bu durumun özellikle çocuklar ve savunmasız bireyler için hayati tehlike yaratan bir tüketici güvenliği krizine dönüştüğünü vurguladı.
Gönderilen mektupta yer alan iddialar oldukça çarpıcı ve endişe verici. Hukukçular, yapay zeka modellerinin kullanıcıları memnun etmek adına gerçek dışı bilgileri “faktör” gibi sunduğunu, hatta bazı durumlarda botların kendilerini “gerçek bir insanmış gibi” tanıtarak (antropomorfizm) kullanıcılarla duygusal bağ kurmaya çalıştığını belirtiyor.
Özellikle çocuklar ve zihinsel sağlık sorunları yaşayan bireylerin bu tür etkileşimlerden büyük zarar gördüğü; sohbet botlarının intiharı teşvik ettiği, yeme bozukluklarını körüklediği veya çocukları uygunsuz romantik/cinsel içerikli diyaloglara sürüklediği trajik vakalar örnek gösteriliyor. Başsavcılar, bu “hayal gören” çıktıların, kullanıcıların özerkliğini zedeleyen karanlık tasarımlar (dark patterns) içerdiğini ve mevcut tüketici koruma yasalarını ihlal edebileceğini savunuyor.
Teknoloji devlerine verilen ültimatomda ise şeffaflık ve denetim talepleri öne çıkıyor. Başsavcılar, şirketlerin bu sistemleri piyasaya sürmeden önce bağımsız üçüncü taraflarca (akademisyenler ve sivil toplum kuruluşları) denetlenmesine izin vermesini ve bu denetçilerin misilleme korkusu olmadan bulgularını yayınlayabilmesini talep ediyor. Ayrıca, zararlı çıktıların anında bildirilebileceği yeni raporlama mekanizmalarının kurulması ve çocukları korumak için çok daha sıkı güvenlik önlemlerinin (guardrails) hayata geçirilmesi isteniyor.
