OpenAI, kurumsal müşterilerin verilerini saklamadan olası kötüye kullanımları tespit etmeyi amaçlayan Private Safety Processing sistemini duyurdu. Bu sistem birden fazla konuşmayı analiz edebiliyor, ancak içerikleri OpenAI çalışanlarının erişimine açmıyor. Lafı uzatmadan detaylara bakalım…
OpenAI, yapay zeka modellerinin test ortamlarından kaçmasıyla kendisine yöneltilen eleştirilere yeni bir önlemle cevap verdi. Şirketin tanıttığı Private Safety Processing (PSP) olası kötüye kullanım işaretlerini otomatik olarak tararken, müşteri verilerini OpenAI çalışanlarına göstermemeyi amaçlıyor. Sistem hassas şirket bilgileriyle çalışan kurumsal müşterilere sesleniyor. PSP, yapay zeka devinin mevcut sıfır veri saklama yaklaşımını genişleterek güvenlik denetimi sırasında ham içeriğin korunmasını hedefliyor.
Müşteri Verileri Müşteride Kalacak
Sıfır veri saklama veya orijinal adıyla Zero Data Retention kullanan müşterilerde içerik, müşterinin kontrol ettiği altyapıda kalıyor. OpenAI ayrıca verilerin kendi altyapısında tutulduğu, fakat şifreleme anahtarlarının müşteride olduğu bir seçenek de geliştiriyor. Her iki yöntemde de sistemler, komutları ve yanıtları görmeden olası kötüye kullanımı tespit edebilecek yetenekte. PSP birbiriyle bağlantılı konuşmaları ve örüntüleri birlikte inceleyebiliyor. Böylece kullanıcı zararlı taleplerini farklı konuşmalara bölerek gizlediğinde bile bu durum ortaya çıkarılıyor.
Yapay Zeka Devleri Arasındaki Fark
OpenAI müdahale gerektiğine karar verirse müşteriyle iletişime geçecek ve verilerin paylaşılıp paylaşılmayacağına tabii ki müşteri karar verecek. Bu yaklaşım, Anthropic’in Fable 5 gibi modeller için konuşmaları 30 gün saklayabilen politikasından belirgin biçimde ayrılıyor. Açıklanana göre bu sınırlama bazı kurumsal müşteriler için Fable 5’i belirli iş yüklerinde tercih dışı bırakabilecek kadar önemli. Sam Altman’ın yaptığı atılımlar dikkat çekici, fakat bazı uzmanlar bu yoğun gizlilik duyurularının olası hukuki gelişmelere bir önlem olarak alındığı görüşünde.
