Yapay zeka modellerini besleyen veri akışında darboğaz devri kapanıyor. Meta AI, veri üretimindeki hantal merkezi yapıyı yıkarak yerine otonom işleyen Matrix’i koydu. İşte tüm detaylar…
Yapay zeka modellerini eğitmek için verinin sadece çok olması yetmez, aynı zamanda taze ve çeşitli olması gerekir. Karmaşık diyalogları ve akıl yürütme zincirlerini üretmek de sistemlerde tıkanıklığa neden olabiliyor. Tıpkı trafiğin tek bir kavşakta sıkışıp kalması gibi, veriler de merkezi kontrol noktalarında birikip işlem gücünü boşa harcıyor. Meta AI araştırmacıları bu düğümü çözmek için ‘Matrix‘ adını verdikleri yeni bir merkeziyetsiz framework tanıttı.
Geleneksel sistemlerde her adım, her araç kullanımı veya her tekrar, merkezi bir kontrolcünün onayından geçer. Bu yapı sistemi yönetmeyi kolaylaştırsa da ölçek büyüdüğünde işler sarpa sarar. Binlerce eş zamanlı diyalog başladığında, o merkezi kontrolcü yetersiz kalır ve sistem çıkmaza girer.
Matrix ise eski usul yöntemi tamamen değiştiriyor. Bunun yerine kontrolü ve veriyi, ‘orchestrator’ adı verilen mesaj paketlerinin içine yerleştiriyor. Paketler dağıtım kuyruklarında sırasını bekliyor ve boştaki ajanlar tarafından işleniyor. Buradaki teknik detayı şöyle basitleştirebiliriz; eskiden bir fabrikada işçiler her vidayı sıktığında ustabaşına sorardı. Matrix ile birlikte işçiler (ajanlar) ne yapacaklarını biliyor, işini bitiren dosyayı (mesajı) doğrudan bir sonraki işçiye iletiyor. Arada bekleyen, emir veren veya sistemi yavaşlatan biri yok. Buna teknik dilde ‘peer-to-peer’ deniyor ve işlem hızını inanılmaz boyutlara taşıyor.
Meta AI araştırmacıları, Matrix’in gücünü göstermek için üç farklı senaryoda testler gerçekleştirdi. Sonuçlar sistem mimarisini doğru kurmanın en az yeni bir çip tasarlamak kadar önemli olduğunu kanıtlıyor. Yapılan testleri ve sonuçları şu şekilde sıralayabiliriz:
İşbirlikçi Akıl Yürütme (Coral): İki yapay zeka ajanının bir konuyu tartıştığı bu senaryoda, Matrix eski sistemlere göre yaklaşık 7 kat daha fazla veri üretti. Üstelik doğruluk oranından da ödün vermedi.
Web Verisi İşleme: Milyonlarca web dokümanından soru-cevap setleri çıkarılırken Matrix, veri ve görev paralelliğini birleştirerek performansı 2 katına yükseltti.
Araç Kullanımı (Tau2-Bench): Müşteri hizmetleri simülasyonlarında, veritabanı ve araç kullanan ajanlar test edildi. Matrix burada rakiplerine tam anlamıyla toz yutturdu ve 15 kattan fazla hız artışı sağladı.
Matrix tamamen açık kaynaklı teknolojiler üzerine kurulu. En büyük numarası ise sohbet kayıtlarını akıllıca yönetmesi. Burada bahsettiğimiz sohbet bir insanın, bir yapay zekayla yaptığı konuşma değil. İki ajanın arasında geçen diyaloglardan söz ediyoruz. Sistem konuşma uzadığında tüm yükü sırtlamak yerine, ağır veriyi depoya kaldırıp sadece referans numarasını taşıyor. Bu da ağ trafiğini rahatlatıyor.
