Endüstrideki ilk 1,15 milyar nöronlu nöromorfik sistem olan Hala Point, daha verimli ve ölçeklenebilir yapay zekâ giden yolun taşlarını döşüyor.
Intel bugün, dünyanın en büyük nöromorfik sistemini kurduğunu açıkladı.
İlk olarak Sandia National Laboratories’te (Sandia Ulusal Laboratuvarları) konuşlandırılan ve Intel’in Loihi 2 işlemcisini kullanan Hala Point kod adlı bu büyük ölçekli nöromorfik sistem, geleceğin beyinden ilham alan yapay zekâ araştırmalarını desteklemeyi amaçlıyor ve günümüz yapay zekâsının verimliliği ve sürdürülebilirliğiyle ilgili zorlukların üstesinden geliyor.
Hala Point, Intel’in ilk nesil büyük ölçekli araştırma sistemi olan Pohoiki Springs‘i, 10 kattan fazla nöron kapasitesi ve 12 kata kadar daha yüksek performansa ulaşmak üzere mimari iyileştirmelerle geliştiriyor.
Hala Point, ana akım yapay zekâ iş yüklerinde en ileri hesaplama verimliliklerini sergileyen ilk büyük ölçekli nöromorfik sistem olarak öne çıkıyor.
Karakterizasyon, konvansiyonel derin sinir ağlarını çalıştırırken watt başına saniyede 15 trilyon 8 bit işlemi (TOPS/W) aşan bir verimliliğe sahip olan Hala Point’in, saniyede 20 katrilyona kadar işlemi yahut 20 petaops’u destekleyebileceğini gösteriyor.
Dolayısıyla, Hala Point grafik işlem birimleri (GPU) ve merkezi işlem birimleri (CPU) üzerine inşa edilen mimarilerin ulaştığı seviyelerle rekabet ediyor ve bu seviyeleri aşıyor.
Benzersiz yetenekleri sayesinde, bilimsel problemlerin ve mühendislik problemlerinin çözümü, lojistik, akıllı şehir altyapı yönetimi, büyük dil modelleri (LLM’ler) ve akıllı ajanlar (AI agent) gibi yapay zekâ uygulamaları için gelecekte gerçek zamanlı sürekli öğrenmeyi mümkün kılabilir.
Nasıl Kullanılacak
Sandia National Laboratories’teki araştırmacılar Hala Point’i beyin ölçeğinde ileri bilişim araştırmaları için kullanmayı planlıyor. Kuruluş; cihaz fiziği, bilgisayar mimarisi, bilgisayar bilimi ve bilişim alanlarındaki bilimsel hesaplama sorunlarını çözmeye odaklanacak.
Hala Point şu anda, gelecekteki ticari sistemlerin yeteneklerini geliştirecek bir araştırma prototipini temsil ediyor. Intel, bu gibi derslerin LLM’lerin yeni verilerden sürekli olarak öğrenebilmesi gibi pratik ilerlemelere yol açacağını öngörüyor. Söz konusu ilerlemeler ise, yaygın yapay zekâ dağıtımlarının sürdürülemez eğitim yükünü önemli ölçüde azaltmayı vaat ediyor.
Neden Önemli
Derin öğrenme modellerini trilyonlarca parametreye ölçeklendirmeye yönelik son trendler, yapay zekâda ürkütücü sürdürülebilirlik zorluklarını ortaya çıkarırken, donanım mimarisinin en düşük seviyelerinde inovasyon ihtiyacını da vurguladı.
Nöromorfik bilişim, veri hareketini minimuma indirmek için bellek ve hesaplamayı son derece granüler paralellik ile entegre eden sinirbilim içgörülerinden yararlanan bütünüyle yeni bir yaklaşımdır.
Bu ay gerçekleşen International Conference on Acoustics, Speech, and Signal Processing’de (Uluslararası Akustik, Konuşma ve Sinyal İşleme Konferansı – ICASSP) yayınlanan sonuçlara göre Loihi 2, ortaya çıkan küçük ölçekli uç iş yüklerinin verimliliğinde, hızında ve uyarlanabilirliğinde büyüklük sırasına göre kazanımlar olduğunu gösterdi
Hala Point Hakkında: Hala Point’in temelini teşkil eden Loihi 2 nöromorfik işlemciler, enerji tüketimi ve performansta büyüklük sırasına göre kazanımlar elde etmek amacıyla zaman uyumsuz, olay tabanlı iğnecikli sinir ağları (SNN’ler), entegre bellek ve hesaplamanın yanı sıra, aralıklı ve sürekli değişen bağlantılar gibi ilhamını beyinden alan bilişim ilkelerini uygular. Bellek üzerinden iletişim kurmak yerine, doğrudan birbirleriyle iletişim kuran nöronlar, genel güç tüketimini azaltır.
Hala Point, Intel 4 işlem düğümünde üretilen 1.152 Loihi 2 işlemciyi mikrodalga fırın büyüklüğünde altı raflı bir veri merkezi kasasında paketliyor. 140.544 nöromorfik işlem çekirdeği üzerine dağıtılmış 1,15 milyar nöron ve 128 milyar sinapsı destekleyen bu sistem, maksimum 2.600 watt güç tüketiyor. Buna ilave olarak, yardımcı hesaplamalar için 2.300’den fazla gömülü x86 işlemci içeriyor.
İşleme, bellek ve iletişim kanallarını büyük ölçüde paralelleştirilmiş bir yapıya entegre eden Hala Point, saniyede toplam 16 petabayt (PB/s) bellek bant genişliği, 3,5 PB/s çekirdekler arası iletişim bant genişliği ve saniyede 5 terabayt (TB/s) çipler arası iletişim bant genişliği sağlıyor. Sistem saniyede 380 trilyondan fazla 8-bit sinaps ve 240 trilyonu aşkın nöron işlemi gerçekleştirebiliyor.
Microsoft AI aracı yeni özelliklerine kavuştu
İlhamını biyolojiden alan iğnecikli sinir ağı (SNN) modellerine uygulanan sistem, 1,15 milyar nöronluk tam kapasitesini bir insan beyninden 20 kat daha hızlı ve daha düşük kapasiteleri 200 kata kadar daha hızlı çalıştırabilir. Hala Point sinirbilim modellemesi için tasarlanmamış olmakla birlikte, nöron kapasitesi kabaca bir baykuş beyni yahut bir kapuçin maymununun korteksine eşdeğerdir.
