SK Hynix ve TetraMem'den Yapay Zeka İçin Devrimsel 'Bellek İçi Hesaplama' Çipi

SK Hynix, TetraMem ve Güney Kaliforniya Üniversitesi'nden araştırmacılar, kenar bilişim (edge AI) cihazlarında yapay zeka çıkarım süreçlerini hızlandırmak için memristör tabanlı, bellek içi hesaplama (IMC) mimarisine sahip yeni bir sistem-on-chip (SoC) prototipi ürettiler. Geliştirilen bu çip, geleneksel GPU veya NPU mimarilerine kıyasla çok daha düşük enerji tüketerek yapay zeka işlemlerini gerçekleştirmek üzere tasarlandı. Ancak cihazın teorik olarak 2.54 TOPS'luk bir performans sergilemesi, Microsoft'un Copilot+ gereksinimlerinin oldukça altında kalması nedeniyle bu teknolojinin mevcut haliyle bir 'kavram kanıtlama' (proof-of-concept) aşamasında olduğunu gösteriyor.

Bellek içi hesaplama (IMC) teknolojisi, geleneksel bilgisayar mimarilerindeki 'veri taşıma' sorununu ortadan kaldırmak için analog hesaplamaları doğrudan bellek dizileri üzerinde gerçekleştiriyor. Bu yaklaşım, enerji verimliliğini maksimize etmek için kritik öneme sahip. Ancak MobileNet gibi hafif yapay zeka modellerinin temelini oluşturan 'derinlemesine evrişim' (depthwise convolution - DWC) işlemleri, geleneksel çapraz dizi (crossbar array) yapılarına verimli bir şekilde uyum sağlayamıyordu. Araştırmacı ekip, bu sorunu aşmak için hem standart IMC crossbar yapılarını hem de DWC için özel olarak optimize edilmiş memristör tabanlı bir mimariyi tek bir çip üzerinde birleştirdi.

Çipin merkezinde iş akışlarını yöneten yerleşik bir RISC-V işlemci yer alıyor. Toplamda 10 adet NPU (Sinirsel İşleme Birimi) ile donatılan sistemin mimarisi oldukça özelleşmiş durumda. Bu birimlerden biri tamamen derinlemesine evrişim (DWC) işlemleri için ayrılmışken, geri kalan dokuz birim noktasal ve yoğun (dense) işlemlerden sorumlu tutulmuş. Dokuz NPU'nun her biri, analog vektör-matris çarpımını (VMM) gerçekleştiren 256x256'lık memristör crossbar dizileriyle çalışıyor.

Sistemin veri dönüşümü aşamasında ise 256 adet 8-bit dijital-analog dönüştürücü (DAC) ve 256 adet 8-bit analog-dijital dönüştürücü (ADC) görev alıyor. DWC için ayrılan özel NPU ise geleneksel dizilerden farklı olarak, sekiz adet özelleştirilmiş 252x28'lik 'zik-zak' crossbar bloğu kullanıyor. SK Hynix tarafından üretilen bu tasarım, verinin bellek içindeki hareketini minimize ederek yapay zeka modellerinin enerji verimliliğini uç noktalara taşımayı hedefliyor. Performans sınırları şu an için düşük görünse de, bu mimari gelecekteki enerji tasarruflu cihazlar için önemli bir temel oluşturabilir.