Araştırmacılar, yapay zekâ için geleneksel belleğin yerini alabilecek NAND-DRAM hibritini tanıttı

Yapay zekâ sistemleri büyümeye devam ederken teknoloji şirketlerinin karşılaştığı en büyük sorunlardan biri artık işlemci gücü değil, bellek performansı haline gelmiş durumda. Özellikle büyük dil modelleri ve yapay zekâ hızlandırıcıları, verileri işlemekten çok belleğin veri taşımasını bekleyerek zaman kaybediyor.

Şimdi ise Belçika merkezli araştırma kurumu Imec, bu sorunu çözebilecek yeni bir hibrit bellek mimarisi geliştirdiğini duyurdu. Araştırmacılar, DRAM’in yüksek hızını NAND flash belleğin yoğun depolama kapasitesiyle birleştiren yeni nesil bir 3D CCD sistemi üzerinde çalışıyor.

Yeni sistem neden önemli?

Modern yapay zekâ sistemlerinde en büyük darboğazlardan biri “memory wall” yani bellek duvarı problemi olarak görülüyor.

Bu problemde:

özellikle büyük ölçekli yapay zekâ sistemlerinde ciddi performans kaybına neden oluyor.

Imec’in geliştirdiği yeni sistem ise bu darboğazı azaltmayı hedefliyor.

3D CCD teknolojisi nasıl çalışıyor?

Yeni mimari, klasik bellek sistemlerinden farklı olarak bellek katmanlarını yatay yerine dikey şekilde üst üste yerleştiriyor.

Araştırmacılar bu yapıda:

• NAND yoğunluğunu
• DRAM hızını
• dikey veri aktarımını

aynı sistem içerisinde birleştirmeyi başardı.

Ortaya çıkan yapı ise “3D Charge-Coupled Device” yani 3D CCD olarak adlandırılıyor.

4 GHz üzeri veri aktarım hızına ulaşıldı

Laboratuvar ortamında yapılan testlerde sistemin 4 GHz’in üzerinde veri aktarım hızına ulaştığı belirtiliyor.

Bu değer özellikle yapay zekâ işlemleri açısından dikkat çekici çünkü:

Bu sayede yapay zekâ hızlandırıcılarının veri bekleme süresi ciddi şekilde azaltılabilir.

Eski teknoloji yeniden hayat buluyor

İlginç olan nokta ise CCD teknolojisinin aslında tamamen yeni olmaması.

CCD sensörler geçmişte:

• dijital kameralar
• astronomi cihazları
• bilimsel görüntüleme sistemleri
• profesyonel yayın ekipmanları

gibi alanlarda yoğun şekilde kullanılıyordu.

Ancak zamanla CMOS sensörlerin:

• daha ucuz olması
• daha düşük enerji tüketmesi
• daha kolay üretilebilmesi

nedeniyle CCD teknolojisi büyük ölçüde terk edildi.

Şimdi ise araştırmacılar aynı teknolojiyi yapay zekâ belleği için yeniden yorumluyor.

IGZO kullanımı dikkat çekiyor

Araştırmacılar sistemde geleneksel silikon yerine IGZO yani indiyum galyum çinko oksit kullanıyor.

Bu malzemenin avantajları arasında:

yer alıyor.

Bu da 3D yapıların daha verimli şekilde istiflenebilmesini sağlıyor.

HBM ve DRAM fiyatları sektörü zorluyor

Son dönemde özellikle HBM bellek fiyatlarında yaşanan ciddi artış, teknoloji şirketlerini alternatif çözümler aramaya itmiş durumda.

Özellikle:

• NVIDIA
• AMD
• Google
• Microsoft

gibi şirketler yapay zekâ sistemleri için yeni bellek çözümleri üzerinde çalışıyor.

Google kısa süre önce:

• TurboQuant
• PolarQuant
• Quantized Johnson-Lindenstrauss

gibi yapay zekâ sıkıştırma teknolojilerini tanıtmıştı.

Amaç, büyük modellerin daha az bellek kullanmasını sağlamak.

Imec’in geliştirdiği 3D CCD sistemi ise doğrudan donanım tarafında çözüm üretmeye çalışıyor.

Teknoloji henüz erken aşamada

Her ne kadar sonuçlar umut verici görünse de sistem şu anda hâlâ kavram kanıtı aşamasında bulunuyor.

Araştırmacılar özellikle şu problemlerin çözülmesi gerektiğini belirtiyor:

• ısı yönetimi
• katman ölçeklendirme
• üretim maliyeti
• uzun vadeli dayanıklılık

Bu nedenle teknolojinin kısa vadede ticari ürünlerde kullanılması beklenmiyor.

Yapay zekâ veri merkezleri için büyük potansiyel taşıyor

Eğer teknoloji başarılı şekilde ölçeklenebilirse, gelecekte:

• yapay zekâ veri merkezleri
• AI hızlandırıcıları
• yüksek performanslı GPU sistemleri
• sunucu altyapıları

için önemli bir alternatif haline gelebilir.

Özellikle DRAM ve HBM’ye olan bağımlılığın azaltılması, yapay zekâ maliyetlerini ciddi şekilde düşürebilir.

Bellek savaşları yeni döneme giriyor

Yapay zekâ sektöründe artık yarış yalnızca işlemci gücü üzerinden ilerlemiyor.

Bugün en büyük savaş alanlarından biri:

• bellek bant genişliği
• veri aktarım verimliliği
• enerji tüketimi
• yapay zekâ ölçeklenebilirliği

haline gelmiş durumda.

Imec’in geliştirdiği NAND-DRAM hibrit sistemi, gelecekte bu yarışın yönünü değiştirebilecek en ilginç teknolojilerden biri olabilir.