HBM'nin babası, GPU kullanımı %10'a düşerken AI'ın belleğe eşit olduğunu söylüyor

KAIST profesörü Kim Jung-ho, HBM'in mucidi olarak bilinen mühendis, AI çağının belirleyici darboğazının hesaplamadan belleğe kaydığını savunuyor — bu iddiayı Micron'un %84,9 brüt marjı ve 100 milyar dolarlık kilitli müşteri sözleşmeleri destekliyor.

Yüksek bant genişlikli belleğin mucidi olarak bilinen mühendis, AI endüstrisinin belirleyici kısıtının artık GPU hesaplaması değil, bellek bant genişliği olduğunu söylüyor. GPU kullanımı %10'da takılı kalmış durumda çünkü işlemciler zamanlarının çoğunu veri bekleyerek geçiriyor.

"AI, belleğe eşittir," diyen Kim Jung-ho, KAIST'te elektrik mühendisliği profesörü ve ilk HBM spesifikasyonunun mimarı, bir video röportajında şunları söyledi: "AI bilgisayarlarının evrimi belleğin elinde."

Kim'in argümanı bellek tedarik zinciri genelinde destek buluyor. Micron Technology, mali üçüncü çeyreğinde %84,9 GAAP dışı brüt marj bildirdi. CEO Sanjay Mehrotra, DRAM hacminin yaklaşık %20'sini ve NAND hacminin üçte birini kapsayan, yaklaşık 100 milyar dolar tutarında kalan performans yükümlülükleri taşıyan 16 Stratejik Müşteri Sözleşmesi açıkladı. Kim'in hem DRAM hem de NAND üretmek için benzersiz konumda olduğunu belirttiği iki şirket olan Samsung Electronics ve SK Hynix, Güney Kore'nin Honam bölgesinde 2030'ların ortalarında tamamlanması hedeflenen dört yeni mega fabrikaya toplam 800 trilyon won (518 milyar dolar) yatırım yapacağını duyurdu.

Bu yapısal değişim, Nvidia'nın AI donanımındaki hakimiyetini tehdit ediyor. Kim, Nvidia'nın GPU teknolojisi büyümesinin "neredeyse durduğunu" çünkü çiplerin ısı dağıtım kısıtlamaları nedeniyle dikey olarak istiflenemediğini, oysa belleğin istiflenebildiğini söyledi. Kim'in tezi doğru çıkarsa, GPU üreticilerinde yoğunlaşan yaklaşık 3 trilyon dolarlık piyasa değeri, AI iş yükleri eğitimden çıkarıma kaydıkça bellek üreticilerine doğru yönelmeye başlayabilir.

HBM4 Tedarikçi Gücünde Değişim İşaretliyor

HBM4 ile başlayarak, bellek artık standart bir emtia değil. Kim, her büyük AI müşterisinin — Nvidia, Google, AMD — artık kendi hızlandırıcı mimarisine göre uyarlanmış özel bir HBM tasarımı gerektirdiğini söyledi. Bu değişim geleneksel alıcı-tedarikçi ilişkisini tersine çevirdi. Bellek üreticileri artık geliştirmeye başlamadan önce uzun vadeli anlaşmalar ve hacim taahhütleri talep ediyor, böylece fiyatları kabul etmek yerine etkin bir şekilde belirliyorlar.

"AI şirketleri yüksek performanslı HBM'e umutsuzca ihtiyaç duyuyor, bu yüzden sıraya giriyorlar," dedi Kim. "Tedarikçi fiyatı belirlemeye başlıyor. Bu, modeli tamamen değiştiriyor."

Rakamlar bunu doğruluyor. Micron'un Mehrotra'sı yatırımcılara, bu anlaşmaların tabanındaki brüt marjların "önceki döngülerde gördüğümüz zirvelerin çok ötesinde olacağını" söyledi. Micron hisseleri yılbaşından bu yana %296,9 artış gösterirken, Samsung ve SK Hynix'in piyasa değerleri, yatırımcıların sürdürülebilir fiyatlama gücünü fiyatlamasıyla şişti.

HBF ve HBS: Bellek Mimarisi için Önümüzdeki On Yıl

Kim, önümüzdeki on yıl içinde AI donanımını yeniden şekillendirmesini beklediği iki ek bellek mimarisini özetledi. İlki olan Yüksek Bant Genişlikli Flash (HBF), NAND flash'ı HBM ile aynı şekilde dikey olarak istifliyor ve daha düşük hızlarda yaklaşık 10 kat daha fazla kapasite sunuyor — çıkarım iş yüklerinin biriktirdiği "soğuk verileri" depolamak için uygun. HBF geliştiren şirketler arasında SK Hynix, Samsung, Sandisk ve yakın zamanda Toyota'yı geride bırakarak piyasa değeriyle Japonya'nın en büyük şirketi haline gelen Japonya'dan Kioxia bulunuyor.

İkincisi olan Yüksek Bant Genişlikli SRAM (HBS), daha radikal bir ayrılışı temsil ediyor. Kim, 12 inçlik bir gofretin tamamını SRAM olarak üretmeyi — ki bu DRAM'den yaklaşık 1.000 kat daha hızlıdır — ve ardından 1,6 terabayt kapasiteye ulaşmak için dikey olarak 12 ila 16 katman istiflemeyi öneriyor. Üstte bir GPU bulunacak ve soğutma, yığının en üst katmanına entegre edilecek.

"Güç dağıtımı en zor teknoloji olacak," dedi Kim. "Bu 3D yapı aracılığıyla binlerce amper sağlamak — şirketler arasındaki gerçek temel rekabet avantajı haline gelecek."

Belleğin Hesaplamaya Karşı Yatırım Gerekçesi

Kim'in uzun vadeli öngörüsü net: "Şimdi HBM dönemi, ancak 10 yıl sonra NAND flash ve HBF pazar talebi HBM'i geçecek. Samsung ve SK Hynix, HBF dönemine hazırlanmalı."

Yatırımcılar için bu tez, bellek hisselerinde yapısal bir yeniden değerlemeye dönüşüyor. Kim'e göre, her iki şirketin yöneticileriyle düzenli olarak görüştüğünü belirten Kim, Samsung ve SK Hynix'in bu yıl toplam 500 trilyon ila 600 trilyon won (324 milyar ila 389 milyar dolar) faaliyet karı elde etmesi bekleniyor. "Gözleri parlıyor," dedi.

Risk döngüsellik. Bellek gerilemeleri tarihsel olarak en güçlü üreticileri bile cezalandırdı. Ancak Kim, önceki döngü zirvelerinin üzerinde taban marjlarına sahip özel HBM sözleşmelerinin benzeri görülmemiş bir aşağı yönlü koruma sağladığını savunuyor. "Model değişti," dedi.

Bu makale yalnızca bilgilendirme amaçlıdır ve yatırım tavsiyesi niteliği taşımaz.