Le professeur Kim Jung-ho de KAIST, ingénieur crédité de l'invention du HBM, affirme que le goulot d'étranglement de l'ère de l'IA s'est déplacé du calcul vers la mémoire — une affirmation étayée par la marge brute de 84,9 % de Micron et 100 milliards de dollars de contrats clients verrouillés.
Le professeur Kim Jung-ho de KAIST, ingénieur crédité de l'invention du HBM, affirme que le goulot d'étranglement de l'ère de l'IA s'est déplacé du calcul vers la mémoire — une affirmation étayée par la marge brute de 84,9 % de Micron et 100 milliards de dollars de contrats clients verrouillés.
L'ingénieur crédité de l'invention de la mémoire à large bande passante estime que la contrainte déterminante de l'industrie de l'IA n'est plus le calcul GPU mais la bande passante mémoire, l'utilisation des GPU étant bloquée à 10 % car les processeurs passent la majeure partie de leur temps à attendre des données.
« L'IA égale la mémoire », a déclaré Kim Jung-ho, professeur de génie électrique à KAIST et architecte de la première spécification HBM, dans une interview vidéo. « L'évolution des ordinateurs d'IA est entre les mains de la mémoire. »
L'argument de Kim trouve un écho dans toute la chaîne d'approvisionnement de la mémoire. Micron Technology a affiché une marge brute non-GAAP de 84,9 % au troisième trimestre fiscal, son PDG Sanjay Mehrotra révélant 16 accords stratégiques avec des clients couvrant environ 20 % du volume de DRAM et un tiers du volume de NAND, avec des obligations de performance résiduelles d'environ 100 milliards de dollars. Samsung Electronics et SK Hynix, les deux sociétés que Kim a identifiées comme étant les seules à pouvoir fabriquer à la fois de la DRAM et de la NAND, ont annoncé un investissement combiné de 800 000 milliards de wons (518 milliards de dollars) dans quatre nouvelles méga-usines dans la région de Honam en Corée du Sud, dont l'achèvement est prévu d'ici le milieu des années 2030.
Ce changement structurel menace la domination de Nvidia dans le matériel d'IA. Kim a déclaré que la croissance de la technologie GPU de Nvidia « s'est presque arrêtée » car les puces ne peuvent pas être empilées verticalement en raison des contraintes de dissipation thermique, contrairement à la mémoire. Si la thèse de Kim se vérifie, les quelque 3 000 milliards de dollars de capitalisation boursière concentrés dans les fabricants de GPU pourraient commencer à migrer vers les fabricants de mémoire à mesure que les charges de travail d'IA passent de l'entraînement à l'inférence.
HBM4 marque un changement dans le pouvoir des fournisseurs
À partir du HBM4, la mémoire n'est plus un produit standardisé. Kim a indiqué que chaque grand client d'IA — Nvidia, Google, AMD — nécessite désormais une conception HBM personnalisée adaptée à son architecture d'accélérateur. Ce changement a inversé la relation traditionnelle acheteur-fournisseur. Les fabricants de mémoire exigent désormais des accords à long terme et des engagements de volume avant de commencer le développement, fixant ainsi les prix plutôt que de les accepter.
« Les entreprises d'IA ont désespérément besoin de HBM haute performance, donc elles font la queue », a déclaré Kim. « Le fournisseur commence à décider du prix. Cela change complètement le modèle. »
Les chiffres le confirment. Mehrotra de Micron a déclaré aux investisseurs que les marges brutes au plancher de ces accords « seront bien au-delà des sommets que nous avons connus lors des cycles précédents ». Les actions Micron ont gagné 296,9 % depuis le début de l'année, tandis que Samsung et SK Hynix ont vu leur capitalisation boursière grimper alors que les investisseurs intègrent un pouvoir de fixation des prix durable.
HBF et HBS : la prochaine décennie de l'architecture mémoire
Kim a présenté deux architectures mémoire supplémentaires qu'il s'attend à voir remodeler le matériel d'IA au cours de la prochaine décennie. La première, le High Bandwidth Flash (HBF), empile la mémoire NAND flash verticalement de la même manière que le HBM, offrant environ 10 fois la capacité à des vitesses inférieures — adaptée au stockage des « données froides » que les charges de travail d'inférence accumulent. Les entreprises développant le HBF incluent SK Hynix, Samsung, Sandisk et la japonaise Kioxia, qui a récemment dépassé Toyota en valeur boursière pour devenir la plus grande entreprise japonaise par capitalisation boursière.
La seconde, le High Bandwidth SRAM (HBS), représente une rupture plus radicale. Kim propose de fabriquer un wafer entier de 12 pouces en SRAM — environ 1 000 fois plus rapide que la DRAM — puis d'empiler 12 à 16 couches verticalement pour atteindre 1,6 téraoctet de capacité. Un GPU reposerait au sommet, avec un refroidissement intégré dans la couche la plus haute de l'empilement.
« La distribution d'énergie sera la technologie la plus difficile », a déclaré Kim. « Fournir des milliers d'ampères à travers cette structure 3D — cela deviendra la véritable compétitivité fondamentale entre les entreprises. »
Le cas d'investissement pour la mémoire plutôt que le calcul
Les prévisions à long terme de Kim sont sans équivoque : « C'est l'ère du HBM maintenant, mais dans 10 ans, la demande du marché pour la mémoire NAND flash et le HBF dépassera celle du HBM. Samsung et SK Hynix doivent se préparer à l'ère du HBF. »
Pour les investisseurs, cette thèse se traduit par une revalorisation structurelle des valeurs de la mémoire. Samsung et SK Hynix devraient générer un bénéfice d'exploitation combiné de 500 000 à 600 000 milliards de wons (324 à 389 milliards de dollars) cette année, selon Kim, qui a déclaré rencontrer régulièrement les dirigeants des deux sociétés. « Leurs yeux s'illuminent », a-t-il dit.
Le risque est cyclique. Les ralentissements du marché de la mémoire ont historiquement pénalisé même les fabricants les plus solides. Mais Kim soutient que les contrats HBM personnalisés avec des marges plancher supérieures aux pics des cycles précédents offrent une protection à la baisse sans précédent. « Le modèle a changé », a-t-il déclaré.
Cet article est fourni à titre informatif uniquement et ne constitue pas un conseil en investissement.
