美光科技解析HBM高带宽内存短缺对AI算力基建的影响
美光 CEO 桑杰最近接受 CNBC 采访时说了一句话:没有内存,就没有 AI。在半导体行业,DRAM 和 NAND 内存一直被当成标准化大宗商品,客户只看价格,美光、三星、SK 海力士三家过去二十年反复经历赚一年亏两年的过山车,2022 到 2023 年那轮下行周期里,美光一年亏掉超过 60 亿美元,股价腰斩。这句话等于直接宣布旧周期结束,内存已经从系统里的普通零件变成 AI 的战略基础设施。
为什么 AI 这么吃内存?核心是一个叫内存墙的问题,GPU 算力增长的速度远超内存喂数据的速度,算力再强,数据跟不上也只能空转。大模型动辄几千亿参数,每次推理都要从内存里把参数读出来,卡住的正是内存带宽。
HBM 高带宽内存的做法是把 DRAM 芯片 3D 堆叠起来和 GPU 封装在一起,带宽达到普通内存的十几倍。更关键的是 AI 买的是整条内存供应链,HBM 贴 GPU、DDR5 做系统内存、SSD 存训练数据,三层一起抢产能,而生产 100 比特 HBM 会让普通 DDR 的产出减少约 300 比特。需求这边还在加码,代理式 AI 会自己拆解任务、调用工具、多步推理,一次任务可能触发几十上百次推理调用,上下文窗口从几千 token 涨到百万级,推理对内存的消耗比训练还可怕。
供给端却几乎锁死。全世界能同时掌握先进制程、3D 堆叠和先进封装的只有 SK 海力士(份额约五六成)、三星和美光三家,没有第四家。美光自己承认只能满足约一半的 HBM 需求,2026 年全年产能已经卖光。一座先进内存晶圆厂投资 200 亿美元起步,建设加爬坡要三五年,紧缺可能持续到 2027 年以后。客户为了锁产能开始签五年长单,这在随行就市的内存行业史无前例,周期性的收入正在变成确定性的收入。
#美光 #HBM #AI算力
