荣格工业资源APP
了解工业圈,从荣格工业资源APP开始。
图片来源 / 包图网
生成式AI、AI芯片、高带宽内存(HBM),三者之间正随着生成式AI的发展而引发多米诺骨牌效应。从最上游的HBM来看,一场产能、技术的比拼大战悄然拉开。
5月2日,SK海力士首席执行官Kwak No-jeong在韩国研发中心主持了“AI半导体愿景与战略”新闻发布会,宣布预计明年生产的大部分高带宽存储器(HBM)产品已经售罄。他还宣布HBM3E 12-Hi产品样品将于下个月发布,并于第三季度开始量产。
来源:SK hynix
这距离SK海力士对外宣告2024年HBM内存生产配额全部售罄过去仅两个月左右的时间!但是,同为竞争对手的美光也不甘示弱。
在2024财年第二财季财报会议上,美光总裁兼首席执行官Sanjay Mehrotra表示,公司2024年的HBM产能已经售罄,2025年大部分产能的供应也已经分配完毕,预计HBM产品的出货占比将在明年大幅度攀升。
来源:Micron
截至发稿前,尚未有三星官方对HBM产能供应情况作出具体说明。但此前公开报道中,有消息人士称,三星电子HBM产品的2024年度产线也已销售完,新生产线在大规模建设中。
一则重要消息是,三星公司执行副总裁兼DRAM产品和技术主管Hwang Sang-joong表示:“继已经量产的第三代HBM2E和第四代HBM3之后,我们计划在今年上半年大批量生产12层的第五代HBM3e和基于32千兆位的128 GB DDR5(DRAM解决方案)。”
为什么三家存储巨头在HBM产能上竞争如此白热化?一方面,需求端方面,随着生成式AI对AI算法的复杂度和对算力的需求日益猛增,这也导致其对AI芯片提成极高的内存处理和计算能力要求。目前,搭载HBM的AI芯片应用于百花齐放的高端生成式AI市场,已经成为主流的方案。
以SK海力士为例,它目前主要为亚马逊、AMD、Facebook、谷歌(Broadcom)、英特尔、Microsoft、英伟达(NVIDIA)等客户生产各种类型的HBM内存。英伟达是其 H100/H200/GH200 加速器的HBM3和HBM3E内存的主要消费者,其一家就占据了SK海力士的大半部分HBM产能。
另一方面,经过HBM、HBM2、HBM2E和HMB3几代技术更迭,目前,HBM3E是人工智能应用中性能最佳的DRAM,也是第五代DRAM内存。供应端方面,目前HBM市场的供应商只有SK海力士、三星、美光三家,且产能都比较有限。这才出现三家存储巨头产能供不应求,大肆布局扩产的局面。
根据3月26日华尔街日报报导,SemiAnalysis最新估计,SK海力士HBM位市占约73%,三星居次22%,美光排名第三,约5%。
简单对比一下三家存储巨头的HBM3e产品:
SK海力士的HBM3e在1024位接口上拥有9.6 GT/s 的数据传输速率,单个HBM3E内存堆栈可提供1.2 TB/s的理论峰值带宽,对于由六个堆栈组成的内存子系统来说,带宽可高达 7.2 TB/s。HBM3e采用了Advanced MR-MUF2最新技术,散热性能比前一代提高了10%。
三星首款12层堆叠的HBM3e DRAM产品,即HBM3e 12H。这款产品具有36GB的容量,并且支持全天候最高带宽达到1280GB/s。HBM3e 12H采用了先进的热压非导电薄膜(TC NCF)技术,使得12层和8层堆叠产品的高度保持一致,满足了当前HBM封装的要求。这项技术还通过允许在芯片之间使用不同尺寸的凸块(bump)来改善HBM的热性能,从而提高了产品的良率。
美光的首款HBM3e产品是一个 8-Hi 24 GB 堆栈,具有1024位接口、9.2 GT/s 数据传输速率和1.2 TB/s 的总带宽。NVIDIA 用于人工智能和高性能计算的 H200 加速器将使用其中的六个立方体,提供总共141 GB的可访问高带宽内存。该公司还开始对其12-Hi 36 GB堆栈进行采样,这些堆栈的容量增加了50%。这些KGSD将在2025年推出,并将用于下一代 AI 产品。
Part 1
HBM爆火双刃剑
那么,2024年HBM产量的增加对非HBM产品的影响如何?
“HBM产量的增加将限制非HBM产品的供应增长。”美光首席执行官 Sanjay Mehrotra 在4月底的一次公司财报电话会议准备讲话中如是表示。
Sanjay Mehrotra坦承,在同一制程节点生产同等容量下,HBM3E的晶圆消耗量是标准DDR5的三倍,随着性能及封装复杂程度的提高,未来HBM4的消耗量会更大。
这一定程度上与HBM的良品率更低有关,由于需要多层DRAM通过TSV堆叠,只要其中一层出现问题,就意味着整个堆栈报废。现阶段HBM的良品率也就在60%到70%之间,明显低于普通的DRAM产品。
因此,当行业内的晶圆供应将大量转移到满足HBM需求上,这导致了对非HBM产品的供应增长受限。这种资源的重新分配可能会导致非HBM产品在市场上的供应紧张,从而影响其价格和供应稳定。
资料来源:
1.SK hynix Reports That 2025 HBM Memory Supply Has Nearly Sold Out
https://www.anandtech.com/show/21382/sk-hynixs-hbm-memory-supply-sold-out-through-2025
2.Micron Sells Out Entire HBM3E Supply for 2024, Most of 2025
https://www.anandtech.com/show/21319/micron-sells-out-entire-hbm3e-supply-for-2024-most-of-2025
*声明:本文系荣格电子芯片综合原创,仅为传播信息所用,不构成任何投资依据;如对文章内容有异议,请联系后台。