登录注册
HBM&GB200最近资讯更新全景梳理
书房的猫先生
不要怂的游资
2024-04-25 06:33:48
#英伟达管理层:需求依然强劲

1. 近期投资者较担忧电力供应、市场周期性供应暂停和客户回报率低等问题,英伟达管理层表示能搞定。英伟达认为电力短缺问题并不像投资者担心的那么严重。老黄更关心的是(1)保持和吸引顶尖的AI人才的能力,以及(2)执行其日益复杂且仍然紧张的供应链的能力。

2. #24至25年英伟达的市场地位和产品重要性将显著提升。在GTC上,NVIDIA并未展示B100或B200产品,而是将HGX(包含35,000个组件的服务器板)视为“英雄产品”,对于下一阶段的Blackwell产品,预见GB200 NVL72将成为重点产品。虽然配置多样,但本质上是9个HGX板与网络、物理连接和其他组件的组合。
从产品组合变化可得出的结论:一是预期这些系统将采用Grace CPU而不是X86,这将改变开发者生态系统的网络效应;二是虽然预测并不会为英伟达带来九倍的内容增值,但计算单元的增值将会发生,这将反击有关客户低ROI的悲观空头论调。

3. DGX云虽然不是GTC的焦点,但发展良好,在GTC上相关服务讨论较少,但管理层表示DGX云一来满足了英伟达内部开发的需求,二来能给客户提供英伟达的品牌云服务。管理层称两方面都在快速推进。

==================================

🔥🔥#HBM芯片AI时代的“金矿”供不应求

🔶🔶驱动事件:

➡1、4月4日,韩国SK海力士宣布,#将投资38.7亿美元在美国印第安纳州建造一座先进的芯片封装工厂。据悉,该工厂将以下一代高带宽内存HBM为中心,预计于2028年大规模投产。

➡2、4月24日,#韩国sk海力士计划投资146亿美元扩大芯片产能,以满足人工智能开发需求;

➡3、SK海力士表示旗下HBM产能即使在2024年翻倍,也还是已经饱和;#美光科技向英伟达供货,生产配额也全部售罄。美光科技预计,整个2024财年,HBM系列产品将为公司带来“数亿美元”的营收,甚至有望比肩公司第二大业务——NAND业务。

➡4、#三星与AMD签署4万亿韩元的HBM3E供货协议;

➡5、消息人士透露,三星的先进封装 (AVP) 团队将为英伟达提供 Interposer(中间层)和 I-Cube,这是其自主研发的 2.5D 封装技术,高带宽内存 (HBM) 和 GPU 晶圆的生产将由其他公司负责。

🌻附:#目前全球HBM市场格局:海士力,市占率50%;三星,市占率40%;美光,市占率10%。


存储周期+AI创新+国产化三重逻辑共振,建议关注:
1)HBM产业链:香农芯创/赛腾股份/精智达/联瑞新材/华海诚科/雅克科技/深科技等
2)弹性模组端:德明利/江波龙/佰维存储等
3)DDR5产业链:澜起科技/聚辰股份
4)上游设计端:兆易创新/普冉股份/东芯股份/北京君正等

==================================

【CJ电子】从三星法说会看存储顺周期和成长逻辑的双重演绎

#四季度需求回暖、专注于高附加值存储产品
2023Q4,三星电子存储业务线实现营收15.71万亿韩元、同比+29%、环比+49%。三星存储专注于拓展高附加值存储产品,大幅提升HBM、DDR5、LPDDR5X、UFS4.0等高附加值产品的销售。23Q4,DRAM位元出货量增长35%左右,ASP双位数提升;DRAM业务开始盈利;其中服务器DRAM位元环比增长超60%;NAND位元出货量增长30%、ASP提升高个位数百分比;其中服务器SSD出货量环比增长近50%。三星存储位元出货量增长高于市场平均增长,自身库存持续消化,预计24Q1DRAM库存恢复至正常水平,24H1 NAND Flash库存恢复至正常水平。

#HBM营收高增、重点发力HBM3&HBM3E产品
HBM环比增长40%,同比3.5倍。HBM3于23Q3开始量产,四季度新增核心GPU客户助力营收增长。HBM3&HBM3E有望于24H1占HBM营收的50%+,24H2占HBM营收的比重达90%左右。
8层堆叠的HBM3E于24H1实现量产;12层堆叠36GB HBM3E一季度处于送样阶段。HBM4预计于25年送样,26年量产。

#供需研判——成长性确定、供给增长相对有限(高端产品线供给受限更为突出)
需求端持续改善。一方面,生成式AI服务器搭载更多HBM和DDR5,8TB NAND Flash SSD需求已至。另一方面,AI PC和AI手机助力终端出货量+单机DRAM搭载量提升。
供给端增长有限。2023年行业资本开支大幅减少致先进技术节点迁移和新产能的释放延迟,其中先进技术节点相对有限的位元供给更为明显。2024年行业资本开支虽然有所恢复,但大部分集中于市场爆发式成长的HBM领域。

#存储涨价持续、看好板块的顺周期持续演绎
模组&分销环节(存储价格与库存成本的剪刀切):江波龙、德明利、佰维存储、万润科技、香农芯创、朗科科技、翔港科技;
内存接口及配套芯片公司(DDR5渗透率快速提升下的业绩兑现):澜起科技、聚辰股份;
利基型存储(基本面触底,需求复苏):兆易创新、北京君正、普冉股份、东芯股份、恒烁股份

===================================

【GJ电子】AI对存储晶圆产能消耗拉动显著,存储价格或延续上涨趋势
(1)经过我们的计算,AI的增长对于服务器存储需求增量较大,计算结果如下:
内存:以GB200 NVL72为例——单台GB200 NVL72 (HBM+LPDDR5x)消耗晶圆片数为15.21片。
SSD:以DGX H100为例为例——单台DGX H100 SSD消耗晶圆0.46片。

(2)AI端侧对于存储容量的需求不断增加,所需产能的计算结果如下:
手机:若内存由8GB增加至16GB,DRAM晶圆新增消耗量约3643.26千片,若闪存容量由256GB增加至512GB,NAND晶圆新增消耗量约4033.61千片。
PC:若内存由16GB增加至32GB,DRAM晶圆新增消耗量约1518.03千片,若闪存由512GB增加至1TB,NAND晶圆新增消耗量约1680.67千片。

(3)2023年末,全球DRAM总产能约1351千片/月,NAND总产能约1157千片/月,AI的发展对于晶圆的消耗量有着比较明显的推动。

(4)投资建议:推荐标的:兆易创新,聚辰股份,受益标的:江波龙,东芯股份,北京君正,普冉股份。

====================================

【GF电子团队】“AI的裂变时刻”系列报告9:假如L40S使用HBM显存?——对国产推理算力芯片厂商的启示
 
若使用HBM显存,L40S推理性能可提高13倍
我们假设英伟达L40S算力参数不变,使用HBM替代GDDR。理论推算结果显示,使用HBM会显著提升推理性能;使用192GB容量、8TB/s带宽HBM时,推理性能可达原L40S芯片的约13倍。这对国产推理算力芯片厂商产品定义与设计带来启示:使用更高带宽、更大容量的HBM对于提升产品推理性能起到事半功倍的效果。
 
显存带宽直接影响Decode速度
Decode阶段通常属于显存带宽密集场景,更高的显存带宽对于加速Decode环节至关重要。根据推算,相较于使用864GB/s带宽GDDR,若使用8TB/s 带宽HBM,每次模型读取所需时间从39ms减少至4ms;相同Batch Size情况下推理性能提高至约9倍。 
 
显存容量决定Batch Size上限
增大Batch Size可提高推理效率;根据推算,48GB容量GDDR6支持的最大Batch Size为16;若使用192GB容量HBM,可支持的最大Batch Size提升至64,从而有效提高了推理全流程平均每卡每秒Throughput。
 
超长上下文进一步提高了对显存容量、显存带宽的需求
一方面,超长上下文会使得推理过程KV Cache增大,对显存容量提出了更高的要求;另一方面,为保障用户体验,超长上下文也会对显存带宽带来更高的要求。因此,超长上下文的发展趋势也会带动对高带宽、大容量HBM显存方案的需求。 
 
==================================

【GJ电子】GB200方案产业链进展和我们对格局的观点240416

今日盛传GB200 NVLINK Switch板方案改变至HDI,致使相关公司股价反应强烈。在前期与市场拆解GB200时我们就有提到当前NVLINK Switch板有多种设计正在同时进行,我们再重申一下我们的观点:

当前NVLINK Switch板有两种方案在送样测试,其一为1阶30层(低阶HDI板),其二为6阶24层(高阶HDI板),目前整个方案还未定板,但不难看出海外大客户对HDI技术使用偏好,我们认为这也是高速通信发展中芯片I/O数增加、系统集成化要求提高的必然趋势;

格局上利好大陆紧密配合的厂商。之前HDI供应份额为台系厂商1家独供状态,HDI需求增加将使得海外产业链核心厂商去替代台系厂商份额,值得关注的是:
【沪电股份】在2021年就启动预计产值19.8亿的HDI项目、2024年1月又加快预计产值5.5亿的HDI技改项目,作为长时间配合海外大客户AI产品的主要供应商,沪电股份正在蓄力待发;
【胜宏科技】惠州HDI工厂已经全面开出,跟海外大客户HDI类产品配合积极度高,有望在海外大客户HDI产品有所突破;
【景旺电子】软板产能、珠海高多层、HDI产能正在全方面配合海外大客户做未来研发类产品,公司当前是海外大客户软板主要供方;
【生益科技】唯一进入海外大客户高速类CCL竞争产业链的大陆厂商。


================================

GB200设计变化对HDI用量影响测算:单颗GPU的PCB价值量是H系列的2倍+,单颗GPU的HDI价值量是H系列的5倍+

🚀以NVL72机柜为例:几乎所有主要板子均可能采用HDI工艺,单颗GPU使用的HDI价值量约375美金

compute tray:superchip(GPU*2+CPU*1)采用的是5阶HDI,单块PCB价值量约500美金,对应单颗GPU价值量约500/2=250美金
switch tray:采用的是6阶HDI,承载nvswitch芯片,单pcs价值量约1000+美金,对应单颗GPU价值量约1000*9/72=125美金,若为NVL36则还会更高

🚀对比H系列的八卡HGX服务器:单颗GPU使用的PCB价值量约150美金,单颗GPU使用的HDI价值量约70美金

OAM卡:采用4阶HDI工艺,单卡价值量约70+美金
UBB模组:高多层通孔工艺,单张价值量约600美金,对应单颗GPU价值量约600/8=75美金

推荐:  胜宏科技+沪电股份
作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者持有相关标的,下一个交易日内可能择机卖出。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
赛腾股份
S
江波龙
S
广合科技
S
香农芯创
S
胜宏科技
工分
48.71
转发
收藏
投诉
复制链接
分享到微信
有用 38
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(26)
只看楼主
热度排序
最新发布
最新互动
  • 观羽
    已翻车的剁手专业户
    只看TA
    04-25 09:17
    涨姿势了,谢谢老板!
    3
    0
    打赏
    回复
    投诉
  • 韭久为功
    蜜汁自信的老韭菜
    只看TA
    04-25 08:26
    谢谢分享!
    2
    0
    打赏
    回复
    投诉
  • 只看TA
    04-25 11:35
    感谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    04-25 11:35
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 秋丰
    中线波段的老韭菜
    只看TA
    04-25 11:24
    感谢梳理解读👍👍👍
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    04-25 11:19
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    04-25 10:21
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 斯武
    中线波段的散户
    只看TA
    04-25 09:27
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    04-25 09:17
    感谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    04-25 09:14
    谢谢全景梳理
    1
    0
    打赏
    回复
    投诉
  • 1
  • 2
  • 3
前往