GTC大会透视:摩尔定律渐微,部件空间打开

发布于: 修改于: 雪球转发:3回复:62喜欢:58

摩尔定律渐微

摩尔定律开始失效了。 单位面积内的芯片算力被定格在 H100 量级。从 B200 开始, GPU 要沿着堆料的方法摊大饼了。B200 仅比 H100 加速 13%:

由于 B200 实际上是两块H100芯片拼起来的,单位面积内的算力需要除以二。以 LLM 目前最主要的训练方式 BF16 精度为计算单元,实际上 B200 的加速效果:

B200这代产品,虽然通过摊大饼的方式(两个Die双拼、NVL72 Giant GPU),做大了芯片性能,但并非通过工艺和技术架构演进获得增益,需要支付更多的成本在互联、散热、交换等非GPU领域,暗含了Nvidia自身的毛利率、净利率下行的趋势

所以,GTC大会上,老黄刚演讲完DGX B200 NVL72系统架构,Nvidia的股价应声回落,道理都在这里。

配套部件的价值凸显

人类尚未实现AGI,而通往AGI的总指导方针是scaling-law, 参数量、数据、算力三者,只提升任何一个或者两个,总的增益都有上限,必须三者同步提升才能持续提升AI的效果。所以,不管摩尔定律是否有效,人类必须找到一个持续提升算力的途径

半导体工艺效果越来越小,穷途暮路,只能通过摊大饼的方法scale out,通过系统层面优化,获取增益。而B200给业界打了一个样,打开了配套部件的创新空间

1、3D封装;

2、更多、更快的HBM;

3、大规模NVLink-Switch导入224G 高速铜缆和连接器;

4、液冷散热技术;

5、Quantum-X800 InfiniBand芯片同步上市,光模块从800G升级到1.6T,给高速光模块带来新的代际空间;

6、更大、更多层数的PCB;

洞察结论

1、摩尔定律渐微,从Nvidia的芯片演进速度看,A100->H100->H200->B200,半导体自身的增益越来越弱。靶心已经固定不再是移动AMDIntel、BRCM等对手追赶的机会来了。华尔街是否已经有一点隐忧?

2、摩尔定律渐微,系统改进是未来的重要方向:a)持续加大HBM内存容量;b)持续提升互联带宽,从而提高GPU的并发度;c)持续提升集群规模,从而提升系统容量;d)持续提升散热能力,给摊大饼创造条件;…。

3、摩尔定律渐微,增量部件的价值将更加凸显(3D封装、HBM、液冷散热、高速光模块、高速连接器…),也将激发这些领域以更快的速度创新、更快的速度导入市场,做大的产业蛋糕

完毕。

$上证指数(SH000001)$ $深证成指(SZ399001)$$英伟达(NVDA)$

精彩讨论

闷得而蜜03-20 22:12

GB200 NVL72系统的推出,向全世界展示,算力提升,不仅仅是GPU芯片的任务,内存、光模块、散热、连接器、PCB...,大家都必须扑上去,在GPU英伟达的带领下,组成强大的军团,通过集团化、阵地战,取得胜利。
A股里面的优质龙头股票,成长空间彻底打开。$创业板指(SZ399006)$ $上证指数(SH000001)$

闷得而蜜03-20 22:25

是的。目标靶已经固定了,扬长避短,追得上。

闷得而蜜03-20 21:56

摩尔定律渐微,中国人擅长摊大饼的功夫,就可以发扬光大。话粗理不粗,工业富联、中际旭创、天孚通信将来都是第一线的将军。$工业富联(SH601138)$ $中际旭创(SZ300308)$ $天孚通信(SZ300394)$

闷得而蜜03-20 22:03

英伟达B200芯片、GB200系统发布,其实给A股创造了巨大的市场空间。市场根本不理解。我们还在相互卷, 铜缆卷光模块,应用卷硬件。

闷得而蜜03-20 21:51

其实文章有一句话我删了,如果不删,就被控流:“Nvidia在他下一代芯片X100退出来之前,股价上行的阻力巨大”。$英伟达(NVDA)$

全部讨论

03-20 21:48

买啥呢?还是易中天?

03-20 21:40

请教一下,所以未来的进一步加速是需要台积电工艺的支撑?还是内存跟光模块等部分受阻呢

03-21 08:28

按我理解,硬件依然先行,只不过从头部转移到分部,映射出各行硬件配套机会。而通过英伟达gpu发展趋势,可以映射出中国摊大饼的机会

渐微是日渐式微的缩写吗?没见这么用的啊

03-20 22:14

转发

03-20 22:13

$

03-20 21:40

需要除GPU本身之外的其他增益带来效能提升

03-20 21:32

专业,专注

03-20 22:34

所以AI的尽头是光伏。

03-21 09:20

部件有哪些美股呀