GTC大会透视:摩尔定律渐微,部件空间打开

发布于: 修改于: 雪球转发:3回复:62喜欢:58

摩尔定律渐微

摩尔定律开始失效了。 单位面积内的芯片算力被定格在 H100 量级。从 B200 开始, GPU 要沿着堆料的方法摊大饼了。B200 仅比 H100 加速 13%:

由于 B200 实际上是两块H100芯片拼起来的,单位面积内的算力需要除以二。以 LLM 目前最主要的训练方式 BF16 精度为计算单元,实际上 B200 的加速效果:

B200这代产品,虽然通过摊大饼的方式(两个Die双拼、NVL72 Giant GPU),做大了芯片性能,但并非通过工艺和技术架构演进获得增益,需要支付更多的成本在互联、散热、交换等非GPU领域,暗含了Nvidia自身的毛利率、净利率下行的趋势

所以,GTC大会上,老黄刚演讲完DGX B200 NVL72系统架构,Nvidia的股价应声回落,道理都在这里。

配套部件的价值凸显

人类尚未实现AGI,而通往AGI的总指导方针是scaling-law, 参数量、数据、算力三者,只提升任何一个或者两个,总的增益都有上限,必须三者同步提升才能持续提升AI的效果。所以,不管摩尔定律是否有效,人类必须找到一个持续提升算力的途径

半导体工艺效果越来越小,穷途暮路,只能通过摊大饼的方法scale out,通过系统层面优化,获取增益。而B200给业界打了一个样,打开了配套部件的创新空间

1、3D封装;

2、更多、更快的HBM;

3、大规模NVLink-Switch导入224G 高速铜缆和连接器;

4、液冷散热技术;

5、Quantum-X800 InfiniBand芯片同步上市,光模块从800G升级到1.6T,给高速光模块带来新的代际空间;

6、更大、更多层数的PCB;

洞察结论

1、摩尔定律渐微,从Nvidia的芯片演进速度看,A100->H100->H200->B200,半导体自身的增益越来越弱。靶心已经固定不再是移动AMDIntel、BRCM等对手追赶的机会来了。华尔街是否已经有一点隐忧?

2、摩尔定律渐微,系统改进是未来的重要方向:a)持续加大HBM内存容量;b)持续提升互联带宽,从而提高GPU的并发度;c)持续提升集群规模,从而提升系统容量;d)持续提升散热能力,给摊大饼创造条件;…。

3、摩尔定律渐微,增量部件的价值将更加凸显(3D封装、HBM、液冷散热、高速光模块、高速连接器…),也将激发这些领域以更快的速度创新、更快的速度导入市场,做大的产业蛋糕

完毕。

$上证指数(SH000001)$ $深证成指(SZ399001)$$英伟达(NVDA)$

精彩讨论

闷得而蜜03-20 22:12

GB200 NVL72系统的推出,向全世界展示,算力提升,不仅仅是GPU芯片的任务,内存、光模块、散热、连接器、PCB...,大家都必须扑上去,在GPU英伟达的带领下,组成强大的军团,通过集团化、阵地战,取得胜利。
A股里面的优质龙头股票,成长空间彻底打开。$创业板指(SZ399006)$ $上证指数(SH000001)$

闷得而蜜03-20 22:25

是的。目标靶已经固定了,扬长避短,追得上。

闷得而蜜03-20 21:56

摩尔定律渐微,中国人擅长摊大饼的功夫,就可以发扬光大。话粗理不粗,工业富联、中际旭创、天孚通信将来都是第一线的将军。$工业富联(SH601138)$ $中际旭创(SZ300308)$ $天孚通信(SZ300394)$

闷得而蜜03-20 22:03

英伟达B200芯片、GB200系统发布,其实给A股创造了巨大的市场空间。市场根本不理解。我们还在相互卷, 铜缆卷光模块,应用卷硬件。

闷得而蜜03-20 21:51

其实文章有一句话我删了,如果不删,就被控流:“Nvidia在他下一代芯片X100退出来之前,股价上行的阻力巨大”。$英伟达(NVDA)$

全部讨论

GB200 NVL72系统的推出,向全世界展示,算力提升,不仅仅是GPU芯片的任务,内存、光模块、散热、连接器、PCB...,大家都必须扑上去,在GPU英伟达的带领下,组成强大的军团,通过集团化、阵地战,取得胜利。
A股里面的优质龙头股票,成长空间彻底打开。$创业板指(SZ399006)$ $上证指数(SH000001)$

我这篇文章试图证明,将来没有nvidia光环照耀的时候,我们是否还有投资机会,如何开展投资。

03-20 21:56

摩尔定律渐微,中国人擅长摊大饼的功夫,就可以发扬光大。话粗理不粗,工业富联、中际旭创、天孚通信将来都是第一线的将军。$工业富联(SH601138)$ $中际旭创(SZ300308)$ $天孚通信(SZ300394)$

老师,我买了不少hbm的票,能不能再涨涨

这个GB200还是用4纳米做的你应该单位面积效能差不多到极限了 所以只能摊大饼了。 摊大饼能力中国很强感觉

03-20 23:10

铂科新材(300811)04月28日在投资者关系平台上答复了投资者关心的问题。
投资者:公司芯片电感散热情况怎么样?
铂科新材董秘:您好,公司独创的铜铁共烧芯片电感,在散热方面的优势主要体现在两方面。一方面是发热量少,因为合金软磁粉芯损耗更低 。另一方面是散热性好, 因为产品采用的合金软磁粉芯属于合金材质,相较于铁氧体的陶瓷体材质导热系数更高,同时在工艺上采用一体压制成型,使得导热铜片紧密贴合磁芯,散热效果好。谢谢!
投资者:市场上都在讨论服务器液冷风冷,请问公司的芯片电感在低温升方面有何独到之处?
铂科新材董秘:您好,公司独创的铜铁共烧芯片电感,在散热方面的优势主要体现在两方面。一方面是发热量少,因为合金软磁粉芯损耗更低 。另一方面是散热性好, 因为产品采用的合金软磁粉芯属于合金材质,相较于铁氧体的陶瓷体材质导热系数更高,同时在工艺上采用一体压制成型,使得导热铜片紧密贴合磁芯,散热效果好。谢谢!
投资者:公司芯片电感生产线是100%国产设备么?
铂科新材董秘:您好,公司自成立以来,始终保持产品配方及工艺的自主研发一直是公司的优势和壁垒,因此公司核心生产设备主要是与英伟达进行合作定制开发,并且以国产设备为主。谢谢!

03-20 21:51

其实文章有一句话我删了,如果不删,就被控流:“Nvidia在他下一代芯片X100退出来之前,股价上行的阻力巨大”。$英伟达(NVDA)$

03-20 21:35

后摩尔定律时代,中国的机会是扩大的。

03-20 21:46

摊大饼,中国人应该是鼻祖吧? 我们大西北,地大物博,非常适合摊大饼。

03-20 22:23

那给了中国追赶的时间了。