发布于: Android转发:5回复:30喜欢:15
NV新卡初步解读:H20
1、算力水平:约等于50%的A100(百分比仅定性 非定量)
单卡运算能力0.15P左右(FP16)
+900G的nvlink
+6颗HBM3
2、能力水平:L40S、RTX4090、A100的中间体
计算能力更弱
访存能力更强
集群能力一如既往优秀 万卡水平
NV生态完善
3、适用场景:大模型的微调、百亿参数模型的训练、大规模推理
大模型训练可能不适用?集群规模有上限,万P意味着十万颗级别GPU,组网难度可能极大。
4、成本:较贵,用了6颗HBM(H100用了6颗)对应96GB HBM3,HBM或可占到单卡成本的一半以上,所以售价和H100/800处于同一水平。
#以上信息均为估算,具体以后期到卡适配测试效果为准。
产业里前期已有新版NV卡传闻,而对NV H系列的需求仍未减弱,价格暂未体现。国产算力也同样势在必行,各家都在积极适配。新卡的推出也可在较多场景缓解供需压力。
无论如何,算力始终是AIGC发展的基础土壤。

精彩讨论

小资金做大只一满仓2023-11-09 19:56

NV新卡这算力也太鸡肋了吧,利好国产

lotus6668882023-11-09 20:14

太垃圾了,国产替代是大势所趋。国外的产品就像定时炸弹,随时有可能禁用。谁愿意用一颗定时炸弹呢?

黑鬼东3112023-11-09 20:12

转:【NV新品解读】近期H20 L20相关信息在传播,目前H20的设计思路是阉割单卡算力,满配HBM存储,满配NVLINK速率。由于单卡算力阉割的厉害,集群算力规模较低,算力阉割至1/6(原有性能20%不到),按照传输与计算均衡来预估,集群算力规模在1~2万P,再往上计算能力较差,难以跟H100/H800的规模化10万P以上算力抗衡,因此难以胜任GPT-4等训练任务,但是在大模型推理场景下有一定适用度

荒天悟道2023-11-09 20:05

$中际旭创(SZ300308)$ 百亿参数只是玩具呀,太鸡肋了

紫极魔瞳o数o2023-11-09 21:20

图片评论

全部讨论

NV新卡这算力也太鸡肋了吧,利好国产

2023-11-09 20:14

太垃圾了,国产替代是大势所趋。国外的产品就像定时炸弹,随时有可能禁用。谁愿意用一颗定时炸弹呢?

2023-11-09 20:05

$中际旭创(SZ300308)$ 百亿参数只是玩具呀,太鸡肋了

2023-11-09 20:12

转:【NV新品解读】近期H20 L20相关信息在传播,目前H20的设计思路是阉割单卡算力,满配HBM存储,满配NVLINK速率。由于单卡算力阉割的厉害,集群算力规模较低,算力阉割至1/6(原有性能20%不到),按照传输与计算均衡来预估,集群算力规模在1~2万P,再往上计算能力较差,难以跟H100/H800的规模化10万P以上算力抗衡,因此难以胜任GPT-4等训练任务,但是在大模型推理场景下有一定适用度

2023-11-09 21:20

图片评论

2023-11-10 08:19

英伟达这样搞,明显的歧视中国企业呀,侮辱性极强,谁买都要遭到唾弃的。这不是等同于掌掴打脸吗?阉割版卖你,你能接受?估计没人买吧$中贝通信(SH603220)$

2023-11-09 19:54

利好hbm

2023-11-09 19:53

恒为科技t总怎么看,还以为是互道,结果全是做t的

2023-11-09 20:20

要达到原有的算力水平就要更多的卡?更多的配套?利好光模块???

2023-11-09 20:02

利好华海诚科