发布于: Android转发:0回复:0喜欢:0
这么一弄。除了华为百度阿里腾讯字节这种可能自己搞搞大模型。。大a最多再加个科大。。其他的玩不玩的起不说,玩的地方一两年内都不好找呀[捂脸]一两年不玩,那以后还怎么玩。。那会不会为了适应算力瓶颈。转去搞小模型了。。
引用:
2023-11-13 09:17
本文主要讨论英伟达新卡H20对算力集群的影响。
先看一个公式:
训练集群总算力=单卡算力*卡数*利用率(集群加速比)
总算力约束下,利用率不变,单卡算力下降多少,卡数就得增加多少。H20算力只有A100的一半,H100的10-20%,意味着卡数就得扩大到原来的2-10倍。具体多少倍,取决于原来...