发布于: Android转发:0回复:0喜欢:0
回复@闷得而蜜: 券商算法不是这样,//@闷得而蜜:回复@闷得而蜜:今天很多人看到Marvell AI day上的ppt激动不已,说Interconnect数量在迅猛增涨。
AI集群的光模块增速,我在一月初这个帖子里面,就反复强调啊,跟GPU不是线性关系,是平方关系。但凡懂一点点数据中心网络架构知识的人,都很容易理解啊。$中际旭创(SZ300308)$ $新易盛(SZ300502)$ $天孚通信(SZ300394)$
引用:
2024-01-25 23:26
推理AI光模块的需求,发现魔鬼在细节上。到目前为止,市场都把光模块的需求量,与GPU的数量线性等价出来,其实完全错误。
GPT3.5的算力需求是5000P,GPT4的算力需求是30000P,而到了GPT5算力需求只是十万P起步。不同的算力规模,GPU集群大不相同。而GPU间的互联数量是GPU卡的平方关系。比如GPT...