AI光模块将以幂率增长

发布于: 修改于: Android转发:7回复:44喜欢:33

推理AI光模块的需求,发现魔鬼在细节上。到目前为止,市场都把光模块的需求量,与GPU的数量线性等价出来,其实完全错误。

GPT3.5的算力需求是5000P,GPT4的算力需求是30000P,而到了GPT5算力需求只是十万P起步。不同的算力规模,GPU集群大不相同。而GPU间的互联数量是GPU卡的平方关系。比如GPT3.5到4算力提升6倍,其实通信带宽提升36倍,所以光模块的需求到了GPT4才爆发就是这个道理。

GPT5算力是GPT4的两倍以上,光模块需求量是4倍以上。大模型每升级一次,光模块的带宽需求量原则上以2的幂次方增加!所以必然带来海量的800G,更迫切的1.6T。

解决办法有两个,更多的光模块,或者更高的速率。二的平方是四,所以,每一代,既要求数量翻倍,也要求带宽翻倍,才能满足需求!

等GPT5发布的时候,这个带宽需求的幂率将被市场广泛接受。

$上证指数(SH000001)$ $创业板指(SZ399006)$ $中际旭创(SZ300308)$

全部讨论

04-12 14:02

今天很多人看到Marvell AI day上的ppt激动不已,说Interconnect数量在迅猛增涨。
AI集群的光模块增速,我在一月初这个帖子里面,就反复强调啊,跟GPU不是线性关系,是平方关系。但凡懂一点点数据中心网络架构知识的人,都很容易理解啊。$中际旭创(SZ300308)$ $新易盛(SZ300502)$ $天孚通信(SZ300394)$

AI算力之光模块,最大的预期差是大部分还在线性思维地看待市场需求增速。理解超算计算机架构的人都知道,算力需求增长一倍,需要四倍通信带宽互联,遵循幂律,才能保证集群系统发挥最大效能。 未来的算力瓶颈,主要在存储器和通信带宽。$上证指数(SH000001)$ $深证成指(SZ399001)$ $创业板指(SZ399006)$

慢慢来,市场大多数人还没搞清楚状况。

01-26 00:29

A股还是更喜欢中特估

01-26 13:37

要将算力和存储性能发挥得最大,通信带宽肯定是幂律最佳。不过呢,这种配置确实比较豪华,如果要节省开支,只能做权衡,增加一些收敛比。

01-26 00:21

请教,有思考过旭创能达到多少亿市值吗?

闷总,老美的制裁棒会不会打到旭创的头上?这会不会是资金不肯出价的原因?

04-12 21:18

不是简单平方关系,是一堆n卡的平方和

03-29 16:27

这样算,如果算力*2,那么光模块带宽*2,光模块数量*2^2。按照台积电COWOS扩产计划,24年底月封装40000片以上,同比增长260%,那么光模块的需求金额得*28!

02-18 14:19

光芯片