发布于: iPhone转发:1回复:6喜欢:6
[红包]【兴证通信】英伟达GTC点评-20240319
[庆祝]发布GB200(主推):1)#配比上采用1CPU+2GPU,单个机柜内部可容纳72个GPU;2)互联模式采用NVSWTICH(NVSWITCH:采用台积电4nm工艺,72端口(双向200G serdes),#NVLINK带宽达到1.8TB),GPU和NVSWITCH之间采用铜互联,同时搭配IB交换机进行网路互联;3)针对单颗GPU,采用192GB HBM3e,8TB内存带宽
[玫瑰]配比关系:若采用1.6t光模块,#预计比例提升1:9。单卡双向传输带宽达到1800GB,单向对应900GB,若采用1.6t光模块传输+2层网络结构,则对应光模块使用数量为(900GB*8/1600GB)*2=9个,考虑到英伟达当前主推GB200,预计有望带动1.6t光模块加速放量,重点推荐#【中际旭创】、【新易盛】、【天孚通信
[太阳]相较于GH200,GB200性能全面提升,尤其在#推理端性能提升明显,对于GPT万亿模型参数,在FP4计算格式上,GB200的效果是H100的约30X。目前GB200的生态合作伙伴不断扩大,包括AWS、谷歌微软、甲骨文等,#相较于GH200,GB200有望大幅放量,#推动光模块配比关系大幅提升!
[太阳]铜互联形式:NVSWITCH集成在服务器内部,通过采用铜互联,成本节约6倍,#预计大概率使用背板连接方式,或采用传统DAC互联形式,背板连接环节重点推荐#【鼎通科技】(海外高速背板连接器组件核心供应商)、【华丰科技】(国内高速背板连接器龙头),DAC环节可关注#【兆龙互连
[太阳]GB200可采用新型高效液冷机架规模架构,有望推动液冷在AI服务器市场渗透率提升,重点推荐#【英维克】等厂商。
$英伟达(NVDA)$ $艾艾精工(SH603580)$ $福蓉科技(SH603327)$

全部讨论

繁华不过是一捧沙03-19 20:28

咋在哪都能看到这大哥踩光模块

王利群Alex03-19 16:56

英伟达昨晚发布的GB200使用的NVLink 电缆都是铜电缆,不需要光收发器,节省了 20kW 的计算成本。国内cpo可以歇一歇了。

分时作手03-19 14:32

关注你了 这篇文章的原始出处可以加wx推送一下吗 谢谢 我这边也有比较快的作文渠道

拐点式03-19 12:55

大漠雨下03-19 08:53

这个交换机有啥特别的吗

爱吃菠萝的菠萝西03-19 08:09

液冷发布会没啥热度