【兴证通信】英伟达GTC点评-20240319
发布GB200（主推）：1）#配比上采用1CPU+2GPU，单个机柜内部可容纳72个GPU；2）互联模式采用NVSWTICH（NVSWITCH：采用台积电4nm工艺，72端口（双向200G serdes），#NVLINK带宽达到1.8TB），GPU和NVSWITCH之间采用铜互联，同时搭配IB交换机进行网路互联；3）针对单颗GPU，采用192GB HBM3e，8TB内存带宽
配比关系：若采用1.6t光模块，#预计比例提升1：9。单卡双向传输带宽达到1800GB，单向对应900GB，若采用1.6t光模块传输+2层网络结构，则对应光模块使用数量为(900GB*8/1600GB)*2=9个，考虑到英伟达当前主推GB200，预计有望带动1.6t光模块加速放量，重点推荐＃【中际旭创】、【新易盛】、【天孚通信】
相较于GH200，GB200性能全面提升，尤其在#推理端性能提升明显，对于GPT万亿模型参数，在FP4计算格式上，GB200的效果是H100的约30X。目前GB200的生态合作伙伴不断扩大，包括AWS、谷歌、微软、甲骨文等，#相较于GH200，GB200有望大幅放量，＃推动光模块配比关系大幅提升！
铜互联形式：NVSWITCH集成在服务器内部，通过采用铜互联，成本节约6倍，＃预计大概率使用背板连接方式，或采用传统DAC互联形式，背板连接环节重点推荐＃【鼎通科技】（海外高速背板连接器组件核心供应商）、【华丰科技】（国内高速背板连接器龙头），DAC环节可关注＃【兆龙互连】
GB200可采用新型高效液冷机架规模架构，有望推动液冷在AI服务器市场渗透率提升，重点推荐＃【英维克】等厂商。
☎详情欢迎联系