曙光640卡机柜亮点
#浸没式相变液冷+高压直流,最大程度解决高功率密度难题,集合640卡于单机柜,【柜内全电正交架构】,占地面积极小。pue<1.04。860kw(单卡1.34kw)。
#参数: fp16/bf16 算力630p(单卡近1p算力,h100水平),显存81.9TB(单卡128GB),显存带宽2304TB/s(单卡3.6TB/s),互联总带宽573TB/s(单卡900GB/s),这就是DCU3改的实力。
#训推性能提升40%+ 推理可实现pd分离,训练EP通信耗时降低15倍。