发布于: iPhone转发:0回复:0喜欢:2
江波龙:随着AI训练模型参数量增长至千亿或万亿级别,HBM缓存和RDIMM容量不足将会成为训练效率的瓶颈。在3D-stacked DRAM内存成本高企的情况下,采用高性能、大容量的CXL存储器或是8x GPU卡AI服务器理想的缓存优化解决方案…江波龙正在预研能够支持AIC和E3.S的JBOM系统,结合即将到来支持CXL2.0的服务器系统,将为万卡AI训练集群提供更具成本效益的内存池化共享硬件解决方案。$江波龙(SZ301308)$