发布于: iPhone转发:0回复:1喜欢:0
回复@张鹏n7t: 深算3支持8卡互联,//@张鹏n7t:回复@双修吗师太:单卡已经没什么问题了,现在主要是多卡互联效率下降太多,跑大模型的时候就差一些,这也是深算3号要解决的主要问题
引用:
2024-03-03 10:51
这篇文章主要讨论了国内AI产业对高端国产GPU的需求增加的背景下,能否用国产芯片来承接Nvidia环境的项目迁移的问题。为了解决这个问题,作者进行了一组测试数据,展示了客流统计算法从Nvidia环境往国产海光CPU+DCU的迁移训练过程。
作者验证了pytorch和paddlepaddle两种深度学习框架,以及目...

全部讨论

03-03 16:07

现在的互联是通过PCIE通道吧的吧,传输速度受限,相比NVLINK慢很多。而且现在那种上亿参数的大模型需要更大的规模集群,这方面差距更大了