发布于: Android转发：0回复：2喜欢：0
回复@Forest哥: Npu可以跑通用大模型[滴汗][滴汗][滴汗]我还跑过//@Forest哥:回复@顺势无为而无不为:海光是Gpu，华为、寒武纪是NPU，不能做通用大模型，景嘉微GPU刚入门。
引用：
2023-10-20 21:09
原帖已被作者删除

全部讨论

Forest哥
2023-10-21 16:51

npu只支持FP16半精度，不支持FP32FP64双精度单精度，或许能跑，但效果和Gpu比起来不是一码事。