发布于: Android转发:0回复:0喜欢:0
这个能耗真是个问题
引用:
2024-05-06 23:07
电网讲究供需平衡,但是 AI 训练的瞬时能耗极大,之前微软的工程师说美国任何一个州的电网都扛不住10万块H100显卡的负荷冲击(美国无法通过国家电网调配资源实现负载均衡也是一个问题所在),这就要求分布式的算力配置,还将推动大型储能加速发展。
与训练所需的短时间高能耗相不同的是,推理...