一旦这些巨头开启AI推理服务,算力的开支很难想象,猜想AI能力服务逐步开放,同时AI算力成本逐步下降,这样形成一个剪刀差形态。再一个启示就是:云厂商为提升竞争力,必须要自建算力中心,对于大部分非云厂商,是否有必要去...
推理的算力需求 大概是3分之一训练需求。但是推理的持续性和边际的可扩张性在训练出强大的模型后,会大大大大的增加。那就会远大于训练的需求量。而训练的需求量在实现AGI前又会不断的增长。
mark