这tmd ,一个服务器一吨重。32个大芯片(每个大芯片=2个gpu+1个cpu),一个服务器就能跑27万亿参数的模型,相当于15个gpt4。Gpu越强大,需要的服务器越少,液冷也是跟服务器数量,单位算力所需光模块也会变少,真正一直...
要不躺着放
看底下有角铁,安装时会有金属膨胀管,当然15个人借助工具也是有可能推倒的。
吃饱了没事干的不怕坐牢的十几个人上去使劲推?
倒不了。算力升级是为了降低推理成本,打开更高的市场规模。推理需求足够便宜才能走进千家万户。机柜长期肯定也是增长的,只不过增速斜率远不及芯片。