回复@泡沫艺术家: 耗电量也炸了//@泡沫艺术家:回复@男巫z:早着了，本地部署能靠谱点的14B语言模型使用INT8量化优化后显存，大概也需要占用18G，推理的时候GPU还完全占用。也就是说需要一块4090性能级别的，跟当初PhysX物理加速卡一样作为AI辅助运算卡才行...