尤其是推理服务器环节
大模型的数据训练几乎是一次性的，参数训练出来即可，后续优化的频率也不会太高
推理服务器的需求是持续性更强的，每次调用都需带入训练好的参数进行推理

源杰科技