发布于: 雪球转发:0回复:0喜欢:0

$恒润股份(SH603985)$ 算力需求贯穿大模型训练、微调、推理整个周期,训练侧方面,根据国泰君安证券推测,假设GPU利用率为35%,共训练90天,训练GPT-3需要371片A100,GPT-4需要165344片A100,增长了大约445倍。推理侧方面,西部证券表示,当模型参数增长至万亿级且具有多模态能力,能承担更多生成、分析等任务时,将吸引更多用户,长期来看,预计未来ChatGPT推理侧A100需求将超过70万张。

面对大幅增长的需求,高端GPU算力成为稀缺资源。11月14日,并济科技公众号发布通知,由于高性能运算设备持续涨价,A100算力资源持续紧张,即日起A100算力服务收费拟上调100%。有券商研究机构表示,美国对高端GPU出口中国的禁令加剧令高端GPU资源愈发稀缺,硬件成本上涨已传导至算力租赁报价,算力租赁有望迎来一波“涨价潮”。