发布于: 雪球转发:0回复:1喜欢:0
回复@ffffdddd: tsla车主闲暇时刻把自己的算力出租,如果用作是推理,谁需要呢,这个问题我有点没搞明白。//@ffffdddd:回复@涛点点点:推理算力不是训练算力
引用:
2024-04-13 21:27
注:作为近期小节,本文主旨大抵来源于雪球网友们讨论,并启发收束于一篇雄文(评论附链接)。
现实背景:chatgpt引爆gen-AI,LLM成为通向AGI的可能。越早摘得AGI果实的玩家获得越大奖励,军备竞赛开始。根据scaling law,玩家们无止境渴求加速计算算力。易得:
1、更大的角度上,持续而规...

全部讨论

04-28 00:08

其实未来推理需求应该非常非常大,应该远超训练的需求,但这种1kw不大也不小的这种分布式的专业推理算力有没有需求谁知道了。