04-28 06:02
不,英伟达在推理上优势很大,第一,上次英伟达财报说它卖的卡有40%的算力用于推理 说明它的卡也适合推理。第二,几个月后要发售的gb200的推理性能比h100暴涨几十倍,所以这些大公司还是会继续买英伟达的新产品用于推理。
-3小模型,未来可能是在cpu上推理,这个直接就跟英伟达没啥关系了
不,英伟达在推理上优势很大,第一,上次英伟达财报说它卖的卡有40%的算力用于推理 说明它的卡也适合推理。第二,几个月后要发售的gb200的推理性能比h100暴涨几十倍,所以这些大公司还是会继续买英伟达的新产品用于推理。
模型你只要相信只有越大越才能实现 AGI,就会一直需要 nvda
推理可以在cpu上,训练还是得在gpu上吧
技术方面不是很懂,但看你的意思,这算是利空吧
推理主要在终端而不是数据中心 看达子这次如何应对啦