06-28 20:13
所以我觉得英伟达一直被市场低估,或者合理化估值,等大家都意识到这些asic TPU没啥竞争力的时候就英伟达估计股价真的就要快速到顶了
700亿参数Llama 3吞吐量达到每秒500000(五十万)tokens
比英伟达下一代芯片GB200快一个数量级,还更便宜
查看图片
$英伟达(NVDA)$ ai未来很长时间都会是一条非常主要的科技线,但是英伟达最大问题在于它的优势仅限于训练,尤其多卡训练,卡间通信,还有 cuda 框架。
但是真正ai 能赚钱的地方是推理,而推理的话,是可以有很多技术路线的,包括 fpga,定制 asic 芯片等都可以推理,不一定要 gpu。比如谷歌的tp...
所以我觉得英伟达一直被市场低估,或者合理化估值,等大家都意识到这些asic TPU没啥竞争力的时候就英伟达估计股价真的就要快速到顶了