发布于: 雪球转发:0回复:0喜欢:0
回复@巍巍锟仑: 机票价格是绿皮火车的几十倍,大家为何还选择坐飞机?
互联网更是一个胜者为王的竞争模式,你用古老的386的电脑当服务器,成本最低啊,但是用户都跑光了。$英伟达(NVDA)$$AMD(AMD)$//@巍巍锟仑:回复@seetomorrow:据一位网友估算,要运行LIama2模型,需要购买约568块芯片,而这将花费高达1171万美元。与之相比,英伟达的H100卡在同等吞吐量下的硬件成本只有Groq的40分之一,能耗成本则只有其1/10。
引用:
2024-02-21 23:37
LPU等新架构颠覆英伟达的可能性还是挺大的
当前chatGPT等大模型的痛点是什么?就是反应太慢了,问个问题要等很久,而LPU大大加快了反应速度。
所以看华尔街文章中那神马专家去比较什么成本,能耗,都是扯淡。
现在是抢用户的窗口期,那些科技巨头在乎成本吗?拼的是用户体验啊,
...