发布于: 雪球转发:11回复:48喜欢:13
【贾扬清:Groq的AI芯片不能平替英伟达】财报发布前两天,英伟达突然冒出来一个劲敌。一家名叫Groq的公司今天在AI圈内刷屏,杀招就一个:快。不过,原Facebook人工智能科学家,原阿里技术副总裁贾扬清在推特上算了一笔账,因为Groq小的可怜的内存容量(230MB),在运行Llama-2 70b模型时,需要305张Groq卡才足够,而用H100则只需要8张卡。从目前的价格来看,这意味着在同等吞吐量下,Groq的硬件成本是H100的40倍,能耗成本是10倍。(36氪)

全部讨论

1.科技总是越新越好。因此所有高科技都是时间的人。
2.炒股不是一个关注生意长期回报的游戏,是一个关注股价涨跌的庞氏游戏,追逐的是各种各样的边际变化。

02-21 07:59

看了下数据,原来需要1000多万美金购买groq卡,用h100只需要30万美金就够了!完全是马车跟火车的对比

02-21 08:19

Groq的硬件成本是H100的40倍,能耗成本是10倍。

02-21 07:49

昨天把北京君正,万润科技干涨停的各位猛士,竞价如何应对?

02-21 09:10

阿里算老几??

02-21 13:38

英伟达平替短期只能是炒作噱头。产品的高研发成本和低成本大规模生产一道道难关摆在那里。

这么看买三星的股票不会错。groq成功了,三星是它的代工厂。不成功的话,三星也有hbm。

02-21 10:08

懂行的

02-21 10:05

mark

02-21 08:21

换个角度说,平替SRAM销量更高了