xAI启用当今世界最强大脑,10万块H100组成无敌超算中心

发布于: 雪球转发:1回复:12喜欢:7

北京时间7月22日下午6点左右,马斯克在社交平台X上宣布,旗下xAI、 X团队,以及英伟达和支持公司所做的出色工作,其位于田纳西州孟菲斯的超级计算中心已于当地时间凌晨 4:20 开始运作。
马斯克说,这是世界上最强大的 AI 训练集群!拥有 10万块英伟达液冷 H100。

10万块H100是一个什么概念?其算力大约是 OpenAI 用于训练GPT4的 25000 块 A100 的 20 倍左右。仅仅是让这个超级计算中心维持运转,所需要的电力总功率就达到70 兆瓦!这是一座普通电厂的发电总功率。

在大语言模型(LLM Large Language Model)的训练中,算力和数据至关重要。也可以说,算力和数据决定了大语言模型的能力。某种程度上,这也是诸如英伟达这样的硬件公司能够在人工智能时代率先崛起的原因。它们是人工智能时代的基础设施。

借助于遥遥领先的算力,马斯克希望能够在12月份之前,帮助旗下的xAI和X训练出下一代大语言模型Grok3,并借此超越chatGPT5。就目前的算力对比而言,这是一个大概率事件。

如果这个事情做成了,直接利好的不仅仅xAI团队,以及X平台上的用户体验,特斯拉也能利用这种算力去优化FSD,那么特斯拉的估值还会不断提升。

细心的用户也发现了超级计算中心的启用时间为凌晨4:20,马斯克在这件事情上也没忘了玩梗。

420是马斯克经常拿来使用的一个数字。其源头是他非常喜欢的一部小说《银河系漫游指南》,在小说中,一个高度智慧的跨维度生物种族为了寻找“生命、宇宙以及任何事情的终极答案”,制造了一台名为“深思”的超级电脑进行计算。经过750万年的运算,深思给出了答案“42”。

马斯克将旗下人工智能公司xAI的使命也定义为”理解宇宙“。

随着超级计算中心的投入使用,马斯克今天在社交媒体上也开始了大举招聘,有了算力,X和特斯拉提供的数据,接下来考验的就是算法了,而这些离不开优秀的人(工程师)。

全部讨论

07-23 08:45

明年干10万张b200

07-23 08:52

420的梗不是你说的这个好不好

07-22 21:56

转,问问马斯克,7月22日下午6点左右,马斯克在社交平台X上宣布,旗下xAI、 X团队,以及英伟达和支持公司所做的出色工作,其位于田纳西州孟菲斯的超级计算中心已于当地时间凌晨 4:20 开始运作。

学习

07-23 11:04

不用低距离高速传输的铜连接?联接?尽管如此,四十二年后才能无人自动驾驶

07-23 09:27

几乎所有人都希望能大力出奇迹,真的会出奇迹吗?只是直觉觉得不那么容易吧。

07-23 09:24

AI如此耗能,足见人体进化的精妙,一碗米饭、一个鸡蛋,人就能干AI一个发电站能办到的事。也难怪减肥那么难了,因为人体的能量利用太高效、太节能了。但有一点人体远远比不上AI,就是进化速度,我们现在的大脑和身体与几千、甚至上万年前几乎毫无二致。而AI的进化可能是以天甚至小时算的,这也挺可怕阿。

07-22 21:51

H100不都淘汰了