非典型伪价值投机 的讨论

发布于: 雪球回复:0喜欢:8
唉,把股民想的太聪明,就是我不聪明的地方。

热门回复

说明你还是没懂,你去看看冯诺依曼体系,哪里有GPU?

其实这里在讨论内存墙的问题。GPU里面ALU和memory也是分开的,中间用内部总线相连。现在大模型越来越大,ALU能力上升是飞快,但哪怕用GPU、内存也逐渐成为瓶颈,更不用说内存带宽了。这也是HBM等技术开始变得热门起来的原因。

你找个大模型问问吧,别来问我了,我不想回答那么基础的问题。

你一开口就已经没法聊了。你连高中计算机课都没搞懂。

而且AI集群还涉及到了服务器内、服务器间的GPU互联

GPU虽然还不是完全存算一体,至少也是近存计算,一定程度上旁路了CPU

我推荐你去看看黄在mit或斯坦福的那次演讲,2010年之前。对计算机,你绝对没有我懂。

gpu只是分担一部分cpu工作而已,因为分担工作重要才特化成gpu,本质是属于cpu的一部分,所以还是冯诺依曼结构。

虽然我认为大语言模型发展不出通用人工智能,但scaling law2-3年内还会继续有效而且具有部署的可行性。NV现在如日中天,但近忧在大云客户寻找替代,远期威胁在于模型架构的变革。

我不想与你争辩,你信任大模型,却不去看看创始人演讲。没啥意思,不过你真的不太懂