Augustusss 的讨论

发布于: 雪球回复:6喜欢:6
马斯克去年还提倡禁止开发比GPT4先进的AI技术呢,结果自己疯狂囤卡偷偷卷[狗头]
学霸的话不能信,考试成绩是不会骗人的。
FSD用的就是纯视觉神经网络+transformer架构,只要用了transformer就逃不出Scaling Laws,算力是少不了的。越接近100%,需要的边际算力就越大。

热门回复

其实涉及到一个涌现的问题,就是scale到一定规模后,模型会突然出现很强大的能力,OpenAI称之为“涌现”。这可能说明一个问题,模型能力和算力不是线性关系,而是达到一定规模后会量变产生质变。这个质变的量是多少,前沿AGI的公司都在探索,用的参数不一样,可能量也不一样。就像这次特斯拉FSD突飞猛进,马斯克宣布8.8就能robotaxi了,这个都超出很多他们公司人的预期,我觉得只能用涌现来解释。这种“涌现”,肯定所有大厂都体会过,所以他们不可能停止算力投入。因为一旦你停止了,别人继续投,别人“涌现”了更强大能力,你的业务就被别人降维打击了。这就是杨植麟说的,你去做AIGC、做应用,结果人家AGI公司取得突破,掉过头来做应用,你就被降维打击了,用户会全部流失掉。所以,Scaling Laws揭示的是AI时代最本质的问题,目前看,这个矛盾的主要方面还是算力。

如果涌现有边界,也可能到不了AGI,不过我也不懂。纯吃瓜闲扯,和股票无关。

这么说没问题,但值得思考的是Scaling Law也可能有瓶颈,但到没到瓶颈不懂,纯吃瓜

目前阶段AI边界的话就是AGI,细化到特斯拉的话就是完全智能驾驶。真的实现AGI了,会淘汰一批人,竞争相对会小。现在是属于向AGI冲刺的阶段,北美大厂的资本开支都是逐年增长的,大部分都投到算力了。还是投入期,而且成本不是重要考量因素(广发原话)路还很长。

这些在现在说呢就是比较浅的通识道理,大家都懂。我指的是涌现也可能有“边界”,当然也可能没有,太深的不懂。

到不了agi 跟当年新能源的碳中和一样,产业资本确实向这个投资去的,至于能不能到想要的效果谁也说不定