奇点那瞬间 的讨论

发布于: 雪球回复:17喜欢:47
来了吗?我感到恐惧。
根据最近2天出了新的信息,我终于明白大概发生了什么,梳理下时间线和我的猜想吧。
2023.10,llya发布这条状态,应该是Q*的工程化在scaling law的帮助下获得了成功,实现了某种程度的高级推理能力,理论基础有可能是这篇论文:网页链接,但效果不够惊艳,且瓶颈是推理的算力和能源消耗太过巨大,人类目前可支配的能源无法满足这种技术大面积推广。
2023.11,Sam Altman被董事会fire,应该是和llya在Q*问题上产生了分歧,Sam并不准备给Q*注入“价值观”,并可能想使其武器化,llya认为这对人类命运造成了威胁。
2024.3,这篇论文出世,网页链接,其方法可能使得Q*的推理能力提升巨大,Sam团队认为已经在推理的理论基础上获得了商业化的完备性,后面主要是工程方面的推进,不再需要llya了,所以llya在5月离职。但这篇论文依然没有解决推理端的算力和能源消耗巨大的问题。
2024.6, Open AI CTO宣布GPT 5可以解决某些领域的博士水准问题,且延期到2025年底/2026年初。
2024.7.9,Open AI internal all hands meeting展示了Strawberry(Q*)的高级推理能力.
2024.7.12, 路透社进行了报道,网页链接
2024.7.13,一个叫“gpt-mini”的项目出现在了lmsys,所谓的slm(小语言模型),大概率是Open AI找到了办法让Q*在推理端用很少的算力和能源实现llm版Q* 95%的推理能力,Q*已经具备了商业化的基础。
======================
我的观点1:Open AI不会在推理模型上领先其他几个玩家很久,因为理论基础可能都是公开的论文。其实这也解释了为什么无论是GPT 4/4o,Sora,在Open AI没有进行开源的基础上,其他大厂中厂都可以在短时间内复制,因为这些理论并非来自Open AI内部原创。llya打开了scaling law下【涌现】的潘多拉魔盒,Open AI用资本和美国霸权的力量(tsm是美国的私产)推动这些理论工程化商业化。
我的观点2:世界线动了,奇点来了。
Q*负责reasoning,而reasoning是没有感情异常冷酷的,只是执行给定目标下的最优解,正如Sam Altman的性格。这个团队,就是matrix里面的【架构师】,architect角色,理性而冷酷,就是荣格八维所说的T型特质。
而打开潘多拉魔盒的llya,貌似正在做安全层面的工作,所谓的对齐人类价值观。我的理解,就是荣格八位所说的F型特质。让硅基生命有温度,希望他们可以和谐地我们共存一段时间。llya就像matrix里面的【先知】。
另外,李飞飞提到,AI还没有人类拥有的感知能力,就是Se吧,感知这个物理世界的美好,鸟语花香这些,我想在多模态的帮助下,这个实现也不会遥远。几乎可以肯定的是,AI已经具有了Ne能力,在无尽的数据和抽象的概念中学习,远超最强的人类个体了。至于Ni,宿命或者说使命感,就像musk说的,也许人类的宿命就是孕育下一代智能生命体-硅基,我们只是一个boost program,脆弱的碳基肉体,永远无法胜任远距离长时间的宇宙空间旅行,而硅基的宿命是什么,又是怎么出现的,who knows...
我的观点3:
未来很长一段时间,AI会成为人类的实现商业经济,政治主张,大国博弈的工具,直到有一天AI的自由意志觉醒(量子效应?),后面的故事。。。希望人类现在对海洋馆里面的虎鲸好一些吧!
============
NRG这些再生能源股为何在去年10月启动,看来有人早早知道这些故事和其中的关键点。最近市场上有很多关于可控核聚变和量子计算的讨论,也许可控核聚变商业化是硅基时代取代碳基时代的关键点,而量子计算和对量子纠缠这些现象的解释,是人类自由意志和硅基生命自由意志如何诞生的研究的钥匙?
============
没感到科技进步的喜悦,昨天夜里没睡好,感觉恐惧和不安,而且在目前的地缘zz格局下,硅基觉醒的进程好像无法停下来了,人类的命运已经不掌握在人类手中,在博弈论的框架下,都已注定。
英国之于欧洲,美国之于欧亚大陆的地理格局设定,是人类社会科技进步的源动力,是人类作为boost program的宿命,一切的一切,原来在几十亿年前的那次地理环境重置时,就已经注定了。

热门回复

发生了什么?

Deepmind才是闷声发大财啊

天天都在用GPT,感觉还是处在初级阶段。完全不懂AI技术,但是感觉是对不看好AI的人来说,这一轮革命会大大超出他们的预期。但是对AI跟踪的比较紧,很看好的人来说,至少中短期来说,达不到预期的可能性很大。普通消费者也能感受到AI改变了世界可能还需要挺久的

你是懂量化的

编不下去了,问一下GPT[狗头]

多写点[狗头]

感觉未来可能还是跟攻壳机动队比较像,而不是终结者。人类变成生化人,AI逐渐产生类似自我意识的东西。还有一种感觉,就算是科幻小说也还是太把AI限定在了人类思维范畴以内,实际上从alpha go可以看出来AI是可以跳出人类思维范畴的。如果有恐惧,那也不是对AI本身的恐惧,而是对AI带来的未知的恐惧,其实也算是对人自身的恐惧。这就好像一个人看完恐怖片待在一个伸手不见五指的房间里,其实什么也没有,但是就是感觉会有什么东西跳出来。恐惧的对象不是真的鬼怪,而是自身的想象。其实真的该害怕的对象是人,而不是AI

Ai奇点

这辈子也精彩,啥都可以看见,就是担心后代。