JZee 的讨论

发布于: 雪球回复:7喜欢:1
这事$英特尔(INTC)$ 说了不算,消费者也不算,因为消费者只管用,他不懂也不在乎哪里跑的。得看具体服务的提供方的设计。无论是$微软(MSFT)$ 打算在操作系统里怎么做,还是$谷歌C(GOOG)$ 等大厂提拱的方案。

热门回复

那还是不一样的。打个比方,你要在ThinkPad上通过AI处理一份上市公司的审计底稿,微软告诉你说这玩意儿需要传到美国的云端,这可能直接就犯法了…… 对于很多商业和政府场景来说,本地数据不能传到云端,可能是个比较硬的限制条件。

嗯,我也说了,是不是非要在本地设备上跑一个完整的大模型,是AIPC这个概念到底成不成立的分水岭。如果绝大多数用户并不在意把本地数据上传云端,那AIPC整个概念的存在意义是要打个问号的。毕竟网速只会越来越快。
眼下,这个事儿还说不好,得再观察观察看看。

01-15 13:45

所以是微软说了算啊。微软肯定也有能力在云南的云端处理。完全连网都不让上的数据太少了,作为噱头可以宣传一下。主要还是成本考虑,比如简单的rag就没必要接个GPT4了,搜索部分在网络完成,本地再接着用个小的LLM梳理成人话就行。

高通和苹果是赢家

网络带宽肯定是越来越快 但是算力是有边界的 尤其是云端的价格 算下来是不是比自己的小加速器更有性价比? 尤其是考虑到个人需求其实并不需要大型服务器那么多的运算量 一个小核可以处理的问题是占比非常高的 既节约了云端的服务费 也节约了带宽 $英特尔(INTC)$ $英伟达(NVDA)$

算力到一定程度,模型简单到一定程度,就没必要个人数据上云端吧?不太可能必须上云端。

重要的不是“道德”这些,重要的是综合成本。