所以是微软说了算啊。微软肯定也有能力在云南的云端处理。完全连网都不让上的数据太少了,作为噱头可以宣传一下。主要还是成本考虑,比如简单的rag就没必要接个GPT4了,搜索部分在网络完成,本地再接着用个小的LLM梳理成人话就行。
眼下,这个事儿还说不好,得再观察观察看看。
所以是微软说了算啊。微软肯定也有能力在云南的云端处理。完全连网都不让上的数据太少了,作为噱头可以宣传一下。主要还是成本考虑,比如简单的rag就没必要接个GPT4了,搜索部分在网络完成,本地再接着用个小的LLM梳理成人话就行。
高通和苹果是赢家
网络带宽肯定是越来越快 但是算力是有边界的 尤其是云端的价格 算下来是不是比自己的小加速器更有性价比? 尤其是考虑到个人需求其实并不需要大型服务器那么多的运算量 一个小核可以处理的问题是占比非常高的 既节约了云端的服务费 也节约了带宽 $英特尔(INTC)$ $英伟达(NVDA)$
重要的不是“道德”这些,重要的是综合成本。