发布于: 雪球转发:0回复:0喜欢:0
回复@莉莉安78: 对于消费者而言不在乎是云端还是本地,只要被需要,高频使用就有了价值
长期来看一定是端和云结合的,复杂的功能运行在云端,简单的功能运行在本地
云端的功能越多,给国内大模型的能力提供商创造了更多的机会点//@莉莉安78:回复@进化论一平:AI手机是新瓶装旧酒,本质上还是调用云端服务,只不过三星这个是放在了一些系统应用里而已。按照这个定义,300块钱的手机装上chatgpt也能叫AI手机,只要能联网就ok。再说点正经的,3-5年内实现纯本地不用联网的大模型,基本不要想了。模型太大,边缘端计算能力和模型差了好几个量级。PS:我目前研究的领域就是压缩大模型,用于边缘计算。实际上一个CV classification模型压缩后放到边缘端,performance都要从99%降到70%左右。大模型是CV模型的NNNN倍。
引用:
2024-03-03 14:20
后面Ai手机的发展,愿意隐私开放的可以选择低配手机硬件+云端AI;不愿意隐私开放的要选择硬件功能更强大的手机+端侧蒸馏模型。萝卜白菜各取所需。