03-19 10:06
大模型的训练,就好比是一个人从出生到大学毕业接受教育的过程,消耗的时间、金钱、精力都非常大。
大模型的推理,就好比一个已经接受了完整教育的人利用过去十几年所学的知识经验技能来分析问题,分析过程中消耗的时间和精力非常有限。
未来人形机器人或智能手机的大部分AI服务,只是利用已经训练好的大模型进行本地推理,云端只是这些“机器大脑”接受高等教育的场所,机器大脑培训好之后,就可以复制部署到各个终端设备里面,离线提供服务。当然,为了让大模型与时俱进,这些复制分散到成百万千万个终端里的“机器大脑”,还可以不断将搜集到的问题、回答和用户反馈上传到云端,供机器大脑的升级,升级好了的补丁,再OTA到各个终端里……
人形机器人或智能手机,不一定随时随地都在线,离线问答或离线完成任务的人形机器人,才像真正的“人”——有自主行为能力的独立个体。