重视!NPU成AI手机、AI PC最大的增量方向!

发布于: 雪球转发:0回复:0喜欢:1

重视!NPU成AI手机、AI PC最大的增量方向!

事件:据中证报独家报道,苹果将推出搭载M3芯片的AI新款笔记本电脑,M3芯片集成了更快更高效的16核神经网络引擎(NPU),这使得 MacBook Air能够持续助力 AI技术的应用。

NPU是什么:全称为Neural Network Processing Unit,即神经网络处理器,它是一种专门设计用于加速终端侧计算能力的处理器。与传统的CPU和GPU相比,NPU在执行如AI推理等特定类型的计算时,能够提供更高的效率和能效,这使得它们在移动设备和嵌入式系统中特别受欢迎。

为什么需要NPU:NPU可以帮助端侧设备,如手机、电脑、蓝牙音响等终端设备具有本地化运行大模型的能力,例如一个手机的处理器没有搭载NPU,那要具备AI功能只能通过云端连接大模型,而加载NPU后可在本地运行大模型,数据私密性、时效性及各类AI功能的场景体验性都将获得极大提升。

NPU的优势:提升了终端侧的AI计算能力,使AI模型的推理更加快速高效。例如AMD的锐龙8040系列移动处理器,集成有Ryzen AI NPU,其AI处理性能比之前的AMD型号高1.6倍。

炬芯科技:端侧AI处理芯片布局领先,公司前期深度布局端侧AI处理器,24年公司将推出基于存算一体架构的CPU+DSP+NPU三核异构处理器,产品ASP提升3-5倍,22nm工艺下能效比高达7.8TOPS/W,从根本上解决端侧AI设备的续航、发热等痛点。

其他:全志科技国科微国芯科技北京君正云天励飞