AI+硬件的核心——NPU!

发布于: 雪球转发:0回复:1喜欢:11

先说结论:AIPC时代,对AI性能影响重大的芯片NPU需求将大幅增加,高通有望借助NPU在PC领域崛起,除了NPU芯片外软件适配同样重要

先回顾一下我们前面提到的AIPC及智能终端产业链

终端大模型可能会挤爆你的内存条

AI应用——更重要的是AI+硬件终端

网页链接{ChatGPT的“APP store”时刻,AI+智能终端是未来的星辰大海}》

今天聊聊这个NPU

AIPC如今已是大势所趋,这里不赘述

为了让PC有充足的AI性能,首先需要一个面向生成式AI全新设计的神经网络处理器(NPU),同时利用异构处理器组合(比如CPU和GPU)。通过结合NPU使用合适的处理器,异构计算能够实现最佳应用性能、能效和电池续航,赋能全新增强的生成式AI体验

因为本身设计的不同,不同类型的处理器在实际的工作负载中能够扮演不同的角色。例如CPU擅长顺序控制和即时性,GPU适合并行数据流处理,NPU则擅长标量、向量和张量数学运算,可用于核心AI工作负载

NPU可以根据网络运算的特点,通过软件或硬件编程,实现多种特定用途的网络功能。相比传统CPU和GPU,NPU能够以更高的效率、更低的功耗执行神经网络任务

相比FPGA,NPU更具成本优势

所以可以毫不夸张的说,NPU是决战AIPC性能的关键因素

高通IntelAMD苹果等巨头均推出了各自的NPU来适配AIPC,以提高自家产品的AI性能

高通展示了骁龙X Elite在GIMP + Stable Diffusion 1.5生图性能上的优势,其NPU速度是酷睿Ultra 7 155H的3倍

功耗上也比竞争对手更低

目前包括微软、宏碁、联想、惠普、华硕都推出了搭载高通骁龙X Elite和骁龙X Plus的Copilot+ PC

国内映射看SOC领域与高通有竞争的恒玄、晶晨、瑞芯微,以及高通软件生态深度绑定的中科创达$恒玄科技(SH688608)$ $晶晨股份(SH688099)$ $瑞芯微(SH603893)$

全部讨论

又找李鬼……