图/微软
当然不是全部功能。众所周知,终端算力不可能和云端算力相比,想要让 Copilot 保持强大的性能和「智商」还是离不开云端的支持。但据 Todd Lewellen 介绍,Copilot 的很多关键功能将直接运行在本地的 NPU 上。
也不只是我们今天所看到的云端 Copilot。
早在雷科技之前关于下一代 Windows(以下简称「Windows 12」)的报道中,我们就引用消息源指出,微软将引入 AI 驱动的 Windows Shell,通过「高级版 Copilot」,持续帮助系统增强搜索、启动项目或工作流、上下文理解等生成式 AI 能力。
同时,微软还在开发一项新的时间线功能,允许让 Copilot 记下所有应用、网站浏览等活动记录,并且能够随时进行回溯,甚至是通过 Copilot 增强的搜索能力,快速找到过去某个时刻在 Windows 上的活动。
类似 Rewind,图/ Rewind
除此之外,微软还有更多基于 AI 改造 Windows 的想法和计划。
但不管是 Copilot 的本地运行还是在系统层面的深度引入,都意味着未来「AI 味」越来越重的 Windows 需要更强的端侧算力。
「将进入下一代 AI PC,NPU(算力)的要求为 40 TOPS,」Todd Lewellen 表示,「我们即将推出的下一代产品将属于这一类别。」
从之前多个来源的传闻以及英特尔高管的说法来看,40 TOPS(每秒万亿次运算)是微软对于下一代 AI PC 的最低算力要求,而且需要注意的是,这是对 NPU 的要求,不同于当下混合架构(CPU+GPU+NPU)提供的算力。
而仅从 NPU 提供的算力来看,今天所有宣称「AI PC」的笔记本电脑产品,都够不到微软下一代 AI PC 的资格。
比如英特尔最新的酷睿 Ultra,也就是 Meteor Lake,在 CPU+GPU+NPU 共同参与运算下的 AI 算力可达 34 TOPS,但如果仅算 NPU 就只有 10 TOPS,GPU 才是出力的大头。而 AMD 最新一代锐龙 8040 系列(Hawk Point),NPU 的算力也只有 16 TOPS:
两者都低于 40 TOPS 的性能要求。
相比之下,将在年中集中上市的骁龙 X Elite 笔记本倒是满足了要求,混合架构下的 AI 算力可以达到 75 TOPS,仅 NPU 的算力也能达到 45 TOPS。
骁龙峰会上的展示机,图/雷科技
不过这种优势大概只能保持半年。
英特尔这边是确定了下一代 Lunar Lake(预计年底发布)的 NPU 算力将超过 40 TOPS。AMD 那边虽然没有消息,但如果不出意外也会在下一代大幅提升 NPU 算力,以满足微软对于 AI PC 的标准和 Windows 系统的需求。
至于为什么微软只看 NPU,其实不难理解。Todd Lewellen 表示,微软坚持让 Copilot 在 NPU 而不是 GPU 上运行,以尽量减少对电池寿命的影响:
去年(与微软)进行了很多讨论,我们问『为什么我们不能在 GPU 上运行它?』他们说是希望确保 GPU 和 CPU 被释放出来完成其他工作。而且我们希望确保出色的电池寿命体验,如果在 GPU 上运行 Copilot 和其中一些工作负载,你会看到对电池续航的巨大影响。
核心其实就是两点:一是不能影响 CPU 和 GPU 日常干活;二是 GPU 用于 AI 运算功耗太大了,对续航的影响太大,NPU(神经网络处理器)作为专门为神经网络运算而设计的处理器,则恰恰有更高的效率和更低的功耗。
酷睿 Ultra 上的 GPU 和 NPU,图/英特尔
而这也从一个侧面说明了,目前已发布的 AI PC 产品,并没有准备好面对「AI 真正改变 PC 体验」的未来。
但 PC 的未来又是什么?
个人终端的特性决定了,基于云端运行的 AI 存在太多问题,首当其冲的就是隐私安全。一个表现是,在与 Copilot 或者 ChatGPT 等 AI 聊天机器人的对话中,用户是不敢发送个人隐私信息的。
当微软要基于 AI 改造 Windows 系统的时候,肯定要让 AI 从系统层面了解和处理大量关于系统、软件运行以及用户的数据,但不管是网络连接还是模型训练,都会大幅放大用户隐私泄露的风险。
从这个角度,虽然我们离不开云端运行的强大 AI,但同时,基于本地运行的 AI,又是必需的。
另外受制于网络连接,延迟和稳定性都会影响云端 AI 的实际处理能力,从而影响到用户的终端体验,还有云端的持续成本等问题,都是英特尔、高通以及各大 PC 和手机厂商强调「端侧 AI」的重要原因。
不过更本质的问题是,只有将 AI 平台化,自下而上从系统层面重新设计产品体验,将算力平台化,让应用可以充分利用端侧算力,才能真正称得上 AI 化。而这些,都需要 AI 能在本地运行,终端也能提供相应的端侧算力。
Windows,意为窗口,图/微软
这也是 PC 的未来。也只有当 Windows 开始自我革命,改造基于 AI 的个人电脑操作系统;当处理器厂商毅然决然转身,大幅提高 AI 运算效率;当 PC 厂商脚踏实地,真正思考 AI 时代的 PC 体验:
PC 才会是真正的 AI PC。