重磅!事关生成式AI手机

发布于: 雪球转发:0回复:0喜欢:0

近一年内,无论是大众消费者还是移动应用生态的开发者,对于端侧生成式AI技术落地的需求正在快速增长。但高需求没有得到充分满足的背后,是端侧生成式AI技术标准不明确、缺乏工具链、开发者生态几近于零等难题。因此,移动平台的端侧生成式AI技术发展急需一个可以解决核心问题并统筹开发者资源的领导者。

作为移动芯片产业的领军企业,联发科天玑近日成功举办了首届天玑开发者大会2024(MDDC2024)。会上,不仅联合业界生态伙伴发布了《生成式AI手机产业白皮书》,同时还开启了“天玑AI先锋计划”,并推出了生成式AI端侧部署的解决方案“天玑AI开发套件”,以及全场景的创新应用与星速引擎技术所构建的丰富游戏生态。

从本次大会上所公布的成果可以看到,经过多年的布局与技术积累,天玑从研发旗舰5G生成式AI移动芯片,到打通了AI应用从开发到端侧部署的整个流程,通过提供完整的一体化开发工具,制定相应的技术标准,为生成式AI手机的全面普及提供了必要环境。天玑正在实现由技术引导者向科技革新者的转变,成为端侧生成式AI领域的领导者。

生成式AI手机浪潮之下联发科天玑为何能够成为领导者?

在众多投身生成式AI手机的厂商当中,为何联发科天玑能够成为领导者?除了上文中在本次MDDC2024中公布各项成果之外,更需要我们关注的是联发科在AI领域的多年技术积累与近期多项积极推动生成式AI在端侧落地的具体措施。下面我们就结合本次大会的信息和会后采访,和大家详细聊一聊。

了解生成式AI技术的朋友都知道,无论是部署在云端还是终端设备上,都需要极为强大的算力作为支撑,这也是为何当下主流的生成式AI都会部署在云端的重要原因之一。对于端侧生成式AI而言,其虽然相对云端部署有着天然的算力劣势,但在响应速度、模型灵活度、隐私保护方面的原生优势也使得其不可能被云端生成式AI彻底取代。

因此,解决端侧生成式AI的算力问题,特别是在移动平台完成算力部署问题,便成为了智能手机行业全面迈向生成式AI手机率先要解决的问题。而手机的SoC芯片作为算力的主要来源,自然也成为了端侧生成式AI天然的算力底座。

而作为在手机处理器市场拥有36%市场份额的TOP级企业,联发科自然有能力也有责任来满足端侧生成式AI对于算力的巨大需求。(备注:根据市场调查机构CounterpointResearch发布报告显示,联发科在2023年第四季度表现强劲,智能手机应用处理器(AP)以36%的出货量市场份额位列全球第一。)

早在去年,联发科便推出了拥有第七代AI处理器APU790的天玑9300移动平台,APU790拥有硬件级的生成式AI引擎,可以实现更加高速且安全的边缘AI计算,深度适配Transformer模型进行算子加速,处理速度是上一代的8倍。

同时APU 790的性能和能效得到显著提升,整数运算和浮点运算能力提升至前一代的2倍。在苏黎世ETHZv5.1AI-BenchmarkMobile Soc排行榜最新成绩为2293分,AI性能成功霸榜,功耗更是降低了45%。

而在本次MDDC2024大会上,联发科更是推出了进阶型号天玑9300+。该SoC以硬件级生成式AI引擎带来更快速、更安全的端侧AI计算能力,还率先支持AI推测解码加速技术,性能大幅提升,可以使Llama2 70亿大模型运行速度提高到22Tokens/s,拥有超快的端侧运行速度,更快为用户生成高质量内容。

可以看到联发科天玑移动平台已经为端侧生成式AI应用的落地提高了坚实的算力底座,能做到这一点,并非短期突击的结果,更多是来自于联发科多年来在AI技术领域的布局以及前瞻性的产品规划。

在谈及对生成式AI的战略布局时,联发科无线通信事业部副总经理李彦辑表示:早在2018年联发科便在其SoC产品上搭载了具备AI功能的硬件加速器,虽然当时采用该加速器的目的是为了实现更强的影像能力,不过这也成为了联发科布局端侧AI技术的开始。

而联发科在技术以及学术层面上对于AI技术的关注则要更早,2015年便开始关注AI技术的应用,在2017年生成式AI技术被提出时,联发科也开始在传统的计算光学算法以外的AI技术领域进行布局。

正是由于在生成式AI领域较早的技术布局,让联发科不仅提前取得了技术优势,并将这一优势得以广泛应用,为AI手机提供了强大的算力支撑。

作为端侧生成式AI领域的领导者,除了要提供算力底座之外,拥有一个易用的开发生态也至关重要。在这一方面,联发科可以说是真正的“遥遥领先”。

在MDDC大会上,生成式AI端侧部署的解决方案“天玑AI开发套件”,吸引众多开发者关注。该套件包括快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAIModel Hub、高效提升性能的GenAI优化技术和NeuronStudio一站式视觉化开发环境,具备“快、全、强、易”的优势,赋能终端生成式AI应用开发全流程。

在提到要如何处理开发者与芯片厂商和手机厂商之间的关系时,联发科无线通信事业部生态发展资深总监章立表示:我们希望和大模型合作能打造一个生态的土壤,联发科提供好的硬件平台和好的开发者工具,让大模型在我们的平台和“土壤”上能够很顺利地落地,释放终端的能力,手机厂商能够找到创新的用户体验。所以我们还是希望这是一个把饼做大的过程,在生成式AI到来之际,无论是开发者、芯片厂商还是手机厂商,面对的都是更巨大的市场,这应该是三方的最大公约数。

在天玑开发者大会上,联发科还联合阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米共同启动了“天玑AI先锋计划”,该计划面向全球开发者,致力于整合MediaTek与产业生态伙伴资源为勇于探索和创新的开发者提供开发资源、技术支持和商业机会,助力开发者在搭载天玑芯片的终端设备上打造创新的用户体验。

联发科希望通过算力底座和生态平台为端侧生成式AI的发展打好坚实的地基,并为AI创新应用的诞生提供助力,从而形成丰富且充满活力的AI生态。

正如前文所言,生成式AI的发展,离不开强大的算力作为支撑。同样,构建一个完善的生态,也需要芯片厂商、应用厂商和开发者的共同参与和支持。目前,我们可以看到联发科在算力方面具备显著优势,并且正积极投入资源来构建和丰富AI开发者生态,愿意主动去完成大量底层的构建工作,而这些正是当下端侧生成式AI生态所需要的。由此可见,联发科正在成为端侧生成式AI领域的领导者。

AI手机并非“空中楼阁”端侧生成式AI应当如何落地?

对于消费者而言,端侧生成式AI的落地成果和应用一直备受关注。在MDDC上,来自阿里云通义千问、Cocos、HonorofKings、虎牙直播、酷狗音乐、美图、全民K歌、RWKV、Soul腾讯AILab、小红书等天玑生态伙伴打造的生成式AI应用亮相,向外界表明了端侧生成式AI落地应用的速度,这些展示的应用有部分还未正式面向广大用户群体。

随着手机功能与体验的不断革新,像AI降噪、内容摘要等功能已开始陆续在旗舰终端显现。这些应用就是基于本地算力实现的,而今年备受用户喜爱的AIGC消除功能也支持通过端侧算力来实现。

面对这一情况,联发科无线通信事业部生态发展资深总监章立表示:“我们在经历不同技术的不同曲线的时候,有一件事情可以从根本上让我们看得更清楚一点,就是从它到底有没有给用户价值,有没有让用户变得更方便、更好用,或者有一些额外的价值。这些额外的价值目前看起来AI是给予的,无非就是说今天AI给予的这些价值或者AI手机的价值用户感知度不高,或者说他没有感知到。这和目前的阶段也很像,今年展区的这些应用很多也是刚开始,如果有一天让用户在飞机上,没有Wi-Fi也能用大模型写出一篇很好的稿件,让用户在三个小时、四个小时的飞行中,不联网的情况下也能随意的用AI进行工作、交流,无论是社交、娱乐还是游戏,这是不是就会棒一点,我觉得这些场景都在我们的生活中。所以我的答案应该叫做,如果这件事情对用户是有价值的,它确实能增加用户体验,那我们就给点时间,给点耐心,一起孵化这件事情。”

简单来说,优秀的端侧生成式AI一定是好用的。金字塔并非一日建成的,好的端侧生成式AI生态与应用也同样如此。

“天玑AI先锋计划”正在加速推动生态合作伙伴向生成式AI迁移,与具有前瞻性的开发者合作,共同引领生态发展。这个计划涵盖了与模型厂商、OEM厂商以及APP开发厂商的合作,为开发者提供必要的开发资源,促进创新应用的诞生。同时借助天玑AI开发套件简化开发者使用流程,降低AI应用的开发难度,进一步加速生成式AI应用的落地。

合作中,联发科致力于解决模型在端侧运行的效率、功耗和内存占用问题,确保大模型能在终端上创造出创新的用户体验。例如联发科通过量化技术、模型压缩、优化网络结构等手段,有效减小模型体积并提高运行效率,使得大模型能在手机等移动终端上运行。

而端侧生成式AI生态一旦形成,其也将为用户带来巨大的体验升级。例如在隐私方面,用户无需再将隐私数据上传到云端进行计算,可以直接在AI手机上完成,进而规避隐私泄露的风险。另外端侧生成式AI也能够基于用户的个人习惯、偏好和实时情境信息,自动生成个性化的内容和服务,提供更加贴心和个性化的体验。

同时基于端侧算力的AI语音识别、翻译、会议记录和摘要等功能将在手机上变得更加即时和精准,助力用户在工作和日常沟通中的效率提升,并且减少对云端算力的依赖,也可以进一步压低相关服务的价格,进而让AI技术更具普惠性。

甚至在游戏方面,生成式AI还能在游戏中带来更逼真的NPC交互、动态环境生成及个性化游戏内容,使得游戏体验更加丰富和沉浸。同时,AI还能根据玩家个体行为自动生成新的关卡或剧情,增加游戏的可玩性和复玩价值。

因此,天玑端侧生成式AI将成为推动AI手机发展的核心动力,通过提供更加个性化、高效、安全、创造性的服务,重新定义手机作为个人智能助手的角色,引领手机产业进入AI手机时代。

不止于“AI手机”天玑移动游戏生态再进化

在天玑开发者大会2024上,除了大热点AI之外,光追游戏生态也同样是大家关注的焦点。联发科的移动游戏生态可以说已经日渐完善,普通用户也已经从中获益。

作为移动光追技术的早期推动者,从天玑9000开始就支持光追功能。近年来也通过与生态伙伴的共同努力,逐步完善相关技术和规范,大幅推动了光追在移动游戏中的应用。联发科相信,随着移动端芯片光追性能的提升,支持光追的游戏将越来越多,光追技术的落地将更加容易。

并且联发科的星速引擎自适应技术也有助于在保证系统功耗控制的同时,动态地在关键场景中添加光追效果,提升用户体验。

在游戏体验方面,联发科的努力也不仅限于带来芯片性能的增强,还在与游戏生态伙伴进行紧密合作,共同探讨如何更有效地利用系统和平台能力,使游戏体验达到新高度。联发科致力于倾听开发者和游戏厂商的需求,带来了全面升级的星速引擎等创新技术,以更好地支持其利用芯片能力,共同开发出更优秀的游戏。

总结

可以看到,天玑在端侧生成式AI领域当下所做的并非仅限于推广天玑AI技术的应用,而是在通过技术分享与整合行业资源,帮助应用厂商和开发者解决端侧生成式AI应用开发过程中的痛点问题,进而实现端侧AI应用开发效率的提升和成本的降低,促进端侧生成式AI早日普及。

值得注意的是,在这一过程中联发科展现了其作为行业领导者的社会责任感与远见卓识,一方面其在不断的加大投入并积极探索端侧生成式AI技术应用,另外一方面也没有将自己的成果封闭起来,而是选择通过广泛的合作共创来促进整个行业共同发展,推动端侧生成式AI早日成熟,并真正服务于广大的用户群体,为用户创造更加便捷、高效、智能的使用体验。

可以说,天玑端侧生成式AI当下不仅为正在广泛普及的AI手机提供了算力底座,在市场方面的天玑AI的品牌号召力也在帮助终端厂商的AI手机产品获得消费者的认可,同时在技术方面联发科也通过强大的技术实力和全新的AI工具链赢得了互联网厂商与开发者的支持。

因此我们认为,在端侧生成式AI领域联发科正在实现由技术引领者向生态领导者的转型,从而成为端侧生成式AI领域的领导者。