生成式AI生态浪潮汹涌,联发科天玑在端侧投下“定海神针”

发布于: 雪球转发:0回复:0喜欢:0

生成式人工智能(GenAI)的首次惊艳亮相已有1年有余,全球科技巨头纷纷投入巨资开发AI大模型,体量规模不断增长。与业界的火热相比,对于手机消费者来说,AI技术的“存在感”似乎有些滞后,无论是用户还是开发者,均期待AI“爆发”时刻的到来。

如何看待AI变革?如何让AI生态加速发展?5月7日,联发科于深圳成功举办天玑开发者大会(MDDC 2024),汇聚众多生态合作伙伴以及全球开发者,深入研讨生成式AI技术为移动生态带来的变革与全新机遇,并重磅推出一系列加速端侧生成式AI普及的新计划、新成果,发布天玑9300+旗舰5G生成式AI移动芯片。

集微网全程参与此次开发者大会,参加主题演讲、技术分享以及媒体专访。

AI生态共赢,联发科打造“朋友圈”高效赋能开发者

自2018年开始正式投入生成式AI技术领域以来,联发科积极聆听产业界声音,致力于整合行业资源,促进产业共创实现生态共赢。此次天玑开发者大会,联发科携手阿里云、百川智能、传音、零一万物、OPPO、荣耀、vivo、小米共同启动“天玑AI先锋计划”。该计划面向全球开发者,,致力于整合联发科与产业生态伙伴资源,为勇于探索和创新的开发者提供开发资源、技术支持和商业机会。

联发科董事、总经理暨营运长陈冠州表示:“相信通过天玑平台的优势,以及天玑AI先锋计划,结合产业生态链伙伴的力量,我们将高效率赋能开发者,加速构建从云端到终端的AI新生态,推动生成式AI技术在智能终端上的普及,让更多的用户享受到全新的高端深层次生成式AI体验。”

据估算,2027年全球智能手机端侧整体AI算力可达50000 EOPS,这一庞大数字将为端侧生成式AI的普及提供强有力保障。联发科多年来深耕移动芯片,每年赋能全球多达20亿部智能终端设备,实现2023年移动SoC出货量全球第一。作为移动AI领域的先行者,联发科凭借不断进化的芯片技术,为智能手机行业全面转向生成式AI提供鼎力支持。

AI予万物,移动终端是突破口

尽管自2023年起AI大模型开始蓬勃发展,但尚未真正实现大规模应用。陈冠州认为,生成式AI彻底革新了终端应用的使用价值,2024年生成式AI的应用将绽放巨大潜力,普及至消费级市场。得益于智能手机隐私保护、大规模的用户群基础、多模态情景感知等优势,AI的爆发和普及最有可能在率先智能手机上实现。

在联发科看来,我们正朝向一个更加激动人心的未来迈进,那就是与智能体(Agent UI)的交互。畅想不久之后的将来,智能手机通过智能体交互实现多模态输入输出、情境感知、本地个性化等服务,将全面引发终端体验变革。

但要想实现这一目标,需要依赖各界多方伙伴一起努力,打破以往芯片公司、手机厂商、软件应用单打独斗的局面。联发科深知构建这一庞大AI生态的挑战,决定依托所擅长的底层芯片能力从芯片、模型以及应用三个维度,与生态伙伴共同探索观测AI技术路线,共同打造一个庞大完整的生成式AI应用生态圈。

为牢牢抓住AI产业机遇,携手把握未来智能手机产业发展的主旋律,联发科还与Counterpoint携手阿里云通义千问、百川大模型、虎牙、酷狗音乐、零一万物、OPPO、Soul腾讯AI Lab、腾讯混元、vivo等生态伙伴,联合发布《生成式AI手机产业白皮书》,共同定义“生成式AI手机”的概念和典型特征。该白皮书认为,生成式AI手机有如下定义:利用大规模、预训练的生成式AI模型实现多模态内容生成、情境感知,并具备不断增强的类人能力。这便需要硬件具备先进的计算平台、大容量和高带宽内存以及安全防护,最终实现流畅无缝的用户体验、自然和直观的交互方式。

天玑9300+全大核旗舰,再升级,端侧生成式AI性能再突破从芯出发

联发科在MDDC 2024现场正式推出天玑9300+旗舰5G生成式AI移动芯片,加速实现端侧生成式AI进步。该芯片继承天玑9300“全大核”架构,继续突破移动终端AI算力上限。这款芯片搭载采用主频升级的Cortex-X4超大核,同时内置第七代AI处理器APU 790硬件级生成式AI引擎,再度成为智能手机SoC性能与生成式AI应用的双料领跑者。

但要想将数据中心部署的知名大模型部署到移动端,仅靠性能的提升远远不够,需要针对性适配,对内存、效率进行充分优化,而这也是联发科一直以来所擅长的优势。天玑9300+支持AI推测解码加速技术,性能提升10%,大模型的推理性能最高生成速度提升120%;凭借天玑AI LoRA Fusion 2.0技术,生成式AI速度效率可提升100%,内存占用需求减少50%。

集微网了解到,目前天玑9300+已支持阿里云通义千问大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一万物终端大模型、Meta Llama 2 & Llama 3等前沿主流AI大模型。

据估算,2027年全球智能手机端侧整体AI算力可达50000 EOPS,这一庞大数字为端侧生成式AI的普及提供了强有力保障。联发科多年来深耕移动芯片,每年赋能全球多达20亿部智能终端设备,实现2023年移动SoC出货量全球第一。作为移动AI领域的先行者,联发科凭借不断进化的芯片技术,为智能手机行业全面转向生成式AI提供鼎力支持。

快、全、强、易的,天玑AI开发套件赋能开发者创新全场景加速

除了强大的天玑芯片提供算力,联发科同样持续打造完整的AI应用开发生态,并于MDDC 2024正式宣布推出“天玑AI开发套件”NeuroPilot,包括快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块,为广大开发者提供“快、全、强、易”的专业开发体验,赋能终端生成式AI应用开发全流程。

具体来看,“GenAI最佳实践”通过模型量化、模型编译和模型推理技术加速了大模型的终端部署,可从数周加速到仅1天;GenAI Model Hub适配行业前沿主流的大模型,为开发者高效构建生成式AI应用提供丰富的大模型资源;GenAI优化技术则导入了推测解码加速、LoRA Fusion等多项最新最快的软件优化技术,不仅能够提升AI应用的生成速度还能减少储存空间的占用;Neuro Studio则集成了一站式、可视化的开发环境,为开发者带来“所见即所得”的易用开发体验。

集微网在天玑开发者大会现场了解到,已有众多科技大厂以及中小开发者积极拥抱这一平台,基于天玑AI开发套件以及天玑9300、天玑9300+移动平台推出了一系列端侧生成式AI应用,例如全民K歌的端侧歌曲生成SVC模型、抖音端侧SDX-Lightning高画质文生图、RWKV作曲家大模型、AI动画助手、阿里云通义AI Agent(智能体)等。

以最大公约数引领产业共识,为开发者提速增效

在生成式AI诞生初期,尽管业界开发者对此感到兴奋,但面临工具缺乏、工具链不完善等问题,一定程度上影响了应用落地进程。

联发科看到这一不足,决心解决开发者急需的问题和困难,致力于通过芯片、开发工具搭建属于移动终端的AI开发平台。

在此次MDDC大会媒体群访环节,联发科技联发科无线通信事业部副总经理陈一强表示,在生成式AI发展初期需要明确未来应该往哪些方向走,手机厂商、应用开发者以及联发科也要关注自身所处的位置,因为不同角色的想法和策略不同。陈一强认为:“联发科希望扮演一个底层整合的角色,把大家拉在一起,寻求一些共识,寻求让大家能够一起往同一个方向走。如果没有联发科这样的角色,不同的生态角色会有不同的策略方向,可能就会影响整个AI生态的推进。”

作为提供端侧AI底层算力的芯片公司,联发科凭凭借其技术优势以及产业链特殊角色,能够整合大中小聚集开发者,引领产业共识,提高开发效率,目标是在生成式AI到来之际,追求芯片厂商、终端厂商、开发者这三者的最大公约数。开发者无需针对每款终端、OS单独适配,只要用到了联发科提供的工具,即可从底层挖掘芯片潜能,实现在所有搭载联发科芯片的终端均得到相同的优化效果。

加速打造生态,期待应用爆发

尽管如今用户已经习惯使用AI图像消除、AI通话摘要等功能,但头部互联网厂商、开发者以及手机厂商均在期待生成式AI的爆发,何时出现爆款应用、爆款功能?为智能手机、智能汽车等带来新的增长点。此次天玑开发者大会,多名业界专家、行业高管给出乐观预测,认为这一临界点将会在未来1~2年内会出现。

联发科陈一强表示:联发科非常重视与游戏头部厂商的合作。我们,更在意用户是否能够感受到AI真的让手机不太一样,而也让用户能够感受到AI带来的应用创新和便利,去购买、体验更棒的手机,从而改善用户的生活,这是我们联发科最希望达到的目标。”

对于改善用户体验这一点,在天玑游戏生态布局上也有所体现。在天玑开发者大会上,联发科展示了全面升级的星速引擎,通过自适应技术软件开发套件和硬件光线追踪技术,让开发者可以打造画质更优、更流畅、网络更稳定、续航更持久的游戏体验。在星速引擎的助力下,不仅多款热门游戏加载速度大幅提升,还能节省功耗,让玩家的畅快体验更持久。再加上网络监测系统的加持,星速引擎还能降低游戏功耗的同时,节省数据流量,真正做到了改善用户的游戏体验。

在移动端的硬件光追技术方面,联发科是无可争议的领导者,通过SmartGI和Nanomesh的配合,天玑平台可实现高达亿万面的几何数量支持,把主机级光追效果带到了移动端,并提升游戏帧率,为手游用户带来更加震撼的游戏画质和流畅度。联发科还积极与ArmGoogle、Khronos以及Unreal Engine等产业合作伙伴共同探索前沿技术,且不断地赋能和拓展天玑游戏生态圈,让开发者加速打造出更多手游大作。

在联发科看来,游戏是AI最好的实现场景,因为它是独立完整的自己的场景,它可以提供更多试错的空间。而联发科也在利用长期以来和游戏工作室合作的经验和Arm交流,共同探索如何让GPU更多地去满足和赋能开发者的实际需求。

多年来,联发科NeuroPilot 的天玑AI开发平台生态和游戏生态不断完善,为开发者提供多样SDK。目前,天玑AI开发者套件已覆盖智能手机、智能汽车、物联网、个人电脑等智能终端设备,为全场景生成式AI应用开发赋能;天玑游戏生态在不断拓展壮大,并越来越多地与开发者合作,协同打造更多地爆款游戏提升体验。

此次天玑开发者大会,联发科携手10余家生态链伙伴开设展台,展现了丰富多样且已成熟落地的生成式AI应用,不断引来现场观众、开发者们的热烈探讨。驻足体验。而在当日下午举办的一系列技术论坛,多名联发科资深专家,以及来自抖音、Arm腾讯、王者荣耀、网易雷火游戏引擎、Soul的资深专家等顶级开发者们,带来生成式AI、游戏技术等多方面技术分享与实践经验。

可以看出,联发科目前已依托天玑芯片平台,构建起完善、高效的移动AI生态链,未来将会有更多、更广的生成式AI、游戏应用将受益于天玑AI平台,不断激发新的灵感。

联发科此次举办天玑开发者大会,展现All in 了其引领行业把握生成式AI机遇,构建移动端全场景生成式AI应用生态的决心和技术实力,同时诸位重磅厂商嘉宾的参与,也证实了联发科在此次移动生态变革的领导力。随着AI大模型复杂度的增加、芯片技术的迭代,未来开发者将更加需要联发科这样引领者,不断精进工具链生态,培育创新土壤,激活端侧生成式AI创新动力。相信联发科将携行业伙伴,一同加速万物AI时代到来。