国内大模型首次落地手机芯片端 开拓AI智能体端侧应用新机遇

发布于: 雪球转发:0回复:4喜欢:1

本报记者 李春莲 见习记者 梁傲男

3月28日,“阿里AI将接入各类安卓手机”话题登上微博热搜。当日,阿里云与智能手机芯片厂商MediaTek(下称“联发科”)宣布达成深度合作,双方成功在天玑9300等旗舰芯片上部署通义千问大模型,可实现离线状态下即时且精准的多轮人机对话问答,首次实现大模型在手机芯片端深度适配。

“端侧AI是大模型应用落地的重要场景之一,但面临软硬件难适配、开发环境不完备等诸多挑战。”阿里巴巴通义实验室业务负责人徐栋对《证券日报》记者表示,此次合作真正把大模型“装进”手机芯片中,标志着Model-on-Chip(芯片上模型)的探索正式从验证走向商业化落地新阶段。

具体来看,联发科是全球智能手机芯片出货量最高的半导体公司,2023年第四季度出货超1.17亿部,高于苹果的7800万部和高通的6900万部。目前,联发科的天玑9300芯片已在国外实现支持Meta Llama 2的70亿参数大模型应用,国内已在vivo X100系列手机上落地端侧70亿参数大语言模型。

通义千问是阿里云自研的LLM基座大模型,目前已推出千亿参数的2.0版本以及开源的720亿、140亿、70亿、40亿、18亿、5亿参数等尺寸,以及视觉理解模型Qwen-VL、音频大模型Qwen-Audio等多模态大模型。

在生成式AI浪潮下,大模型正成为新一轮科技革命和产业变革的重要驱动力量。AI智能体是生成式大模型的发展主线,被称为“大模型的下一站”。相较于仅在云端部署生成式AI的应用和服务,端云混合AI可充分利用终端设备的算力,在运营成本、用户信息安全、实时性以及个性化用户体验等方面具备显著优势。

不过,业界普遍认为,要将大模型部署并运行在终端,需完成从底层芯片到上层操作系统及应用开发的软硬一体深度适配,目前存在技术未打通、算子不支持、开发待完善等诸多挑战。

联发科无线通信事业部副总经理李彦辑表示,期待通过双方的合作为应用开发者和终端客户提供更强大的硬件和软件解决方案,同时促进生成式AI的端侧部署以及AI应用、AI智能体生态的快速发展。

阿里云方面也对《证券日报》记者表示,将和联发科深度合作,向全球手机厂商提供端侧大模型解决方案,“打样”并支持开发更多AI智能体及应用。

北京邮电大学科技园元宇宙产业协同创新中心执行主任陈晓华对《证券日报》记者表示,此次合作是人工智能技术与传统芯片制造业的深度融合,有助于推动智能硬件的发展和创新,推动相关技术的标准化和普及化,为未来更多智能设备和服务提供商提供参考和借鉴。

手机,似乎正成为大模型落地场景的“必争之地”。3月21日,360集团创始人周鸿祎曾表示,大模型和硬件结合会带来新产业革命,未来五年手机都是最佳硬件载体。AI技术将为中国手机产业带来前所未有的发展机遇,助力其在全球市场实现弯道超车。

民生证券指出,AI赋能手机,可类比当年5G驱动新一轮消费电子换新潮。未来,大模型有望成为平行于安卓、iOS的全新系统,AI应用也将快速增长,终端应用的革新将加速。

“在手机芯片上实现大模型的深度适配,可以极大地提升智能手机等移动设备在离线状态下的处理能力,特别是在网络连接不稳定或无法连接网络的环境中,对于提升用户体验具有极大价值。”陈晓华表示。

(编辑 上官梦露)

全部讨论

中长期来看,AI有望给消费电子赋能,带来新的换机需求,看好AI驱动、需求复苏及自主可控受益产业链

03-28 20:05

端侧AI是大模型应用落地的重要场景,阿里AI将接入各类安卓手机很有产业颠覆力,AI手机,正成为大模型落地场景的“必争之地”。