2023爱分析·通用大模型市场厂商评估报告:出门问问

发布于: 雪球转发:0回复:0喜欢:0

01 研究范围定义

研究范围:

大模型是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的模型。2023年以来,ChatGPT引爆全球大模型市场。国内众多大模型先后公测,众多互联网领军者投身大模型事业,使得大模型市场进入“百团大战”阶段,2023年成为公认的“大模型元年”。

企业用户方面,大模型的应用速度之快超乎想象。2023年初,企业管理层对大模型的话题还停留在大模型是什么,是不是概念炒作。短短半年,大模型已经从饭后谈资走向落地应用。大企业管理层们希望了解到大模型能为企业发展带来哪些变革,大模型的应用路径是什么,如何提升大模型的投资回报率,以及应该为拥抱大模型做哪些准备。而且,大模型吸引的人群也愈发广泛,不仅吸引CIO、CTO等技术管理者的关注,CEO、CMO等非技术类管理者同样期待大模型在业务中发挥价值。这些转变表明,大模型的变革之力正日益得到产业界的认可。

通过对市场规模数据的分析,能较为直观地体现出企业对大模型应用落地的热情。爱分析数据显示,2023年中国大模型市场规模约为50亿元(人民币,下同)。2023年,企业在大模型方面的采购特点是论证多、采购少,各企业计划在2024年开始大量释放大模型预算,因此市场规模将大幅增长,预计达到120亿元。

爱分析认为,大模型市场从技术架构角度可以划分为基础层、模型层、中间层和应用层。基础层是指为大模型训练推理而提供的基础环境,包括湖仓一体、向量数据库、智算中心、大模型安全流通平台等。模型层是指基础大模型以及微调后的大模型,包括通用大模型、行业大模型、领域大模型和企业大模型。中间层是模型层和应用层之间的“桥梁”,有利于大模型在各种实际场景快速落地,包括大模型应用开发工具、LLMOps工具等。应用层是指大模型应用和解决方案,包括知识库问答、智能客服、对话式分析等。大模型市场划分详见下图。

本评估报告聚焦通用大模型市场,爱分析遴选出具备成熟解决方案和成功案例的厂商,供企业做厂商选型时提供参考。同时,在该市场下,爱分析重点选取了通用大模型厂商出门问问进行能力评估。

02 通用大模型市场分析

市场定义:

通用大模型是指通过在海量数据上依托强大算力资源进行训练后能完成大量不同下游任务的非开源免费模型。

甲方终端用户:

行业头部企业IT部门

甲方核心需求:

大多数企业只需要大模型应用,而头部企业对大模型的需求则不局限于此。通用大模型是头部企业IT基础的重要拼图之一,企业需要依托通用大模型进行能力建设。企业需要通用大模型可以支撑业务,发挥价值。并且,企业需要“通用大模型+算力”的综合解决方案来应对“卡荒”。

企业需要依托通用大模型进行能力建设。大多数企业只需要大模型应用,而头部企业对大模型的需求则不局限于此。通用大模型是头部企业IT基础的重要拼图之一,企业需要依托通用大模型进行能力建设。企业需要通用大模型支撑多种业务场景,例如客服、数据分析、营销素材生成等。这些场景映射到模型本身,则对模型能力提出要求,包括文本生成、SQL生成、多模态等。当前,尚不存在“六边形战士”类的全能大模型,头部企业可以通过采购、部署多个通用大模型,共同完成大模型能力建设。

企业需要通用大模型可以支撑业务,发挥价值。部署通用大模型并不能直接为企业带来价值,还需要“改造”和“开发”。改造是指结合企业私有数据进行微调甚至后训练,以便其更好地执行特定任务。开发是指需要基于通用大模型开发全新的上层应用或者赋能已有的IT系统。

企业需要“通用大模型+算力”的综合解决方案来应对“卡荒”。通用大模型的微调、推理需要高端AI芯片作为算力底座。但是,美国政府持续扩大针对中国芯片的出口限制,加剧了国内算力供应的压力,AI芯片价格持续走高且一卡难求。企业通常需要“通用大模型+算力”的综合解决方案来应对“卡荒”,解决对算力的后顾之忧。

厂商能力要求:

企业基于对通用大模型的需求,向厂商提出多项能力要求。一是通用大模型需要具备鲜明的能力特点。二是厂商需要提供大模型应用开发工具、LLMOps工具、AI Agent等工具层产品。三是厂商需要具备足够的高端AI芯片,并具备以华为昇腾为代表的国产化芯片替代方案。

通用大模型需要具备鲜明的能力特点。头部企业需要依托通用大模型进行能力建设。当前,尚不存在“六边形战士”类的全能大模型,头部企业可以通过采购、部署多个通用大模型,共同完成大模型能力建设。因此,通用大模型需要具备鲜明的能力特点,与企业需求进行匹配。能力特点包括文本生成、SQL生成、多模态、知识检索、多轮对话、提示词长度等。

厂商需要提供大模型应用开发工具、LLMOps工具、AI Agent等工具层产品。处于成本和安全等因素考量,企业需要实现大模型改造和开发能力的内化。除通用大模型和算力之外,厂商通常需要提供大模型应用开发工具、LLMOps工具、AI Agent等工具层产品。涵盖大模型应用开发、大模型微调、大模型运维、AI Agent构建与运维等多个方面。

厂商需要具备足够的高端AI芯片,并具备以华为昇腾为代表的国产化芯片替代方案。企业需要“通用大模型+算力”的综合解决方案来应对“卡荒”。相应地,厂商需要具备足够的高端AI芯片,才能满足企业需求。鉴于美国芯片供应的不确定性持续增加、国产芯片的崛起以及国产化替代事业的推进等多重因素,将国产芯片应用于微调、推理场景是大势所趋。厂商应具备以国产化芯片替代方案。当前,华为昇腾910是最热门的替代方案。

入选标准说明:

1. 符合通用大模型市场分析的厂商能力要求;

2. 近一年厂商在该市场至少服务1家企业(含POC)。

03 厂商评估:出门问问

厂商介绍:

出门问问是一家以生成式AI和语音交互为核心的人工智能公司,为全球多个国家的创作者和企业提供AIGC工具、AI政企服务,以及AI智能硬件。出门问问致力于打造国际领先的通用大模型,通过AI技术、产品及商业化三位一体发展,成为全球AI CoPilot的引领者。

产品服务介:

出门问问基于自研通用大模型——序列猴子,面向全球多个国家的创作者和企业提供一系列大模型产品及解决方案。「序列猴子」大模型以语言为核心的能力体系,涵盖“知识、对话、数学、逻辑、推理、规划”六个维度。特别的是,该模型拥有优秀的跨模态知识迁移能力,能够将语言模型所涵盖的常识知识有效转化应用于其他非语言模态的模型当中。目前出门问问自研大模型「序列猴子」已通过备案,向全社会开放。

图1:出门问问 AIGC SaaS

魔音工坊是一款AI配音及多人协同创作工具,具备软件配音、云剪辑、一键分析视频、文案提取、捏声音等功能。目前,「序列猴子」赋能语音合成引擎,使其AI配音产品“魔音工坊”实现轻量数据极速克隆,情感效果媲美真人。魔音工坊还推出了面向海外内容创作者的海外版“DupDub”和企业可通过API整合部署的企业版。

奇妙元是一款数字人产品,可用于短视频制作以及网络直播,该产品不仅可以生成数字人形象,而且可以自动生成文案。

奇妙问是出门问问推出的“企业AI交互式数字员工生成平台”,面向政企、文旅等行业,打造数字接待、数字客服、数字销售等交互型数字员工。

并且,出门问问已推出三款AI Agent产品,分别为企业知识助手、数据分析助手和自定义流程助手。

图2:序列猴子大模型

厂商评估:

出门问问深耕AI与大模型,具有深厚的技术和客户积累。出门问问的大模型产品不局限于单一文本模态,而是聚焦多模态。出门问问通过提供多模态大模型应用,为企业实现深度赋能。除多模态之外,出门问问还依托Agent技术打造企业知识助手、数据分析助手和自定义流程助手,致力于提升通用大模型的可用性和业务价值。在产品可用性方面,出门问问基于自研大模型解决“问答系统响应慢”难题,让问答系统更可用。在商业化方面,出门问问在内容创作领域已建立完整的大模型产品业务价值评估体系,有利于企业快速推进大模型立项。

出门问问深耕AI与大模型,具有深厚的技术和客户积累。出门问问是一家以生成式AI和语音交互为核心的人工智能公司,具有619项AI相关知识产权。该厂商已推出多款AI穿戴设备,以及汽车、金融和医疗等行业AI解决方案,是业内少有的具备软硬件集成能力的AI公司。在大模型方面,出门问问布局时间早于大部分厂商,其在2021年6月发布大模型“UCLAI”,并在2023年4月发布大模型“序列猴子”。

出门问问持续关注大模型前沿技术,其在AI Agent方面具备一定研究成果,并推出了一款相关产品。出门问问的AI Agent产品为面试机器人,属于奇妙问产品旗下。面试机器人主要应用于面试模拟场景,机器人基于面试背景设定以及使用者的简历信息,可以主动与使用者进行交流。另外,出门问问正聚焦“文案一键智能生成视频”技术研究,希望将其应用于网络短剧的快速制作。

出门问问具有深厚的客户基础,其在传统AI时代推出的魔音工坊、奇妙元等产品已积累大量客户。这些产品已完成大模型升级,提升了对客户的价值和吸引力。当前,魔音工坊、奇妙元等产品已积累约60万付费客户。并且,出门问问在大模型时代全新推出的奇妙元产品也已签约多家企业,进入交付阶段。

图3:魔音工坊产品能力与商业化进程

出门问问为企业提供多模态大模型应用,实现深度赋能。出门问问聚焦多模态,致力于让“序列猴子”大模型具备统辖音频、图像、视频等不同模态内容的能力,实现对企业场景更全面、更深度的覆盖。在音频方面,出门问问打造魔音工坊;在图像方面,出门问问打造奇妙元;在视频方面,出门问问正聚焦“文案一键智能生成视频”技术研究

与业界聚焦多模态 Agent 方向的总趋势一致,出门问问推出了全新产品——奇妙问。奇妙问是出门问问多模态能力的集大成者,其将聪明的大脑、动听的声音和好看的外表融为一体,并与不同场景的大屏进行结合,为企业打造具备数字接待、数字客服、数字销售等职能的数字员工。

出门问问依托Agent,提升通用大模型的可用性和业务价值。Agent兴起,成为大模型价值落地的主要方式之一。出门问问依托Agent技术打造企业知识助手、数据分析助手和自定义流程助手,致力于提升通用大模型的可用性和业务价值。

企业知识助手通过整合企业私有知识库来丰富大型模型的知识储备。这种整合使得Agent能够提供基于自然语言的、交互式的企业专有知识查询服务。进而解决通用大型模型在应对企业应用场景时因领域知识不足而产生的误导性问题,即幻觉问题。企业知识助手已在工商银行私人银行落地应用。

出门问问基于大模型构建的数据分析助手能够通过将自然语言转化为数据分析语言或代码,例如调用API、访问数据库乃至编写数据分析代码,从而高效地获取、分析和可视化数据,为企业决策提供有力支持。克服传统BI工具常面临的使用难度大、高度依赖技术团队、结果反馈慢等问题。数据分析助手已在某半导体显示产品龙头企业落地应用。

理想的Agent应当在接收一套工具集和相关知识后,它能依靠大型模型的理解和推理能力独立地规划并拆解任务,设计出具体的执行步骤。它能智能地运用各种工具,检索所需知识,生成内容,并最终完成任务。然而,在企业实际应用中,由于各企业的知识体系、应用场景和业务需求差异巨大,加上大型模型本身存在的不确定性,这种“放手”式的做法往往带来不可预测的结果。出门问问基于此推出自定义流程助手,致力于满足企业对Agent的可控性需求,即对AI的执行过程和细节进行更精细的控制,确保AI能够按照人类确认过的工作流程来执行任务。自定义流程助手已在某智慧交通龙头企业落地应用。

出门问问基于自研大模型解决“问答系统响应慢”难题,提升问答系统可用性。问答系统是现阶段大模型最主流的应用之一。当使用者向问答系统提出问题之后,一般会经过声音转文字,大模型推理等环节才能呈现答案。如果是数字员工形态的的问答系统,还需进行渲染处理。使用者耐心有限,问答系统必须压缩各个环节时间,实现对问题的快速响应。然而,大模型推理环节一般耗时较长。因此,加快推理速度是厂商打造可用问答系统的“必答题”。

出门问问的解决方案是降低大模型“体积”,从而获得推理速度的提升。该方案的核心要点在于找到大模型推理效果和推理时间的最佳平衡点。出门问问自主研发通用大模型“序列猴子”,其在大模型预训练、微调等技术方面底蕴深厚。出门问问通过对自研大模型的灵活调整,已找到该最佳平衡点,解决了“问答系统响应慢”难题,让旗下的问答系统(奇妙问)更可用。

在内容创作领域,出门问问已建立完整的大模型产品业务价值评估体系。大模型“出圈”效应显著,许多企业高管表达出对大模型及其应用的浓厚兴趣。但从实际立项情况来看,大模型项目立项并不顺利。主要原因在于CEO等企业一把手希望看到大模型的业务价值,而较多IT负责人难以表达清楚。出门问问在内容创作领域深耕多年,积累数十万名付费客户。出门问问面对内容生产商和内容批发商等内容创作领域的参与者,总结出一套业务价值评估体系。该体系包括业务价值构成以及衡量价值的关键指标,有利于企业快速推进大模型立项。

典型客户:

中国工商银行、某能源类央企、某半导体显示产品龙头企业、某大型石化企业、某智慧交通龙头企业

04 入选证书