科技云报道原创。
“没有应用，光有一个基础模型，不管是开源还是闭源，一文不值。”在2024世界人工智能大会（WAIC 2024）现场，百度创始人、董事长兼首席执行官李彦宏直言。
国产大模型的种类越发丰富，从文生文/图模型到文生视频模型、端侧模型等让人眼花缭乱。同时，行业所关心的不再仅是参数规模、是否开源等技术问题，大模型的落地应用正成为被探讨最多的话题。
作为WAIC 2024重要的配套会议之一，7月6日，以“数智聚合 产业向上”为主题的容联云生成式应用与大模型商业化实践论坛在上海举行。论坛聚焦大模型的行业实践，围绕大模型在落地过程中面临的挑战、关键路径、场景应用，以及如何为业务赋能等角度，邀请企业大模型技术负责人、海外专家学者和行业人士展开交流探讨与观点分享，以期为大模型的行业应用提供路径指引与经验借鉴。
专业智能体大模型商用的有效路径
在经历了“百模大战”的锤炼之后，企业们的技术能力正变得越发强劲，大模型开始走向商业化落地。今年以来，国内大模型项目中标公告已发布超230个，远超2023年全年水平。中国10亿参数规模以上的大模型数量已超100个，行业大模型深度赋能电子信息、医疗、交通等领域，形成上百种应用模式，赋能千行百业。
业界的共识是，随着技术迭代曲线放缓、基础大模型赛道的竞争格局企稳，生成式AI市场的性质正在发生变化，更多的创新和价值创造正在向应用层汇聚。从“百模大战”到“降价潮”，从“卷技术”到“卷价格”再到“卷应用”，真正可行的商业模式究竟几何？蚂蚁、字节、百度、智谱以及初创企业已经在走各自不同的路了。可以肯定的是，当大模型正成为各行业“标配”，谁能够率先将大模型商业化，谁就有机会喝到“头啖汤”。
论坛上，容联云产业数字云VP兼诸葛智能创始人孔淼发表了《企业营销服场景重塑》主题演讲。孔淼在感叹于新技术带来突破的同时，也看到了更多问题，比如真实沟通场景的幻觉控制、大模型的算力成本控制，以及新技术融入到企业业务流程里面的改造和管理成本。他认为，大模型很难通过一个技术去颠覆企业内部的客服和营销的一系列沟通场景，更重要的是如何用新技术能力做好应用落地，帮助企业真正实现价值提升。
为此，容联云在去年12月就推出了容犀Copilot，通过大模型与小模型相结合的能力来解决幻觉问题，并有效控制算力成本，并融合知识流转、话术挖掘、会话洞察等多方面的业务能力，根据企业与客户产生的会话数据与业务数据、产出金牌沟通策略。
随着容犀Copilot在各行业落地，以及与企业客户进行更多的联合探索之后，容联云对业务场景进一步深化与细化，并结合日趋成熟的智能体技术，对容犀智能大模型应用进行全新升级。这也是容联云在大模型应用领域的最新成果。
据孔淼介绍，客服领域一直是智能化应用比较早的场景之一。2015年开始，客服行业从全渠道客服升级为智能化客服。在大语言模型出现之前，想要培养出一名合格的客服，大多数情况下需要极高的知识管理成本和训练师成本，要先将一些复杂的业务场景转化为任务，之后通过这些任务，再上线转化成应用能力。而实际上这种开放式的业务场景，很难做到包容和兼容。
容联云将容犀Copilot进一步升级，形成容犀KC大模型知识助理（Knowledge Copilot）、容犀IA大模型洞察代理（Insight Agent）、容犀CA大模型陪练代理（Coach Agent）、容犀AC大模型坐席助理（Agent Copilot）和容犀VA大模型坐席代理（Virtual Agent）五位一体的智能客服解决方案，覆盖了从营销、销售、服务到企业内部管理的核心场景，为企业打造全面、高效的营销服智能化生态系统。
知识库是客服面向客户服务的最基础素材，包含关于产品的FAQ、操作手册、解决方案、故障排除指南等内容，这个知识库应该始终是最新、最准确、且易于检索的。在实际落地过程中，此类知识库的冷启动成本很高，只能通过输入大量知识文档进行构建。客服在应用过程中依靠关键字和意图的方式，会遭遇检索慢、准确率低等痛点，其次大量繁杂的业务知识导致其后期优化很难，更新迭代的速度很慢。
容犀KC大模型知识助理融合了向量库、RAG、数据飞轮等技术，将行业知识进行向量化，同时大模型能够帮助客服快速理解用户上下文，并快速定位文档知识内容并生成总结，通过对知识库自动拆解片段，进行语义切分和QA抽取，进一步提升知识应用效率，全面降低知识库构建成本。
客服与客户沟通的每一次都会形成宝贵的数据资产，会话数据揭示了客需、客诉、商机，反映了服务的不足与资源浪费。容犀IA大模型洞察代理融合官网、APP、公众号、小程序、400电话等各类场景的会话数据，并通过Prompt定义业务目标训练赤兔大模型，帮助客服对会话内容进行理解，挖掘客户潜在需求点，同时对需求进行分类和统计，实现客户需求的自主洞察。
好的客服能够提升客户对企业的好感，成为企业无形的竞争力。行业内目前普遍存在一些业务培训挑战，比如通过陪练课件、学习任务、考试评分等传统方式导致训练千篇一律，重复性学习无法实现能力的高效输出。
容犀CA大模型陪练代理运用大模型能力，从海量的会话语料中提炼真实场景的陪练材料，根据坐席日常的会话情况制定对练任务，同时可以基于文档材料智能化输出考试试题，降低出题成本及难度，此外还能根据坐席学习、对练、考试及日常沟通情况，构建坐席能力画像，对培训效果进行量化评估，实现客户陪练环节的降本增效。
传统客服的人工坐席模式面临着服务话术与标准不统一，会话质量及服务难监控难追踪、人工输入工单、话后时间长等痛点，不仅降低工作效率，还容易引发客服人员的疲劳和情绪压力。
容犀AC大模型坐席助理利用大模型基于语义理解、立场转变、情绪变化从海量录音、会话中挖掘最优话术及策略，兼顾话术“质”与“量”，同时可以对坐席沟通中的情绪、语速、辱骂行为、违规行为、抢插话、流程等进行实时监控和预警提醒，还能为客服实时提取工单内容，理解上下文做出会话小结，缩短话后时间，在提升服务质量和效率的同时，也全面改善了用户体验和感受。
围绕传统坐席代理出现的服务响应慢、人力成本高，以及机器人坐席的答非所问、回复千篇一律、语义理解不准确等问题，容犀VA大模型坐席代理将大模型用于优化任务流程和语义识别之中，通过大模型洞察提炼会话流程，并能准确理解用户上下文，根据客户问题精准匹配答案，同时还能够智能识别客户需求，并引导潜在客户留资跟进。
从对业务的赋能角度看，该五大应用可以被视为垂直业务领域的专业智能体，为企业提供了从构建知识库到多模态交互能力、企业级流程协同、智能知识管理、个性化学习与陪练、会话洞察与营销策略推荐、智能坐席代理等核心环节的智能化闭环，企业能够实现更高效的客户沟通、更精准的客户洞察和更优化的服务流程，在根本上促进了企业营销效率、运营效率、服务质量的多重飞跃。
容联云大模型产品负责人唐兴才结合保险客户服务、制造业上门维修工单、寿险线下转线上服务、银行柜台综合服务四大场景，从技术可行性和应用价值两个维度进行分享。
唐兴才表示，保险客户服务之前大多围绕话务进行分析，比如打了多少电话、打了多少时长，但类似潜在需求、客户投诉等具有价值的内容无法被有效挖掘。产生这些问题的原因一个是对话语音量大，另一个是客服总结难以标准化，无法精准高效进行提炼。容联云改变了原有人工听录音抽检和话务统计报表的模式，通过大模型让会话数据发挥决策依据，实现了数据洞察、发现咨询热点、挖掘产品投诉点等多种效果。
制造业上门维修场景下，经常会遇到检修师傅分布广、培训难、工单内容口语化、工单客服人工分类，流转慢、预警不及时，易造成批量投诉等情况。容联云基于大模型语义上下文提取工单故障，并在大模型的洞察能力上设定了提取标签的能力，提供工单的分类或分捡预警策略，将准确率从40%提升到80%左右，将预警周期从周提升到天的级别，避免了客户的批量客诉。
随着寿险线上业务的增长，针对客服自动化率低、依赖人力，成本增长快等痛点，容联云通过大模型洞察客户服务记录，从人工客服流程中提取服务流程，比如证件信息变更、实名认证、联系方式变更、保单贷款、保单还款等，以此为基础构建智能化服务助理，从而找到客户真正需要的服务流程，并基于语义理解，很好地理解客户需求，响应保单查询服务，实现千人千面的个性化服务。
对于银行柜台综合服务，相关业务和政策复杂多样，且都面临有效期的问题，柜台服务人员靠自身记忆无法满足客户较高的服务要求，而咨询老员工或总行业务人员往往需要的时间较长，无法做到及时响应。容联云利用大模型将知识问答助理嵌入进客服系统，客服人员可以在与客户对话过程中，进行划词检索，同时基于语义全文档检索知识，答案可溯源，提升办理贷款业务效率。
小切口大纵深专业化、场景化、行业化
大模型商业化应用的核心在于能否真正解决用户的问题。
沿着这一逻辑，大模型一个最为前景的应用场景，就是垂直领域专业服务。越是复杂的问题，越是专业的领域，越能孕育出更具价值的商业化应用。最典型者如医疗、金融等行业。
中国蓬勃发展的移动互联网为大模型行业提供了丰富而复杂的应用场景，以医疗和金融为代表的高专业度、高壁垒行业，虽然已经初步实现数字化或线上化，但在大模型时代，谁能深刻改造这些场景，破解更复杂的问题，谁就能抓住发展的先机。
“企业希望大模型实现集团级赋能但难寻切入点，建议将智能客服作为大模型落地之路的第一站。”在不久前结束的中关村论坛上，北京市科委发布《北京市人工智能大模型行业应用分析报告》时，在大屏幕上特别标出了这一句话。
为何客服成了大模型落地的第一站？大模型在理解用户提问、连续且24小时回答用户问题等方面确实能够带来不小的能力提升，虽然距离真人尚有差距，但算上成本账，大模型已然“可用”。
不过，如在网购场景，AI客服虽然在对话上相比以往更加“丝滑”，显得更有情商，但也会出现答非所问的情况。在不少从业者看来，虽然AI客服可以降低成本，但若想“更进一步”，从可用变为好用，并在更多场景发光发热，大模型还需要进一步的升级。
实际上，早在大语言模型技术出现之前，AI就已经被广泛用于客服领域。原来做AI，是靠定义一堆任务，但销售服务过程中很多地方想不到客户以什么样的方式问，如何打动客户，这都是完全开放的业务场景，原来的技术就局限了。大模型出来后，恰巧可以通过对于语言的能力，包括有初步的AGI的这种理解推理的能力，解决了场景泛化问题。
《北京市人工智能大模型行业应用分析报告》认为，在大模型技术应用薄弱的行业内可优先推广智能客服场景，从需求侧讲，行业内企业可以直观地体验到大模型带来的便捷服务，增强企业内的群体认同，为后续推动大模型在全产业链的应用落地减小内部阻力；从技术侧讲，智能客服应用场景属于大模型的通用场景之一，相对技术难度较小，且可充分发挥大模型技术优势，有助于大模型快速落地。
尽管关于大模型商业模式的讨论尚显早期，但大模型的商业化应用，尤其是专业智能体，蕴藏着巨大的潜力。通过将大模型与各专业领域深度融合，围绕每一个细分小场景形成不同的解决方案，解决用户的实际问题，这是大模型的中国机遇，同时超大市场规模和海量需求，也将充分大模型的商业价值，为大模型的持续进化找到一条切实可行的路径。
【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年，是前沿企业级IT领域Top10媒体。获工信部权威认可，可信云、数博会、国家网安周与全球云计算等大型活动的官方指定传播媒体之一。深入原创报道云计算、人工智能、大模型、网络安全、大数据、区块链等企业级科技领域。