软通动力CTO刘会福:让大模型落地到企业价值链和管理中去

发布于: 雪球转发:0回复:0喜欢:0

大模型之战步入后半场,行业逐渐达成共识,大模型的竞争,关键不在技术,而在产业场景落地。传统产业何应对新一轮AI浪潮?AI如何帮助行业降本增效?企业如何利用大模型重塑业务?

近日,在中国人工智能学会、清华人工智能研究院、中关村企业家顾问委员会、中关村100企业家俱乐部的大力支持下,由清湛人工智能研究院发起并主办,由盛景网联承办的“大模型时代,AI赋能产业升级与引领”系列论坛于北京中关村全球科创路演中心成功举办。

论坛上,软通动力集团CTO刘会福以“AI赋能软件与IT服务行业”为主题,分享了软通动力大模型产业落地及生产力转化的实践经验。

以下为精华内容整理,enjoy~

01

人工智能及大模型产业化

的实践探索

软通动力2001年成立,作为数字技术服务领导企业,全力打造发展数字技术应用创新体系,聚焦发展7大战略新兴行业,以AI与大模型应用等8大数字化创新解决方案及服务能力,服务千家客户及合作伙伴。

2019年我们并购了人工智能团队,当时主要做知识图谱。从2022年开始,我们将重点放在AI和RPA领域,希望将其应用于铁路、工业、质检等领域。与此同时,我们与华为合作推出了AI训推一体机,以加速我们在人工智能领域的进展。

在大模型侧,过去几年我们一直跟微软有人工智能方面的合作.2月份我们快速发了AI Copilot并做了内测。3月份,我们把AI应用到招聘领域,发布了招聘的Copilot。4月份开始,我们开始在软件工程领域探索升级,将AI与生产线结合,以促进整个行业的变革;同时,我们发布了MaaS平台,通过大模型技术和云技术,为企业提供更好的服务。5月底,我们对MaaS进行了升级,从训推一体到模型的部署构建,再到整个行业的套件,与百度、华为等企业展开了服务合作。

今天软通已经服务了二十多家客户,这是很难得的。因为大模型和产业的结合非常复杂,客户愿意为我们的解决方案付费,并将其转化为生产力,这中间需要做很多努力,落地时间很长。

从过去大半年的实践来看,垂直领域的大模型更容易在产业端落地实践。而通用大模型由于存在AIGC的不确定性和企业的确定性之间的矛盾,往往很难落地。

企业可以考虑引入垂直领域大模型,并在行业大模型之上建立自己的价值链领域模型。

基于行业大模型的底座,软通希望整合市场洞察、研发、营销各个领域的内容,帮企业建立价值链领域大模型;同时在企业的财税、人力资源等管理领域,帮助企业建立管理领域大模型。通过这种大模型的三角,帮助企业进行AI战略升级,把AI应用到企业的业务数字化和管理数字化当中去。

02

推动大模型企业落地的方法论

我们总结过去服务20多家企业的经验发现,大模型工程化落地难点主要有三个方面。

第一,大模型技术商业化推广。企业的目标始终是成本降低、服务效率提升以及业务增长和竞争力提升,然而实现这一目标并非易事。

第二,大模型系统工程化落地。首先是数据问题,大部分企业的数据质量低下,数据治理的成本高、时间长;二是工程成本要可控;三是安全问题,企业运用大模型的时候也需要考量风险。

第三,大模型应用系统化创新。大模型的引入,可能带来组织流程的变革和智能体系的建设,还会存在AI治理相关的问题。

基于这些难点,软通做了一个框架,名叫“天璇”,这个框架涵盖了多个层次,既是我们跟大模型厂商合作的思路,也是我们面向客户服务的框架。

L0层,基础大模型技术底座层,主要提供算力支持和基础大模型接口。我们认为,通用模型和垂直领域模型的结合更有可能解决企业问题,单一的模型很难真正落地,多模型结合可以更好地满足企业需求。

L1层,行业大模型及管理层,主要是提炼行业大模型,包括法律行业大模型、保险行业大模型等,同时涉及到模型训练服务等内容。

L2层,企业大模型应用层,包括价值链模型和企业管理模型两部分,便于快速匹配企业需求。整个过程中还涉及到数据治理服务、安全服务以及原厂商和大模型的训推和运营服务。

在实践过程中,我们形成了一套微观的方法论,通过这种方法能够更好地将大模型应用于企业的实际场景中。

首先,进行大模型训练并开发试点应用。在大模型的试点阶段,应该选择劳动密集型和知识密集型、创意型的岗位和场景。今天大家在做图、制作动画、视频和撰写文本的时候,已经开始使用ChatGPT了。AIGC更容易在个体层面进行落地,能够带来实实在在的价值,这有助于让企业更好地看到大模型的潜在价值,继而应用到后续的场景中去。

然后,构建企业的大模型体系。我们认为,企业把大模型做好,需要有一个好的数据团队,做好大模型体系的搭建,做好内部匹配,单纯依靠外部咨询和规划是不够的。

最后,进行系统化推广。通过制定应用推广计划,系统化推动大模型应用实施,并持续地优化迭代。

企业做大模型主要有三个方面的诉求:效率提升、流程改造和业务变革。从管理层面的知识库、税务、法务到更深层次的战略洞察、市场洞察,大模型可以在多个细分场景中为企业带来实际价值。

给大家举几个例子:

我们最早将大模型应用于招聘领域,因为高频、刚需,同时有数据支持。我们首先通过AIGC让招聘顾问理解候选人的需求;然后利用大模型将招聘需求与候选人简历进行智能匹配,提高匹配效率;此外,在面试环节使用大模型作为面试助手,通过生成的面试题与候选人交流,去做验证和匹配,最终实现招聘的全过程优化。通过对招聘的智能化升级,我们能够实现人工替代和降本增效。

律师行业我们打造了Copilot大模型,因为法律本身的行业特色,市场上对法律咨询的需求很大,能够让大模型得以生存。需求者可以直接通过大模型工具去问案子的情况,胜诉的条件,需要的法条,包括模拟法庭审判等等。虽然它不能代替企业法务,但对于企业法务的碎片化的问题和场景会有很大改进。

第三个例子,是跟软通本业相关的测试。我们结合大模型升级了测试数据管理平台,对测试流程效率和测试质量的提升有很大帮助。

还有保险行业,我们梳理了过往的保险产品、理赔规程、基本法和生态知识的数据集,通过应用工具和领域模型面向整个的场景,比如保险询价、保险营销、保险出单等,贯穿保险业务的渠道销售、承保、理赔、收付、再保、客服等全业务流程,最终通过行业大模型来落地到整个保险的行业流程里去。

大模型只有跟行业、产业相结合,才有用武之地。

目前我们服务了二十多家客户,积攒了一些方法论,也增强了我们把大模型落地到行业、落地到企业的价值链和企业的管理里面去的信心。软通通过把模型做整合,跟行业、产业相结合,在增强自身竞争力、提升自身业务水平的同时,也将持续赋能产业的发展。