在火山引擎看来,每一家金融机构的模型应该是“1+N”的结构,即一个核心模型和N个垂直领域的模型。同时,部署方式可以是公有云,也可以是私有化。对于金融机构而言,选择一个好的大模型还不够,需要让模型能力落地,并且需要一系列服务兜底。
这正是火山引擎等机构一直在为金融机构量身打造的。为了解决算力的依赖,在火山引擎的公有云上,会提供一个独立的算力池来提供各种孵化,为AI训练提供高性价比、高稳定的AI基础设施。目前火山引擎云已经服务国内多家大模型企业。
在私有化解决方案的部署上,12月14日火山引擎携手国内领先的认知智能大模型企业智谱AI,共同发布高性能金融大模型“火山引擎-智谱AI金融行业大模型”(下称:火山-智谱金融大模型),为金融机构提供更丰富、强大的模型选择,并全面开启测试。
当前的金融大模型领域,已经吸引了很多巨头扎堆,而火山-智谱金融大模型为何值得金融机构关注?
首先,这源于智谱AI提供“模型领先”保障。智谱AI是谁?它被评价为国内“最具OpenAI气质和水准”的AI公司,是唯一全内资国产自研的大模型企业,也是国内唯一一个对标openAI全模型产品线的公司,曾刷新了国内大模型创业公司的累计融资额,也是国内第一家估值超百亿的大模型创业公司。
智谱AI于2023年10月推出的第三代多语言、多模态预训练模型ChatGLM3,其模型性能、功能及底层架构均完成了全方位升级,在44个中英文公开数据集测试中,ChatGLM3在国内同尺寸模型中排名首位。其Agent智能体率先开启国产大模型原生支持各类复杂场景能力,进一步提升了大模型的执行力和生产力。
其次,火山引擎为大模型服务兜底。火山引擎将会为大模型的平滑落地提供工程化解决方案,包括轻量级的模型训练方案,解决稳定性、性能优化、推理加速等算力挑战;私有化或者云端部署方案,适配国内外硬件生态;全方位的安全架构和内容安全方案;完整的大模型工具链和多场景落地方案,帮金融机构缩短落地周期。
被看好的公司会获得更多的资源,对于马太效应明显的大模型赛道而言更是如此。未来,双方将持续优化迭代火山-智谱金融大模型,可以确保模型领先性,免除金融机构的后顾之忧。
03
推动“新一代认知智能大模型”落地
众多金融机构积极拥抱大模型的根本目标,是驱动更多的业务场景实现数智化能力,包括提高营销和运营效率、提升客户体验、为客户创造价值。当生成式AI渗透进金融行业的每一个地方,金融机构如何成为金融生产力智能化的引领者?
目前,金融大模型存在的最大挑战在于如何在实际业务场景中落地,以及模型能力是否可靠。为了帮助金融机构加快大模型应用,火山引擎加快大模型的试点应用步伐,打造大模型金融应用最佳案例,并进行规模化推广复用,发布合作伙伴计划,联合业内科技公司围绕着智能体帮金融机构去做更全面的建设。
在2023年6月,火山引擎就已经发布了大模型服务平台“火山方舟”,提供的不只是模型能力,而是帮助应用方更好使用模型的能力。这些能力既包括模型试用、评测、接入、精调等,也包括训推一体、弹性调度、算子优化等。
此次火山-智谱金融大模型的发布,则是金融大模型产业链生态演进过程中的又一里程碑式的产品。测试显示,火山-智谱金融大模型在自动生成代码、自动解读研报、智能客服、智能助理、智能数据分析等行业场景已有良好表现,推动新一代认知智能大模型在金融业加速落地。
正在“通过认知大模型链接物理世界的亿级用户”的智谱AI,在挑选合作伙伴时也势必会高标准。对于火山引擎这样的合作伙伴,智谱AI CEO张鹏评价,“火山引擎具备高效的算力基础设施、开放安全的大模型生态、丰富的金融行业实践、完善的交付保障。”
实际上,目前火山引擎在金融行业已经搭建了完整的大模型解决方案,帮助金融机构解决大模型深层次应用的痛点。一是解决算力制约,提供从硬件层、容器层、调度层、框架层的技术优化,搭建异构训推一体云平台,在不同任务下,可以统筹调度不同厂商不同性能的芯片,优化模型对于国内外异构算力的适配,做好芯片的集约化利用。
二是数据服务。满足金融数据预训练和全类型的数据标注需求;向量数据库VikingDB,支持百亿级向量检索、检索性能5ms以内;自带自研算法。
三是场景落地。火山引擎在金融行业已服务3年多,有100多个金融客户,具有丰富的交付实力。在大模型落地场景上,对于创意内容生成、办公协同、客户服务、BI商业智能等领域具备成熟的内外部经验和技术优势。
针对金融机构关注的数据安全和模型幻觉等合规问题,火山提供大模型的私有化方案,保证数据安全性;公有云上提供安全可信的数据服务方案,确保模型使用方和模型提供方的数据隔离;特色的内容AI质检解决方案,优化模型幻觉问题。
“金融机构需要的大模型是一个技术和行业交叉融合的系统化工程。”火山引擎总裁谭待表示,希望火山引擎和智谱AI通过合作,共同探索大模型在金融行业的价值创新。火山引擎也将以此为契机,未来将联合业内众多相关科技公司,围绕智能体帮助金融机构进行更全面的建设。