生成式AI为金融行业带来了巨大的应用潜力，但在落地的过程中也面临了诸多挑战。针对大模型在金融领域的应用，5月18日，由上海市浦东新区科学技术协会主办、信也科技（暨上海上湖科协）承办的第十届布道师技术沙龙在线上和线下同步举行。来自信也科技、文因互联、阿里云、众安在线的行业技术专家共同探讨生成式AI技术的前沿进展、落地应用案例以及技术趋势。
本次沙龙研讨话题涉及大模型在金融合规、对话机器人、智能服务等方面的应用探索，为金融科技领域的发展提供了新的思路与启示。约2000名线上观众及来自金融机构、知名互联网企业的专业人士到场参与。
信也科技倪博溢：大模型在信也对话机器人中的应用
信也科技算法高级研究员倪博溢分享了大模型在信也对话机器人中的应用。他指出，大模型技术对传统自然语言处理任务带来了革新，能够突破传统建模方法的限制，通过降低任务冷启动成本、实现零/少样本学习、丰富话术多样性、简化流程设计以及提升通识和基本推理能力。此外，倪博溢还就大模型构建对话机器人的多种可能性进行了详细阐述，包括对话流程设计、对话引擎的端到端构建，以及基于大模型的对话机器人探索等。这些方法都有助于提升语音机器人的用户体验。
倪博溢也表示，大模型技术能够降低在业务中尝试新方法的成本，在分析统计型场景中发挥着重要作用。随着GPT-4o的推出，大模型语音处理技术将进一步结合语音和文本，实现更加复杂的功能，使语音机器人的能力得到新的提升。
文因互联吴琳智：大模型在金融合规中的应用
文因互联金融业务副总裁吴琳智探讨了大模型在金融合规中的应用。吴琳智分享了国内外金融监管领域的应用案例，包括英国FCA HANDBOOK的数据结构化、美国SONAR基于专家知识的自动监管系统以及证监会监管科技的技术变化。
同时，吴琳智提出了大模型在合规场景下的三种应用类型：披露信息抽取、内外规问答和审核专家系统。在信息提取方面，她剖析了金融文本信息提取面临的难题，如多种文档分栏格式、表格复杂度高、大模型幻觉等。为此，文因互联通过不断积累并沉淀了研报、公告、金融数据库等大量金融语料，提升了随机位置信息提取的准确性、增强了表格理解能力，并对抗了模型幻觉等多种挑战。
文因互联构建的大模型专家系统支持多种格式的数据，包括PDF、Word、图片、扫描件等，并预置了100+能力插件，实现了海量长文本识别，如资管合同、理财说明书、管理制度、监管规章等，在金融场景下具备了优异的泛化能力，专家系统准确率达到了90%以上。
阿里云霍俊涛：大模型在金融行业的应用探索
阿里云金融行业大模型架构师霍俊涛分享了大模型在金融行业的应用探索。他介绍了大模型在服务智能、营销智能、销售智能、研发智能场景中的应用，同时阐述了Agent+RAG提升大模型应用能力的技术方案：通过大模型与小模型的协作完成复杂决策，nl2api调用准确率高达97%；通过大模型结合知识图谱，自动核赔决策准确率能够达到98%。
此外，霍俊涛还介绍了在智能外呼应用中构建话术知识库、意图知识库、特征知识库并通过RAG+Agent组合编排可实现更精准、更有人情味的回复。霍俊涛指出，多模态业务创新已经进入仿真和个性化定制新时代，应该通过个性化服务，增强用户粘性。例如，大模型可以帮助商户实现全域运营智能化，覆盖业务咨询、商品清单智能初始化、产品效果图生成、个性化营销海报生成等流程。
众安在线王恒：生成式AI结合判别式AI在保险行业的应用
众安在线数据科学应用中心算法部专家王恒探讨了生成式AI与判别式AI在保险行业的结合应用。王恒提出了在保险领域适用大模型技术应用的几个场景，比如信息提取、内容生成、客服机器人等。在信息抽取方面，他提出可以通过分类的方式，充分发挥各类模型的优势， 比如在病例信息提取任务中，可以通过定制训练模型、通用OCR、多模态大模型的组合，大幅提升提取准确度。
王恒介绍，众安在线基于MOE架构，通过组合开源嵌入模型与自研embedding模型，使得私域数据的检索召回率明显好于单独使用开源模型或者openai-ada2模型的效果。除此之外，他提出了结合结构化、时间序列等高价值密度数据，利用大规模预训练技术提升数据利用率，并和大模型生态融合的探索方向。
信也科技技术沙龙首次举办于2019年，迄今已成功举办了十届。作为金融科技领域的技术交流的平台，沙龙秉持“为技术发声，让技术发光”这一理念，邀请业界技术专家和爱好者针对行业前沿技术热点进行研究探讨。
近年来，信也科技持续加大研发投入，自主研发了智能营销、智能客服、智能风控等一系列全链路数字化金融科技产品，并在自然语言处理、图像识别、图算法、智能语音等底层技术研发上积累了丰富的成果。截至2023年底，信也科技共登记软件著作权219项，提交专利申请164项，已授权发明专利45项。