$恒生电子(SH600570)$ $顶点软件(SH603383)$ $财富趋势(SH688318)$
金融大模型LightGPT于2023年6月推出：
基于海量金融数据训练而来，使用超2000亿中文tokens和80多项中文金融任务指令微调，覆盖金融多领域应用场景，对金融相关问题的理解比通用大模型更有优势。
考虑了LightGPT在合规性和部署模式上的特性。
充分学习中国的金融法律法规，从八大评价维度确保大模型生成内容的安全合规，符合中国金融市场的监管要求。
支持云部署和7B/13B/70B的私有化部署，包括大模型接口调用和金融问答服务，以及提供定制化金融预训练和微调服务，满足金融机构个性化需求。
经过几轮升级之后，在金融大模型能力评测中，LightGPT的逻辑推理、超长文本处理、多模态交互、代码、金融专业问答等多项能力都表现突出，已经具备为客服、运营、投顾、投研等金融业务场景提供能力支撑的水平。
长时间以来，恒生电子就是资本市场AI应用领域的重要厂商之一，我们为客服、运营、投研、合规风控等场景提供AI产品。现在进入大模型，我们也将把自身在AI应用领域积累的数据和经验用于大模型训练中。基于这些专业的金融语料数据打造成的LightGPT，可以让原本需要很多人力成本处理的工作更加高效智能。例如，大模型应用于金融业务岗前培训场景时，可以自主创作不同的陪练场景，对新员工进行提问，从而提高员工的培训效率，缓解人工考评压力。
对于金融行业而言，安全合规至关重要。LightGPT从数据安全、内容安全等角度出发构建了完善的安全合规体系。针对数据安全和隐私保护，采取了一系列的措施来确保数据的脱敏、合规、授权和追溯，包括去除数据中所有敏感的个人以及机构敏感数据，对收集的所有数据进行匿名化和加密处理，制定严格的数据使用规范和访问控制，记录所有操作行为保证数据来源可追溯等。
通过建立可靠的网络安全系统、定期开展安全评估等方式，识别和消除数据安全隐患。针对生成内容的可控问题，构建了包括语料安全、模型安全、模型评估等在内完善的安全机制。在模型安全中，除满足国家基本合规要求外，LightGPT通过加入证监会等最新监管法规条款和金融基础金融书籍和论文等语料，让生成的内容在金融法律法规遵循、金融领域知识真实性上有大幅度提升。模型对于敏感问题、诱导问题也会进行处理。
大模型“中控”平台与智能应用产品
为了解决大模型和实际应用之间的连接问题，在LightGPT大模型基础上，打造了大模型“中控”平台光子，串联“通用工具链+金融插件工具+金融数据+金融业务场景”。光子提供的是一种介于应用场景和大模型中间的对接能力。我们发现很多应用场景都会不约而同地需要一些通用的工具能力，比如对接实时行情，文档处理、数据要素识别等。所以我们想把大家所需的能力都放到一个中间层上，统一支持上层的业务应用产品”
大模型在证券基金行业可以有很多相关的创新应用场景。要达到这样的目标，一是基于大模型技术全面升级重构客户、员工交互模式；二是基于大模型技术实现场景、业务逻辑、产品的重构；三是基于大模型技术的基础设施和技术架构的升级。
根据投研场景对于数据分析和智能处理的实际需求，发布基于大模型技术全新升级的WarrenQ，推出两款AI工具产品WarrenQ-Chat和ChatMiner，通过智能对话的方式，帮助分析师和投资经理提高工作效率。”
WarrenQ-Chat是一款金融垂直领域的Chat产品，利用大模型叠加搜索和聚源金融数据库，通过对话指令，轻松获得金融行情、资讯和数据，且每一句生成的对话均支持原文溯源，确保消息出处可追溯，还可以生成金融专业报表，轻松实现“语控万数”。
ChatMiner则是一款金融文档挖掘器，基于大模型和向量数据库构建，可以根据用户对话指令对指定文档进行快速解读，提供精准检索与定位，提取关键信息，还可以将信息进行有效的整合归纳和精炼或拓展，智能化处理海量文本数据。
//作为经常搜索、整合各种信息的老股民，对以上场景的痛点太有感触了。理论上股票的很多数据、信息都是已知的，但散户并不容易获取，数据分散，口径不同，信息孤岛，很难搜索到。对于PDF财报、公告等，里面很多表格，如想做历年整理和分析，非常耗时，但整理本身并不增值。以上两个产品，如真能做好，能整合数据，价值绝对很大。
产品架构很清晰：
白硕：LightGPT是以通用大模型为技术底座，在此基础上对接行业主要应用数据和专业内容，从而“站在巨人的肩膀上”，更好地去解决金融大模型的场景应用问题。
裸”的大模型在垂直行业没有太多的生存空间，也很难实现商业化，无法体现大模型的专业价值。只有与其他专业工具、插件和相应资源相结合，才能创造商业闭环。而未来金融信息系统的升级换代需求中，就有了大模型提供嵌入式增值服务的空间；
LightGPT主要有两个特色：一是数据，LightGPT会连接恒生聚源全部的金融数据，包括历史数据、实时数据等，和大模型共同完成金融任务。二是应用，基于恒生在大金融领域全面的产品体系，LightGPT有广泛的机会与各类金融场景创新进行有机结合。
二、2023年10月恒生金融技术大会：
刘曙峰：当前金融行业对于大模型技术的关注度和参与度很高，但在大模型实际落地过程中主要存在模型选择难、算力供应不足、应用成熟度不足等问题；
目前光子赋能下的智能产品可以分为重塑和嵌入两种模式。重塑是指基于大模型能力重构应用，重塑业务流程和服务模式；嵌入是指通过光子将数据、应用、知识库等资源组装成各类插件，将大模型能力无缝集成到原有程序和应用中，为业务系统注入AI力量。
在重塑模式产品方面，正式发布四款大模型应用
光子·文曲是面向投资顾问的一站式内容创作平台，通过丰富创作模版、智能文摘生成、AI问答助手、一键发布导出、图表自动生成等功能，帮助投顾快速完成报告素材搜集、内容生成以及审核发布。
光子·方圆聚焦金融机构投资合规领域，通过法规检索和文件标签化管理、智能投资合规问答、系统指标逻辑解答、一键生成合规设置等功能为合规和业务人员提供服务，提升合规管理质量和效率。
光子·善策聚焦投顾咨询场景，通过会话意图理解、智能服务匹配、智能话术生成、智能工单创建等功能，赋能投顾会话，为投资顾问精准定位客户标签，洞察客户意图，生成专业话术。
光子·慧营定位资管与托管产品运营助手，通过文档智能分片、要素智能提取、文字内容智能匹配、文件内容智能审核、文件内容溯源定位等功能，帮助运营人员提供参数提取、投监规则匹配、审计报告内容抽取等的智能辅助解决方案。
在嵌入模式产品方面，一些传统应用可不用修改代码，通过光子插件能力与业务系统交互，即可为传统应用现有业务流程注AI能力。目前光子可提供金融数据插件、知识库问答插件、Agent智能体插件、文档问答插件等各类金融特色插件，用户也可根据需求自定义业务插件。完成插件集成后，用户可在原有系统界面上唤起“光子”，与光子形成自然语言交互。
如在投顾创作台中，用户可通过光子完成投顾内容改写分析、询问板块行情、查询研报观点等工作；在PB系统中，光子可辅助风控管理、资金调整复核、资产查询等操作；在CRM系统中，光子则可以帮助员工完成拜访日报智能化填写等工作。
接下来恒生电子将进一步完善光子智能生态，基于光子持续构建智能产品矩阵。持续发布和公测大模型应用新品，如面向金融业务岗前仿真培训的光子·问学，面向业务数据智能管理的光子·数见，面向会议语音内容生成行动AP的光子·会悟等；加快恒生原有业务系统的光子插件嵌入，让光子成为真正的业务智能助手。
LightGPT在整体模型效果提升15%，安全合规性上提升13%，推理速度上提升50%，并面向金融机构实现LightGPT-7B的开源，推理和训练全面适配华为昇腾系列；
为了系统地评估金融大模型的能力表现，恒生电子与中国信通院共同编写了金融大模型评测标准，包含“L0-L1-L2”三层能力评测，为促进金融大模型的可信发展提供重要保障。
通用能力L0层包括基础常识、语义理解、数学计算以及在金融领域尤为重要的多轮对话能力、表格处理能力和安全能力、JSON识别能力等。金融领域能力L1层包括金融法律法规遵循、金融百科问答和实体识别。金融场景能力L2层包含投顾、投研、运营、合规和其他五大场景80种金融专属任务评测
投顾场景， LightGPT通过增加1200多万tokens专业投顾语料，减少财经大V版权语料和日常语料及12类任务指令微调，应对金融术语口语众多、知识幻觉、监管严格等挑战，在安抚话术生成、客户意图识别、实体识别、Json识别等平均超出国内通用大模型13%。在研报观点抽取、舆情事件识别和抽取、资讯摘要、表格处理、公司实体识别等方面平均超出国内通用大模型12%。
数据质量决定模型能力
白硕：谁来连通这些数据，是有讲究的。从我们的实践来看，要有一个类似“光子”这样的东西来拉通各种数据、各种资源。比如在财富投顾场景中，投顾话术的生成需要给大模型提供各类数据，比如来自行情数据库的数据、来自基本面数据库的数据，还有来自证券公司系统里的客户自身的持仓数据等。
要有一个“中控”平台，能像一个巫师一样，从四面八方把有用的资源召唤出来，使用在同一个业务场景中。如在投顾场景中，大模型可根据这些资源，进一步进行计算、分析、摘取、生成，最后形成综合了各个方面资源的投顾建议给到投资顾问。
这是大模型自身做不到的，需以一种无缝的方式拉通多方面的资源才能做到。而这些工作恰恰是我们最擅长的。
白硕：开源分为代码开源和参数开源。一般都能做得到代码开源，真正拉开距离的不是代码，不是训练和推理的框架，而是数据。数据可能决定了模型的能力。用数据这件事情差异还是蛮大的，尽管训练和推理框架都是开源的，但只要数据本身有特色，仍然能够打造具有自己特色的大模型，这是一个我们的基本判断。
如涉及到参数开源，参数开源意味着你的上家（底座大模型）用它的数据训练过一次模型，得到了一些参数，而你没有废弃这些参数而是继承，然后在这些参数基础上，用你的数据继续训练，把这些参数向效果更好的方向去迭代修改。在这种情况下，开源参数的质量会很大程度上决定后续的模型质量。
2024年新进展：
目前恒生所有终端解决方案均已支持鸿蒙系统。
4月，恒生LightGPT金融领域文本生成类算法名列其中。恒生聚源的Gil-GPT大模型算法也同批次通过备案，该算法主要应用于金融资讯信息对话生成场景。
4月互动：恒生大模型应用产品与多家客户开展共建，目前不对公司收入带来重要影响。
规模、参数的近身肉搏之后，落地逐渐成为“百模大战”的共识。得益于数据密集型行业优势，辅以强劲的数字化基础及行业本身对新技术的天然追逐，金融在一众场景中脱颖而出。也是因为这些优势，金融行业得以更快过渡到“冷静期”，将重点调整至价值—应用的价值。“金融行业将是大模型技术落地的最佳领域。”度小满CEO朱光曾做出了这样一个判断。只不过，在应用的“星辰大海”面前，当下的金融大模型仍然面临着复杂的多维挑战。
最后，个人理解，恒生在AI或大模型方面的几点独特优势：
有自己相对完整、高质量的金融数据源；
有丰富的金融IT产品，熟悉业务应用场景，为AI落地提升机会或土壤；非裸模
作为金融科技公司，更有第三方公信力；(没法全吃，但应能吃到其中的一部分)
"它不是一种新武器，而是一个新世界的开始"。