思泽

FOREWORD
前言
▽
随着人工智能技术的不断发展,大型预训练模型(以下简称“大模型”)在各个领域都展现出了巨大的潜力。在金融行业,大模型的应用也日益广泛,成为行业发展的重要方向。然而,在实际应用中,大模型也面临着一些难点和挑战。
01
大模型在金融业的发展现状
LARGE MODEL >>
一、大模型在金融业应用优势

模型催生了“交互革命和效率革命”,为金融业提质增效。具体表现为以下四点:
服务更强:大模型具有高并发的特性,可以实时对终端客户的服务请求,进行响应处理大大增强了金融机构的服务能力;
效率更高:由于大模型的强大处理能力可以迅速处理大量数据,提升金融行业的业务效率,助力生产经营管理重塑业务模式;
预测更准:大模型基于大量的数据训练,能够在预测和风险控制方面提供更高的准确度;
创新更快:大模型可以协助金融行业创新产品和服务,满足客户不断变化的需求。
二、模型在金融行业应用的难点

数据质量和隐私保护:大模型需要大量的数据进行训练,但金融行业的数据质量往往参差不齐,且涉及到用户的隐私信息。如何在保证模型效果的同时,保护用户隐私和数据安全,是金融机构面临的一大挑战;
可解释性和信任度:大模型的决策过程往往难以解释,这使得金融机构难以向客户解释模型的决策依据和结果。此外,由于大模型黑箱性的特点,也容易引发公众对模型的信任危机。因此,如何提高大模型的可解释性和信任度,是金融机构需要关注的问题;
实时性和动态性:金融市场的变化是实时且动态的,而大模型的训练和推理过程往往需要消耗大量时间和计算资源。如何保证大模型在实时性和动态性要求较高的场景下的应用效果,是金融机构需要解决的一大难题;
技术门槛和成本:大模型的训练和应用需要高性能计算资源和专业的技术人员支持,这使得技术的应用门槛较高,且成本较高。如何降低大模型的应用成本和技术门槛,是金融机构需要考虑的问题。
三、大模型在金融行业应用面临的风险

“10月13日,国家金融监督管理总局网站发布关于警惕利用AI新型技术实施诈骗的风险提:当前,AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务,也给网络诈骗带来可乘之机。如不法分子通过面部替换、语音合成等方式,制作虚假图像、音频、视频,仿冒他人身份实施诈骗,侵害消费者合法权益。”
数据泄露风险:在使用大模型的过程中,如果数据保护不当,可能会导致数据泄露,给金融机构带来损失;
技术滥用风险:大模型技术如果被滥用,可能会被用于进行欺诈、洗钱等非法活动,给金融机构带来法律风险;
模型风险:由于大模型的复杂性和数据依赖性,可能出现模型过拟合、解释性差等问题。
02
目前,大模型在金融行业应用已悄然兴起
LARGE MODEL >>
近期,一份来自银行的千亿级别大模型采购结果公布,从公开的招投标文件发现,目前已有明确“落地”需求的多为大型商业银行,并且需求多与模型训练、语言模型、数据处理相关。但也有不少银行密集发布了“大模型”相关的需求调研、项目采购信息,有部分中标信息已经公示。
从这些公告上信息看,金融大模型正式“走出纸面规划”,开始落地到行业应用的信号;综合公告的情况亦可窥见,目前金融行业大模型谈“效果”虽然为时尚早,但从这些需求来看,部分金融已经开始尝试AI技术在金融应用。
这种现状,或许恰好印证了此前恒生电子对数百家金融机构的走访调研结果:AI大模型在金融领域的应用只有8%在立项阶段,17%在测试阶段,超过70%的金融机构还处于调研阶段,在实际落地应用过程中的是极少数。
结合招投标、业界讨论及财报等公开资料来看,银行等金融机构关注的大模型落地应用需求较为集中。目前,业内的共识性关注的,可降本提效,亦可广泛应用场景的场景主要包括客户服务、智能研投、风险控制、欺诈检测、运营管理等。
03
大模型在银行信贷风控方面应用探索
LARGE MODEL >>
案例 >>
某农商行在大模型应用方面刚刚起步,借用之江实验室强基于“大数据+大算力+强算法”相结合的大模型技术和建模能力,开展人工智能方面的合作,金融安全是一切金融业务的发展核心,为了慎重期间,从降低业务“用数成本”、控制风险、优化体验、提高效率等场景开始,通过梳理数据资产,释放中台能力,以数据驱动业务提升工作效率,实现降低人工成本。
因此,通过多方讨论,首先选择“行业分析”、“智能尽调”、“审查评审”等三个场景,开展大模型在信贷风控方面的应用,通过人工智能,解决三大场景的痛点。
#行业分析痛点:
金融从业人员对新兴行业不熟悉
行业集中度风险日益显现
新兴行业需求多样性
#授信尽调痛点:
人工服务成本高
现场办理难
业务效率低
综合分析能力弱
难以精准反应用户特征
#审查评审痛点:
评审人员业务素质不一
评审人员效率不高
评审人员存在道德风险
评审主观判断较强
评审人员学习能力不足
#1
POC功能特点
步骤一 >>
基于大模型银行应用领域,POC功能点主要集中在以下方面:
一是降低业务人员查询及提取业务数据技术门槛,最大化程度从查询需求到SQL的自动生成;
二是减少信贷流程中相关工作人员撰写报告的精力投入。

#2
NL2SQL-现状
步骤二 >>
当前SOTA方案:大模型+提示学习
预研方向:大模型+提示学习,大模型微调等

Spider
▽
BIRD
▽

大模型本地化落地应用问题:
输入文本长度受限,实际金融数据库规模较大,字段较多,无法直接使用模型;
大模型通用能力较强,但对金融相关SQL生成,需要较强的表结构先验信息和与之匹配的提示工程;
数据治理问题:1)类型混用; 2)字段命名不统一; 3)需外部信息或者推理; 4)执行效率未优化
某些大模型无法本地化部署,且存在网络响应延迟等问题。
#3
NL2SQL-模型选型
步骤三 >>
本次POC将字段名筛选和SQL生成分离,采用字段筛选、基于排名增强的编码及SQL任务感知的解码框架:
一、基于字段名与检索任务进行排序;
二、将已排序字段名注入编码器,而不是整个无序的表结构;
三、解码器首先生成SQL关键词,再生成实际SQL 查询语句。
从训练难度、结果精度、执行速度三个维度对多种模型进行评测。

结论:开放领域大模型效果在训练难度和执行速度和最终精度三个维度均弱于基于T5的金融NL2SQL模型。
#4
NL2SQL-金融模型系统架构
步骤四 >>

#5
文本报告自动生成
步骤五 >>
技术路径:
事实本文数据经过一系列提示工程下的大语言模型生成相应的内容,内容经过业务人员人工校对和修改,得到最终尽调报告。经过人工修改的尽调报告和原始事实数据形成标注数据可以进行大模型的微调,提升模型撰写更适配本行内部要求的文本的能力。
技术点包含三个方面:提示工程、事实校准和风格迁移。

#6
取得的成效
RFFECT >>
智能生成行业分析报告:
能及时获取、生成或更新行业信息
用于客户经理营销
用于行业产品开发
用于制定行业授信指引
用于目标客户的筛选
用于金融需求分析
用于基于行业风险特征制定相应的防范策略
智能生成评审报告:
解决审查审批人员人力不足
弥补审查审批人员综合分析能力不足
解决审查审批人员持续学习能力不足
防范审查审批人员道德风险
提升审查审批人员评审效率
帮助审查审批人员提供撰写分析水平
帮助审查审批人员获取客户信息的全面性
#7
下一步拓展方案
NEXT >>
基于POC的验证,在模型能力及算力上保障未来业务场景的具体落地,在生成三个场景多维度的完整报告基础上,拓展更多大模型应用场景。

04
未来展望
LARGE MODEL >>
用“大模型+多模态”切入金融行业,是一个既有挑战又有机遇的过程,是一个既有风险又有收获的过程,是一个既有局限又有可能的过程。我们应该用科学的方法和原则,用创新的思维和技能,用责任的态度和精神,用大模型切入金融业、服务金融业、改变金融业。我们相信,大模型将会为金融业带来更美好的未来。
//
• END •
郑重声明,坚决反对一切形式的版权侵权行为。
所有发布在本网站的作品受到法律保护。未经授权,任何个人、组织不得复制、转载、修改、传播或商业使用。
地址:杭州市拱墅区绍兴路398号国投大厦7F雅拓信息