正在阅读:

金融大模型“落地战”,厂商如何跨越藩篱?

扫一扫下载界面新闻APP

金融大模型“落地战”,厂商如何跨越藩篱?

越来越多的机构拥抱合作互通,通过生态共建来实现共赢。

图片来源:界面新闻 匡达

文|新经济观察团

2022年底ChatGPT引爆市场至今,大模型的风潮已经刮了一整年。

作为天然的数据密集型和科技驱动型行业,金融业已成为大模型最火爆的试验场之一,在全球首个金融大模型——彭博社的BloombergGPT发布后,相关大模型纷至沓来。

国内,从金融机构到互联网大厂,再到蚂蚁集团、新浪数科等金融科技公司,相继押注自有金融大模型,在场景应用、算法模型方面各展奇招,探索大模型在金融全链路的落地。

但当越来越多的金融大模型被推至公众面前,市场和厂商们的态度也从最初的狂热追逐,迅速转变为“祛魅”后的理性思考阶段。

究其原因,是理想和现实之间的「藩篱」:金融行业的特殊性,决定了其虽是大模型落地的最佳场景之一,但由于对信息和数据的精度、合规等要求十分严苛,致使多数金融大模型仅停留在较初级的助手层面,未深度嵌入业务核心环节。

因此,在金融大模型的下半场,机构们的赛点已转到降低“幻觉”上,即真正实现规模化落地应用、与场景深度融合解决实际问题、带来产业价值跃迁。目前,参与者已自觉走向生态共建,来共同面对落地难题。

01 迸发

今年3月底,当市场还处于对大模型涌现的狂欢中时,彭博社的BloombergGPT横空出世,将ChatGPT引爆的AI热潮烧到了金融圈。随后,摩根士丹利宣布采用GPT-4来管理其庞大的内部知识库,又给沸腾的金融业添了一把火。

海外机构的动态似蝴蝶的翅膀,将热浪迅速传递到大洋彼岸。

中信证券杨泽原研报彼时指出,海外以彭博、摩根士丹利为代表的金融巨头积极发力大模型开发与应用,形成大模型+金融的强大示范效应。预计伴随国产大模型逐步突破,国内金融行业生成式AI应用有望逐步开启。

而在过去多年,伴随金融数字化浪潮,国内金融机构已在获客、风控、投研、消保、客服等业务流程深度嵌入AI技术能力,构建出智能化转型的基本盘。但大模型基于强大的内容生成、逻辑推理、快速迭代、乃至决策等能力,有望重构金融机构原有的基础设施以及管理体系,大幅扩充金融数智化变革的想象空间。

蚂蚁集团副总裁、金融大模型负责人王晓航就判断,大模型正在为金融产业带来体验变革,“金融业务链条上每一个关键职能,都值得用大模型技术重做一次。”

麦肯锡测算,未来金融类企业的整体收入里有3%至5%,可以是生成式AI(GenAI)所提供的。整体来看,GenAI用例对银行业一线分销,客户运营,技术以及法律、风险、合规和欺诈部门的价值潜力最大,占整体价值池的70%。

于是,国内金融领域大模型次第涌现,数据分析、风控强化、智能客服、投资投顾等各大业务方向不一而足。

在这场声势浩大的AI盛宴中,参与者大致可分为三类:

一是金融机构。工行、农行、交行、招行、浙商银行等多家银行,都提出了大模型的相关部署;8月,消费金融公司马上消费发布了首个零售金融大模型“天镜”。

二是互联网大厂。华为盘古大模型、百度千帆大模型、腾讯云行业大模型、讯飞星火大模型、360智脑大模型等通用大模型,均将金融作为重要发力点。

其中,12月14日,火山引擎携手智谱AI,共同发布了高性能金融大模型,并全面开启测试。

此外,今年7月,腾讯云行业大模型公布金融风控场景的解决方案,首次发布金融风控大模型,融合了腾讯安全大量风控建模专家经验,以及过去20多年沉淀的海量欺诈知识与多场景风控模型能力。11月,腾讯云又正式发布金融行业大模型解决方案,助力每个金融机构拥有自己的大模型。

三是金融科技公司。度小满金融、奇富科技、星环科技、蚂蚁集团、新浪数科、乐信、恒生电子等公司,均推出了自有的金融大模型。

而进一步从行业应用落地情况来看,各大模型主要集中在内容资讯、产品介绍、代码、研报生成,虚拟客服交互,以及反欺诈等领域。

度小满方面,大模型技术已经应用于各个业务场景,从营销、客服、风控、办公再到研发,已经初见成效。其中,在客服领域,大模型推动服务效率提升了25%;在智能办公领域,大模型目前的意图识别准确率已达到97%。

新浪数科积极推动前沿技术在金融领域的应用,并在智能客服、营销设计和研发提效等多个领域进行了大模型应用的实践,取得了一定的成效。

其中,在智能客服方面,新浪数科利用通用大语言模型微调技术,结合多年积累的金融客服领域知识库数据和专业的客服经验,构建了自己的智能客服助手。

通过意图识别结合专用API方式,该助手能够直接面向用户,以24小时高效响应用户请求,并准确理解用户意图、解析问题,并通过代理能力检索知识库和获取用户业务信息,从而为用户提供更个性化的服务。此外,智能客服助手还可以与人工客服协作,在总结历史沟通内容、提供相关建议等方面为人工客服提供支持。

在研发提效场景中,新浪数科研发团队在剥离敏感代码后,引入了基于大模型的Copilot辅助工具,能够有效地帮助研发人员在需求分析、架构设计、代码编写和代码测试等开发全流程中提升效率和质量。

02 藩篱

然而,伴随金融大模型次第推出,其在实际业务中的落地程度却远低于年初的构想。

恒生电子董事长刘曙峰近日透露,超过70%的金融机构处于大模型调研阶段,8%是在立项阶段,17%在测试阶段。只有少量(不足10%)的客户在实际落地应用过程中。

而从市场来看,行业普遍上在生成类场景落地应用较多,但涉及到决策的金融场景落地难度较大。也就是说,大模型距离深度融入金融业务各个端点,释放出应有价值,进而重塑金融行业生产关系,还有很长的距离。

工行首席技术官吕仲涛就表示,大模型当前阶段并不成熟,仍存在科技伦理风险等问题。因此,短期内不建议直接对客使用。

究其原因,还是源于金融机构的数据具备高敏性,涉及客户隐私和金融安全,必须处于强监管之下,对安全性、稳定性、合规性、准确性、可靠性等指标的要求更为精细苛刻,也对厂商们的数据储备和分析能力、合规合法、资金实力等提出了更多挑战。

马上消费首席信息官蒋宁认为,生成大模型,最大的困难是满腹经纶,回答错了可以不承担风险,但金融大模型最主要的模型是判别性,需要做交易决策,1%的错都会造成客户的损失,这就是金融大模型和传统大模型最大的区别。

王晓航表示,“尽管大模型的理解和生成能力强大,但遇到专业严谨行业时仍面临诸多挑战。强监管的金融行业对大模型的可靠性要求也极高,除了要解决大模型的幻觉,还要注重大模型在金融合规性、行业价值主张方面的训练。”

而长期以来,金融机构的数据普遍处于孤岛、“烟囱”式的割裂状态,流通性不高。因此,多数金融机构在进行大模型部署时,倾向于选择在安全保密状态下,在私有云内进行训练,以满足严格的数据安全和合规性要求。

因此,在推动大模型落地过程中,机构们往往面临算力成本高、数据安全存在隐忧等多项痛点。具体来说,各类型参与者的技术能力参差,还需要开展海量的数据治理、数据清洗等工作;各机构单打独斗式的私有云训练也造成算力浪费,各种成本高昂,中小金融机构无法承受。

国盛证券曾估算,GPT-3训练一次的成本约为140万美元,对于一些更大的LLM模型,训练成本介于200万美元至1200万美元之间。

03 共建

面对金融大模型的落地困境,业内明显的趋势是,越来越多的机构拥抱合作互通,通过生态共建来实现共赢。

证监会科技监管局局长姚前就曾刊文指出,大模型需要巨大的算力支持和严格的数据治理,普通的机构和应用部门往往难以支撑大模型的运行以及迭代升级工作。为此,需要建立一个各类模型健康交互和协同进化的生态,以保证大模型相关人工智能产业可以在各个应用领域成功落地。

我们也看到市场上金融大模型的各类参与者,通过加强合作共同探索大模型的成功落地。

“模型”之战,标准先行,腾讯云就积极牵头制订标准规范。早在7月份,其与中国信通院共同启动了行业大模型标准联合推进计划,联合牵头中国首个金融行业大模型标准的编制工作。

11月30日,IEEE金融风控大模型标准启动会召开。而该标准是由腾讯主导发起,是全球范围内首个金融风险控制领域的大模型国际标准。会议在国际权威标准组织IEEE指导下举行,中国信通院等学术机构,以及微众银行、马上消金、度小满、中原消金等机构出席,联合参与标准制定。

此外,金融机构与头部大模型厂商的“强强联合”也在加速。

8月,交通银行与华为、腾讯云、科大讯飞宣布共建3个联合创新实验室;9月,浙商银行与华为签署深化战略合作协议,将在综合金融服务、AIGC场景应用等方面深入合作,实现资源共享、优势互补、互利共赢的新格局;11月,腾讯云发布金融行业大模型解决方案,首批已有中国银联及11家合作伙伴宣布参与腾讯金融大模型的生态共建。

对大部分中小金融机构们以及金融科技公司来说,更理想的路径是,引入第三方厂商领先的基础大模型,在自身样本基础上微调,构建出自己专业的大模型,快速赋能业务流程,力争在这场模型之战中实现弯道超车。

度小满CTO许冬亮认为,行业大模型将帮助积极拥抱大模型的中小金融机构,缩小与头部机构的技术差距,“大家重新站在同一起跑线上,这是中小机构跨越‘数字鸿沟’和‘智能化鸿沟’的机遇”。

腾讯云方面的数据显示,东风日产融资租赁借助腾讯云的风控大模型,在只有较少样本的情况下就完成了定制化的风控建模,建模时间节省了70%,让最底层的风控模型上具备了坚实的风控免疫力,支持金融业务开展。

新浪数科方面,也在积极探索利用通用模型结合金融领域代码库来私有化部署的代码辅助工具,以进一步提升性能和信息安全。

Gartner最新发布的《2024年10大战略技术趋势》预测:到 2026年超过80%的企业将使用生成式人工智能的API或模型,或在生产环境中部署支持生成式人工智能的应用,而在2023年初这一比例不到5%。

相信在不久的将来,伴随金融大模型参与者的共同努力和国家政策扶持,大模型落地的“藩篱”将被跨越,在多个核心业务端落地开花,并释放指数级生产潜力,全面重构金融商业模式。

本文为转载内容,授权事宜请联系原著作权人。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

金融大模型“落地战”,厂商如何跨越藩篱?

越来越多的机构拥抱合作互通,通过生态共建来实现共赢。

图片来源:界面新闻 匡达

文|新经济观察团

2022年底ChatGPT引爆市场至今,大模型的风潮已经刮了一整年。

作为天然的数据密集型和科技驱动型行业,金融业已成为大模型最火爆的试验场之一,在全球首个金融大模型——彭博社的BloombergGPT发布后,相关大模型纷至沓来。

国内,从金融机构到互联网大厂,再到蚂蚁集团、新浪数科等金融科技公司,相继押注自有金融大模型,在场景应用、算法模型方面各展奇招,探索大模型在金融全链路的落地。

但当越来越多的金融大模型被推至公众面前,市场和厂商们的态度也从最初的狂热追逐,迅速转变为“祛魅”后的理性思考阶段。

究其原因,是理想和现实之间的「藩篱」:金融行业的特殊性,决定了其虽是大模型落地的最佳场景之一,但由于对信息和数据的精度、合规等要求十分严苛,致使多数金融大模型仅停留在较初级的助手层面,未深度嵌入业务核心环节。

因此,在金融大模型的下半场,机构们的赛点已转到降低“幻觉”上,即真正实现规模化落地应用、与场景深度融合解决实际问题、带来产业价值跃迁。目前,参与者已自觉走向生态共建,来共同面对落地难题。

01 迸发

今年3月底,当市场还处于对大模型涌现的狂欢中时,彭博社的BloombergGPT横空出世,将ChatGPT引爆的AI热潮烧到了金融圈。随后,摩根士丹利宣布采用GPT-4来管理其庞大的内部知识库,又给沸腾的金融业添了一把火。

海外机构的动态似蝴蝶的翅膀,将热浪迅速传递到大洋彼岸。

中信证券杨泽原研报彼时指出,海外以彭博、摩根士丹利为代表的金融巨头积极发力大模型开发与应用,形成大模型+金融的强大示范效应。预计伴随国产大模型逐步突破,国内金融行业生成式AI应用有望逐步开启。

而在过去多年,伴随金融数字化浪潮,国内金融机构已在获客、风控、投研、消保、客服等业务流程深度嵌入AI技术能力,构建出智能化转型的基本盘。但大模型基于强大的内容生成、逻辑推理、快速迭代、乃至决策等能力,有望重构金融机构原有的基础设施以及管理体系,大幅扩充金融数智化变革的想象空间。

蚂蚁集团副总裁、金融大模型负责人王晓航就判断,大模型正在为金融产业带来体验变革,“金融业务链条上每一个关键职能,都值得用大模型技术重做一次。”

麦肯锡测算,未来金融类企业的整体收入里有3%至5%,可以是生成式AI(GenAI)所提供的。整体来看,GenAI用例对银行业一线分销,客户运营,技术以及法律、风险、合规和欺诈部门的价值潜力最大,占整体价值池的70%。

于是,国内金融领域大模型次第涌现,数据分析、风控强化、智能客服、投资投顾等各大业务方向不一而足。

在这场声势浩大的AI盛宴中,参与者大致可分为三类:

一是金融机构。工行、农行、交行、招行、浙商银行等多家银行,都提出了大模型的相关部署;8月,消费金融公司马上消费发布了首个零售金融大模型“天镜”。

二是互联网大厂。华为盘古大模型、百度千帆大模型、腾讯云行业大模型、讯飞星火大模型、360智脑大模型等通用大模型,均将金融作为重要发力点。

其中,12月14日,火山引擎携手智谱AI,共同发布了高性能金融大模型,并全面开启测试。

此外,今年7月,腾讯云行业大模型公布金融风控场景的解决方案,首次发布金融风控大模型,融合了腾讯安全大量风控建模专家经验,以及过去20多年沉淀的海量欺诈知识与多场景风控模型能力。11月,腾讯云又正式发布金融行业大模型解决方案,助力每个金融机构拥有自己的大模型。

三是金融科技公司。度小满金融、奇富科技、星环科技、蚂蚁集团、新浪数科、乐信、恒生电子等公司,均推出了自有的金融大模型。

而进一步从行业应用落地情况来看,各大模型主要集中在内容资讯、产品介绍、代码、研报生成,虚拟客服交互,以及反欺诈等领域。

度小满方面,大模型技术已经应用于各个业务场景,从营销、客服、风控、办公再到研发,已经初见成效。其中,在客服领域,大模型推动服务效率提升了25%;在智能办公领域,大模型目前的意图识别准确率已达到97%。

新浪数科积极推动前沿技术在金融领域的应用,并在智能客服、营销设计和研发提效等多个领域进行了大模型应用的实践,取得了一定的成效。

其中,在智能客服方面,新浪数科利用通用大语言模型微调技术,结合多年积累的金融客服领域知识库数据和专业的客服经验,构建了自己的智能客服助手。

通过意图识别结合专用API方式,该助手能够直接面向用户,以24小时高效响应用户请求,并准确理解用户意图、解析问题,并通过代理能力检索知识库和获取用户业务信息,从而为用户提供更个性化的服务。此外,智能客服助手还可以与人工客服协作,在总结历史沟通内容、提供相关建议等方面为人工客服提供支持。

在研发提效场景中,新浪数科研发团队在剥离敏感代码后,引入了基于大模型的Copilot辅助工具,能够有效地帮助研发人员在需求分析、架构设计、代码编写和代码测试等开发全流程中提升效率和质量。

02 藩篱

然而,伴随金融大模型次第推出,其在实际业务中的落地程度却远低于年初的构想。

恒生电子董事长刘曙峰近日透露,超过70%的金融机构处于大模型调研阶段,8%是在立项阶段,17%在测试阶段。只有少量(不足10%)的客户在实际落地应用过程中。

而从市场来看,行业普遍上在生成类场景落地应用较多,但涉及到决策的金融场景落地难度较大。也就是说,大模型距离深度融入金融业务各个端点,释放出应有价值,进而重塑金融行业生产关系,还有很长的距离。

工行首席技术官吕仲涛就表示,大模型当前阶段并不成熟,仍存在科技伦理风险等问题。因此,短期内不建议直接对客使用。

究其原因,还是源于金融机构的数据具备高敏性,涉及客户隐私和金融安全,必须处于强监管之下,对安全性、稳定性、合规性、准确性、可靠性等指标的要求更为精细苛刻,也对厂商们的数据储备和分析能力、合规合法、资金实力等提出了更多挑战。

马上消费首席信息官蒋宁认为,生成大模型,最大的困难是满腹经纶,回答错了可以不承担风险,但金融大模型最主要的模型是判别性,需要做交易决策,1%的错都会造成客户的损失,这就是金融大模型和传统大模型最大的区别。

王晓航表示,“尽管大模型的理解和生成能力强大,但遇到专业严谨行业时仍面临诸多挑战。强监管的金融行业对大模型的可靠性要求也极高,除了要解决大模型的幻觉,还要注重大模型在金融合规性、行业价值主张方面的训练。”

而长期以来,金融机构的数据普遍处于孤岛、“烟囱”式的割裂状态,流通性不高。因此,多数金融机构在进行大模型部署时,倾向于选择在安全保密状态下,在私有云内进行训练,以满足严格的数据安全和合规性要求。

因此,在推动大模型落地过程中,机构们往往面临算力成本高、数据安全存在隐忧等多项痛点。具体来说,各类型参与者的技术能力参差,还需要开展海量的数据治理、数据清洗等工作;各机构单打独斗式的私有云训练也造成算力浪费,各种成本高昂,中小金融机构无法承受。

国盛证券曾估算,GPT-3训练一次的成本约为140万美元,对于一些更大的LLM模型,训练成本介于200万美元至1200万美元之间。

03 共建

面对金融大模型的落地困境,业内明显的趋势是,越来越多的机构拥抱合作互通,通过生态共建来实现共赢。

证监会科技监管局局长姚前就曾刊文指出,大模型需要巨大的算力支持和严格的数据治理,普通的机构和应用部门往往难以支撑大模型的运行以及迭代升级工作。为此,需要建立一个各类模型健康交互和协同进化的生态,以保证大模型相关人工智能产业可以在各个应用领域成功落地。

我们也看到市场上金融大模型的各类参与者,通过加强合作共同探索大模型的成功落地。

“模型”之战,标准先行,腾讯云就积极牵头制订标准规范。早在7月份,其与中国信通院共同启动了行业大模型标准联合推进计划,联合牵头中国首个金融行业大模型标准的编制工作。

11月30日,IEEE金融风控大模型标准启动会召开。而该标准是由腾讯主导发起,是全球范围内首个金融风险控制领域的大模型国际标准。会议在国际权威标准组织IEEE指导下举行,中国信通院等学术机构,以及微众银行、马上消金、度小满、中原消金等机构出席,联合参与标准制定。

此外,金融机构与头部大模型厂商的“强强联合”也在加速。

8月,交通银行与华为、腾讯云、科大讯飞宣布共建3个联合创新实验室;9月,浙商银行与华为签署深化战略合作协议,将在综合金融服务、AIGC场景应用等方面深入合作,实现资源共享、优势互补、互利共赢的新格局;11月,腾讯云发布金融行业大模型解决方案,首批已有中国银联及11家合作伙伴宣布参与腾讯金融大模型的生态共建。

对大部分中小金融机构们以及金融科技公司来说,更理想的路径是,引入第三方厂商领先的基础大模型,在自身样本基础上微调,构建出自己专业的大模型,快速赋能业务流程,力争在这场模型之战中实现弯道超车。

度小满CTO许冬亮认为,行业大模型将帮助积极拥抱大模型的中小金融机构,缩小与头部机构的技术差距,“大家重新站在同一起跑线上,这是中小机构跨越‘数字鸿沟’和‘智能化鸿沟’的机遇”。

腾讯云方面的数据显示,东风日产融资租赁借助腾讯云的风控大模型,在只有较少样本的情况下就完成了定制化的风控建模,建模时间节省了70%,让最底层的风控模型上具备了坚实的风控免疫力,支持金融业务开展。

新浪数科方面,也在积极探索利用通用模型结合金融领域代码库来私有化部署的代码辅助工具,以进一步提升性能和信息安全。

Gartner最新发布的《2024年10大战略技术趋势》预测:到 2026年超过80%的企业将使用生成式人工智能的API或模型,或在生产环境中部署支持生成式人工智能的应用,而在2023年初这一比例不到5%。

相信在不久的将来,伴随金融大模型参与者的共同努力和国家政策扶持,大模型落地的“藩篱”将被跨越,在多个核心业务端落地开花,并释放指数级生产潜力,全面重构金融商业模式。

本文为转载内容,授权事宜请联系原著作权人。