BCG发布的《银行业生成式AI应用报告（2023）》聚焦银行业在推动生成式AI过程中关注的四大问题：
生成式AI技术与传统AI技术到底有何不同？
【资料图】
生成式AI如何为银行经营管理带来新的价值释放场景，如何推动场景快速落地？
银行需要为规模化应用做怎样的能力准备？
银行如何快速行动，由点及面推动生成式AI落地？
变革已至：理解生成式AI的能力
相较传统AI，生成式AI在“对话”与“创造”两类能力上实现了根本性的突破：就“对话“能力而言，传统AI在回答问题时往往缺乏对上下文的理解，导致答案相关性较低，表达机械化；而生成式AI能够理解更长的上下文，并进行拟人化的思考和回答，与人类的对话沟通也更自然；在“创造”能力方面，传统AI只能按照预设任务（如分类、数值预测）输出答案；而现在，生成式AI能够自动生成自洽的图形、文本甚至代码，具备优秀的内容创作能力。
生成式AI展现出的突破性对话和创造能力，离不开科学算法的突破、工程算力的进步。科学算法突破方面，全新架构模型、基于Attention Layer的Transformer技术，能更好地提取“全局”特征，能高效捕捉海量语料中一个个词之间的关系，或者海量图片中一个个像素之间的关系，使得大量的知识（本质上表现为词语之间的关系）能被封装在训练好的模型中；工程算力进步方面，由于基础设施的进步（高算力芯片、高速网络），模型的训练规模较之前深度学习阶段有了数量级的显著跃升，使大模型体现出的能力远超以前，同时大模型足够大到能训练和封装几乎全科领域的知识，一个大模型可以在结合精调后运用到多个完全不同的场景。
大有可为：银行业应用场景丰富，价值释放可期
生成式AI在银行业的应用，从价值创造逻辑上可分为两大类：
替代人。生成式AI可以替代人，开展大量重复性较高、简单基础的任务，如处理文本的要素提取、处理进件、识别异常项、生成基础数据分析、生成标准化内容等。这能够释放运营类人力资源，实现降本增效；
赋能人。利用生成式AI的“对话”和“创造”能力，可让AI成为助手，有效放大关键节点的“人”的产能，尤其是客户经理、财富顾问、产品经理、投研经理、信审经理、市场营销人员、编程开发人员等角色，赋能人不仅仅是体现在专业内容的形成上，还可能体现在基础管理环节。
生成式AI在银行业的应用场景可贯穿前中后台各个环节，包括市场和销售、渠道和运营、产品开发、投顾服务、客户服务以及风险合规等方面。银行的每条业务线、每个职能，都有可能找到生成式AI的应用场景。
若能在银行业实现规模化应用，有望带来可观的降本增效收益。BCG曾以一家拥有约两万名员工的区域性国际银行为例，初步梳理了该银行前中后台相关部门应用生成式AI的潜力和效益，预计在首年即可为该银行节省约1.5亿美元的成本，占整体薪酬总包的7%左右。
落地可行：局部速赢已有切实路径，规模化应用还需体系性规划
银行有扎实的数字化基础，有完备的技术能力，有多元丰富的数据，具备由点到面推进生成式AI应用的条件。银行推进生成式AI落地过程中，需重点关注四大举措：
在探索初期，优选生成式AI应用场景，平衡收益和风险，与传统AI充分结合；
在具体应用过程中，巧用方法，利用嵌入、提示词设计、微调三大抓手，让AI生成的答案更专业、实事求是；
在生成式技术能力体系建设上，夯实技术基础，合理部署、多维选型、全栈升级；
在重塑体系规模化应用过程中，遵循10/20/70原则，即10%是模型，20%是整体IT能力升级，70%是业务与组织的转型，而后两个因素更为关键。
生成式AI在银行业规模化应用的落地，依照‘10/20/70’法则，70%是业务与组织的转型。银行需尽早对70%的部分形成清晰的规划：在管理流程方面，构建负责任AI体系、完善配套管理机制、制定员工生成式AI操作行为规范等；在组织和人才长期调整方面，增加质量管理岗员工人才占比、强化员工问题定义能力及解决能力的综合要求、重新设计培训级晋升路径标准等。
在应用探索初期，各家银行通常优选少量场景先行试水、循序渐进。在选择场景时，要平衡考量收益潜力、风险、实施难度。同时，最早落地的试点场景，还需考虑其能否在组织准备度诊断、方法构建、信心构建等角度形成示范效应。选择场景时，不能只是简单定位“业务环节”，粗放地决定到底是应用在财富管理的营销环节，还是应用在公司金融的授信审批环节。对场景的细分和选择，需要具体到机器的角色和需解决的问题类型。场景定位时通常需面对权衡选择，应重点关注三大问题：归纳、分析还是决策？面客还是对内？对目前已在应用的传统AI，替代还是结合？
在具体应用过程中，银行需有正确的具体方法来应对让生成式AI“说真话”、“说专业的话”两大挑战，确保答案质量可靠。如何让模型产生的答案更能契合银行自身的需求？有三个关键抓手：
利用嵌入（Embedding），使大模型能基于给定的数据库来生成答案；
利用强有力的提示词设计，使模型能给出契合专业性要求的准确答案；
直接对开源大模型进行指令精调。
在生成式技术能力体系建设上，银行若要在全行前中后台都规模化应用大模型，多项软硬件能力也需相应升级。
首先是算力。即使不从0到1训练大模型，只是进行精调，也需要一定的高算力资源。另外，若未来有成百上千个AI应用同时在组织内运行，对硬件基础设施的算力和稳定性也提出了更高要求。
其次是模型。从规模化应用来考量，未来银行需要引入和维护一个模型库，作为应用方，在现阶段开展试水时，需对大模型的选择保持开放态度，在以一家大模型为主的基础上，也仍然积极尝试市场上其他领先的开源模型，持续寻找场景与模型之间的最佳适配组合；进而，需围绕规模化应用开发，构建其它多项能力。
在重塑体系规模化应用过程中，需要认识到生成式AI在银行业规模化应用的落地，是一个体系性工程，其成功与否会遵循“10/20/70”法则，即10%是模型，20%是整体IT能力升级，70%是业务与组织的转型。
快速行动：银行需由点及面、敏捷推进
对于生成式AI的探索，银行需要有长远的眼光，开展体系化的顶层规划，需要联合相关业务和科技部门协同努力，推动规模化应用的分步落地。具体而言，可分三个阶段，由点及面、敏捷推进：
第一阶段，少量场景的概念验证和局部落地：选择重点应用场景，快速完成概念验证（POC）、构建最小可行产品（MVP）。利用这一过程，诊断技术、业务两方面的准备度，梳理出部署模式、技术选型、质量和风险管理的框架标准、配套的组织及资源投入要求。
第二阶段，开展全场景盘点+体系规划：基于局部应用的效果和经验，形成规模化实施的顶层规划，包括：盘点银行所有潜在应用场景，基于商业价值和可行性高低，排布场景的落地先后优先级，形成投入产出量化评估方案；形成技术架构整体升级的细化方案设计；形成质量和风险管理的体系化方案；形成业务和组织能力转型的方案设计；形成能力建设关键举措及路线图。
第三阶段，规模化应用落地+体系能力固化：完成技术和工具基础设施的搭建；依次分批推进应用场景落地；围绕业务、技术端不断积累应用经验；持续在落地中迭代问题，并将相关能力固化至技术架构、业务流程和管理规范中。
关键词：
