(来源:现代商业银行杂志)
文|李虹含 徐浩哲

打开手机银行App,问智能客服“现在的房贷利率是多少”,它回答得条理清晰。但仔细核查就会发现,利率已经调整过三次,它提供的仍是两个月前的旧数据。
这并非假设。2022年,加拿大航空公司的网站聊天机器人在回答一位顾客关于丧亲票价的问题时,错误地告诉对方可以先购买普通全价票,之后在90天内申请追溯性优惠退款。顾客照做后申请退款时却遭到拒绝。2024年2月,相关民事法庭在加拿大航空案中认定:航空公司必须为聊天机器人提供的错误信息承担责任,并判令支付超八百加元的相关款项。法庭明确指出,企业不能简单地把AI输出视为与企业无关的第三方信息。
这个案例给所有面向客户使用AI服务的机构敲响了警钟,对银行而言尤其如此。近年来,银行业成为生成式AI(生成式人工智能)的重要应用领域,但问题也随之而来。
大模型为什么会“说谎”?
要理解大模型“幻觉”现象,首先要明白它的工作原理。
大语言模型本质上是一个“语言接龙高手”:它根据用户输入的上下文,逐字逐句地预测最可能出现的下一个词。它追求的是语言流畅、逻辑通顺,而不是“与事实完全一致”。比如,传统数据库查询就像去图书馆找一本指定的书,找到了就是准确的信息;而大模型更像一位博学的朋友,虽然能说得头头是道,但偶尔也会混淆记忆。
当训练数据不足、知识过时、上下文理解出现偏差,或者用户输入的提示词本身带有诱导性时,模型就可能生成语言流畅但事实错误的内容。学术界将这种现象称为“大模型幻觉”:模型生成与事实、证据、上下文或逻辑关系不一致的信息,且错误内容具有较高的语言可信度。
在普通办公场景中,这种错误最多造成返工;但在金融场景中,错误的利率、过时的政策、虚构的企业数据,都可能在“模型输出—员工采信—业务操作—客户结果”的链条中转化为真实损失。正如美国学者研究指出的,生成式AI能够生成“错误但具有说服力”的内容,这一特点对于面向消费者的金融应用尤其值得关注。
银行面临的五种AI风险

一是操作风险。大模型用于整理会议纪要、生成业务材料、撰写合同摘要、整理客户资料时,错误信息可能被直接复制到业务系统和正式文件中。一份看似完整的会议纪要,如果关键结论被AI“脑补”了,后续的决策就可能偏离方向。
二是信用风险。在授信业务中,大模型被用来辅助撰写尽调报告、总结企业经营情况、分析行业趋势。如果模型虚构了企业数据或错误理解了财务信息,客户经理可能据此作出错误判断,最终影响信贷决策的准确性。
三是市场风险。在投资研究和市场分析场景中,模型幻觉可能导致错误的政策解读、价格信息或行业判断。更值得警惕的是,当多家机构使用相似的大模型工具时,错误可能被放大,形成决策趋同和风险共振效应。
四是合规与法律风险。2026年9月,美国哥伦比亚特区上诉法院公开批评代表德意志银行子公司的律师,在一宗抵押止赎案件中引用了由人工智能生成的不存在的法律案例。法院将这一事件视为警示案例,强调专业领域的AI输出同样必须经过可靠来源核验。这个案例说明,即使使用者本身是专业人士,AI生成的专业内容仍可能被错误采用。金融机构的法务、合规、审计和风险管理部门尤其需要建立专业来源核验机制。
五是消费者权益与声誉风险。客户通常将银行官方渠道智能客服视为银行自身的信息来源。如果模型错误解释了利率、费用、还款规则、产品风险或优惠政策,消费者据此作出金融决策,一旦产生纠纷,银行很难用“模型自己说错了”来完全免责。
五家机构的实践与启示
加拿大航空的教训:这个案例虽然来自航空业,但对银行业的启示非常直接:面向客户的大模型应被视为银行服务渠道的一部分。涉及产品条款、费用、利率、优惠、合同权利和客户义务的问题,必须优先连接权威知识源;系统应具备“不确定即拒答”的能力;客户服务系统必须保留完整的对话日志和知识库版本,以便发生争议时追责。
摩根士丹利的做法:2024年,摩根士丹利研究部门推出“Ask Research GPT”,为投资银行、销售与交易及研究人员提供基于生成式AI的研究检索与总结能力。该工具主要用于从内部研究资料中快速发现和提炼信息,而不是让模型自由生成不可验证的投资结论。这种“检索+总结”的模式,本质上是把模型定位为“知识导航员”,而不是“决策者”。其启示在于:应优先将大模型部署到低自主权、可回溯、可人工复核的场景,并通过内部权威知识库约束大模型回答范围。
摩根大通的护栏框架:2026年,摩根大通公开介绍了名为“Fence”的框架,用于在具体使用场景层面识别、测试和缓解大语言模型的漏洞,重点关注幻觉、主题漂移和提示词注入等问题。该框架利用合成数据生成针对不同场景的测试样本,并将护栏机制应用于问答和搜索等员工及客户交互场景。这个案例表明,大模型治理不能仅在上线前做一次模型验收,而应形成持续性的“攻击—测试—修复—再测试”闭环。商业银行可以为不同业务建立场景级红队测试集,持续测试幻觉、越权、提示词注入、敏感信息泄露和异常输出,并将测试结果与模型上线权限直接关联。
国内银行的探索:大量银行机构已经开始探索利用大模型自动化生成授信尽调报告和政策问答。这些探索在发挥大模型信息汇总、文本生成和知识检索方面的效率优势,同时对授信、风控、合规等高风险场景保持人工最终判断,并建立严格的知识库、模型验证和输出监测机制。
构建银行AI治理的“三道防线”
首先是董事会统筹。银行应将人工智能治理纳入公司治理框架,由董事会或其授权的专门委员会负责人工智能治理战略、风险偏好和重大项目决策。同时建立由风险管理、科技、数据、法律合规、业务、信息安全和审计等部门组成的跨部门治理委员会,负责模型准入、高风险应用审批、重大变更和风险事件处置。
其次是“三道防线”机制。第一道防线由业务和科技部门承担,负责模型开发、部署和日常运行。在引入大模型之前,首先要问一个问题:这个任务真的需要用大模型吗?传统规则引擎或数据库查询能准确解决的问题,没有必要为了追求“技术先进”而使用生成式AI。第二道防线由模型风险管理、合规、数据和信息安全部门承担,负责独立风险评价。每个模型在上线前都要经过严格测试,包括事实准确率、幻觉率、引用准确率、拒答率、敏感信息泄露率、提示词攻击成功率等指标。第三道防线由内部审计承担,负责对治理体系的有效性开展独立评价。
最后是覆盖全生命周期的治理机制。从需求分析、数据准备、模型开发、测试验证、部署运行,到持续监测、变更管理和退出,每个环节都需要制定明确的管理规范。模型上线后,应持续监测回答错误率、幻觉率、客户投诉率、人工纠正率、异常请求比例、敏感信息泄露和知识库命中率。当指标超过阈值时,应自动降低模型权限或切换人工流程。模型参数、基础模型、提示词、知识库和外部工具发生重大变化时,应重新开展风险评估。对于连续出现重大幻觉、供应商中断或重大安全事件的模型,应启动退出机制,并提前准备备用模型和人工替代流程。
面向幻觉风险的专项治理
“检索—生成—验证—输出”闭环。采用检索增强生成技术,将模型回答建立在经审核的银行内部知识库之上。对于重要金融问题,应先检索权威资料,再生成答案,最后进行规则校验和事实核验。
强制拒答机制。对于知识库无法支持的问题,模型应明确拒答,而不是通过概率生成“补全答案”。对于监管政策、产品条款、投资建议和法律判断等问题,拒答机制应作为核心安全能力来建设。
答案按可信度分级。可将模型输出划分为低、中、高三个风险等级。低风险内容可以自动输出,如内部办公、文本润色等;中风险内容采用机器生成、人工抽查,如内部知识问答、营销材料生成;高风险内容采用机器辅助、人工最终确认,如信贷审批辅助、投资建议、直接影响客户权益的场景。
可追溯机制。每次重要回答都应保留模型版本、知识库版本、检索来源、提示词、输出内容和人工修改记录,形成“答案—数据—模型—人员—业务结果”的完整责任链条。
从“零幻觉”到“可追责”
一个现实是幻觉并不能通过单一技术手段被彻底消除。大语言模型的底层逻辑决定了它永远存在“一本正经胡说八道”的可能性。因此,银行的治理目标应该从“零幻觉”转向“可发现、可控制、可纠错、可追责”。每一次重要回答都应留痕,每一个错误都应能被追溯到具体环节,每一个风险事件都应能触发整改闭环。
此外,银行还需关注人工智能供应链安全。使用外部基础模型、云服务、数据服务和开源组件后,风险已扩展到供应链安全。银行应建立供应商准入、持续评价、合同约束、数据隔离和退出机制,关键业务可采用多模型架构,降低单一供应商依赖。
2023年三星员工将内部源代码和会议资料输入ChatGPT的事件虽非银行案例,但它说明了一个共性问题:员工在使用外部模型时可能无意间将机密数据传输至企业无法完全控制的外部环境。银行应从制度、网络、终端和模型接口四个层面建立防护体系。
对金融机构的从业者和客户,理解一个关键原则很重要:AI可以辅助判断,但不能替代人工决策。无论技术如何演进,对金融机构而言,可信比高效更重要,可控比速度更优先。











