转自：经济日报

今年的《政府工作报告》对推进“人工智能＋”行动提出了新的要求。《政府工作报告》着重强调了人工智能的实际应用，包括产业赋能、终端应用等方面。在强调技术应用的同时，多次出现“安全”一词，强调了产业的安全健康发展。

在金融领域，庞大的用户群体和海量数据（维权）积累还为人工智能技术的落地提供了优质场景。随着“人工智能＋”行动的持续推进，AI大模型已经成为不少金融机构的标配。与此同时，问题也随之而来，“一本正经说胡话”的AI幻觉已经让不少金融从业者感到头疼，更令人担忧的是，金融业的高精确性要求使得AI幻觉问题被放大，从模型误判到资金损失可能仅是一步之遥。

AI幻觉是指AI大模型生成的内容与现实世界事实或用户输入不一致的现象。简而言之，就是AI在“胡说八道”。

记者了解到，眼下金融行业确实有不少投诉案例与AI幻觉有关。以市面上常见的AI智能客服为例，AI智能客服的“已读乱回”经常令用户陷入沟通困局。有客户连续发送“转人工”请求，对面仍回复“为了节约您的时间，还请再简单描述问题”；当用户咨询复杂的理财产品条款时，AI回答往往仍以“请咨询客户经理”仓促收场。不少用户不禁疑惑：这些外表智能实则机械的AI客服，与传统电话客服“按0转人工”的机械设置相比，究竟在服务体验上有多大程度的实质性提升？

中国邮政储蓄银行研究员娄飞鹏表示，AI幻觉会生成看似不合理、与事实不符的结果，如果出现在营销领域，可能导致银行无法向客户做好解释，从而增加银行维护客户群体的难度；如果出现在风险管理领域，可能使银行因为无法理解其中的逻辑原因，无法有效采取针对性的风险管理措施。

记者采访发现，AI幻觉的出现与行业之间的信息壁垒存在一定关联。“银行、保险、证券等不同行业间的数据难以有效整合，碎片化的数据生态制约了AI模型的训练精度。”招联首席研究员、上海金融与发展实验室副主任董希淼认为，AI模型的训练需要大量数据支持，如何在保证隐私和安全的前提下进行模型训练，是行业需要共同解决的问题。在部分对精度要求极高的金融应用场景中，AI幻觉可能对新技术的落地应用造成障碍。现行金融监管体系主要针对传统业务模式设计，面对AI技术驱动的新兴业态需要新的有效规制手段。“需要注意的是，AI生成的知识在准确性、科学性方面仍存在很大不足，现阶段只能作为辅助工具而不能作为决策工具。”董希淼说。

目前来看，完全消除AI幻觉并不现实。AI幻觉是一把“双刃剑”，尽管可能给金融这样对精确性要求较高的行业带来风险，但在文学艺术等创作领域，许多人视其为灵感的催化剂，甚至主动加以利用激发创新。“对金融机构而言，需要对AI大模型有一定的容错度。”娄飞鹏认为，对不同类型的经营管理决策需要在AI生成结果和人工经验判断上设置不同的权重比例。在AI输出结果的基础上，辅以人工判断更好地开展决策。同时通过适时增加数据指标、调整优化大模型等方法尽量减少AI幻觉的发生。