大模型技术带来了AI的新一轮技术变革和产业应用。构建大模型在金融领域完善的开发框架和应用框架，可助力现有金融业务进行数字化转型。但其应用也面临着诸多风险，需要进行进一步防控。除了针对通用的大模型幻觉风险的防护围栏，还需要针对金融领域的应用进行隐私风险防控、大模型攻击防御、可解释性增强、可溯源性增强以及有害内容防控，从而更好的助力传统金融业务。除此之外，金融领域大模型治理框架的搭建、评测集的构建和人才体系的培养则有利于促进大模型在金融领域的生态体系构建。
大模型在金融领域的应用挑战
由于金融行业的专业性、严谨性、合规性等特点，在把大模型技术应用到金融领域时， 需要解决下述挑战，如图 2-1 所示。
面对上述挑战，金融机构在应用大模型到金融业务场景的过程中，一般需要经过两个 主要步骤：一是从通用大模型进一步训练调优出专业的大模型；二是以大模型为核心， 结合金融专业知识库、金融专业工具库、智能体、安全合规组件等构成一个可满足金 融领域安全应用要求的应用系统，来支撑在金融应用各场景中的应用，如下图所示。
金融领域的行业大模型开发框架
一个完整的大模型构建和应用流程如下图所示，包括：从数据收集和处理开始，通过 领域适配训练使模型理解金融语境，然后通过性能优化确保模型的实用性和高效性， 接着处理幻觉问题以提高事实性，最终实现复杂推理的能力。
框架中各层主要关注的问题如下：
数据层：构建大模型的第一步是数据收集和处理，这涉及搜集金融领域的大量 数据集，包括公司公告、金融新闻、投资研报等。此外，为了使大模型具备处理 下游各类金融任务的能力，还需要收集多样的、高质量的金融指令数据。
模型训练：此处主要关注大模型领域适配训练，通常包括有监督的参数微调和 对齐技术，以调整模型对金融术语、概念和上下文的理解，使其更好地适应金融 行业需求，并符合人类价值观。此外，还需要考虑到低资源条件下领域适配技 术，以满足实际应用中成本和条件的要求。
模型部署：金融应用中模型的快速响应至关重要。需要考虑在特定的硬件资源 下，如何提高模型的推理效率，从而改善用户体验和决策支持的实时性。
复杂推理：金融场景的复杂推理能力是大模型的高级功能，允许模型进行多步 推理和决策支持，这通常涉及到构建复杂的推理链、使用情景模拟和智能体决 策技术等。
幻觉降低：金融领域的高准确率和事实性要求，需要大模型能够有效处理幻觉 问题以降低误导性决策风险，这包括开发和应用技术来识别和纠正模型在生成 预测或解释时可能产生的忠实性幻觉和事实性幻觉等。
大模型的应用安全
大模型在金融领域的实践需要考虑多方因素，除了大模型技术框架对现有金融业务的 效率提升以外，金融业务的专业性、严谨性及合规要求对大模型在金融领域的应用实 践也提出了更加严格的风险防控措施要求。
大模型在金融相关业务应用中有几大类风险维度及相应防控措施，其中包括针对全流 程的隐私风险防控以及模型攻击防控；针对数据收集处理、适配与参数微调以及推理 过程的可解释性增强；针对推理过程和生成内容的可溯源性增强及针对生成内容的有 害内容防控。
幻影视界分享的AI大模型在金融领域的应用技术与安全白皮书报告原文节选如下：
本文仅供参考，不代表我们的任何投资建议。【幻影视界】整理分享的资料仅推荐阅读，用户获取的资料仅供个人学习，如需使用请参阅报告原文。返回搜狐，查看更多