数字化转型网人工智能研习社关注人工智能从技术到落地的全方面，包含机器学习算法、深度学习架构、自然语言处理（NLP）技术、计算机视觉技术、AI+医疗健康、AI+交通出行、AI+金融、AI+制造、AI+消费品、AI+互联网、数据隐私和安全、算法公平性、产业生态建设、政策法规制定与完善等。
近年来，ChatGPT等大语言模型的迅速发展和广泛应用，为各行业带来了全新的技术变革和应用可能性。大语言模型对证券行业的影响犹如“风起于青萍之末”。尽管最初可能仅在某些领域或项目中显现，但其潜在的影响力和创新潜力是巨大的，足以改变整个行业的未来面貌。尽管技术迅速进步，但在实际应用中仍存在一些问题和局限性。例如数据隐私与安全、生成内容稳定性、成本和复杂性，以及算法本身的局限性。在利用大模型提高内容质量时，也需要关注内容的合规性审查，以避免用户滥用风险和知识产权风险。证券行业对技术可靠性要求极高，因为证券交易涉及大量资金和客户敏感资料，任何问题都可能导致严重后果。当前阶段，大模型仍需要进一步的研究和发展，以解决隐私、安全、标准和成本等方面的挑战。
国金证券股份有限公司科技研发部
总经理 熊友根
随着人工智能技术的不断发展，大模型文档问答作为一种前沿的信息处理技术，正逐渐在各个领域展现出巨大的应用潜力。有望运用在赋能员工办公效率（2B端应用）和提升客户服务体验（2C端应用）两方面，在赋能员工办公效率目前已经有相对成熟的产品，如AI编程助手、GPT员工助手等，在提升客户服务体验方面，有望运用在智能化客户服务、智能化投顾服务。在证券行业这样一个信息量庞大、知识密集的领域中，如何有效地利用大模型文档问答技术，成为了提高工作效率、降低风险、改善客户体验的关键。本文旨在探讨大模型文档问答在证券公司部门级问答中的应用场景，分析其潜在优势和发展前景，为证券行业的信息化建设提供新的思路和方法。
一、大模型对证券行业的改变
Embedding模式、Copilot模式和Agents模式代表了大模型在企业中逐步深入的三种方式。公司通过建设企业级大模型平台（如图1），整合内部数据和算力资源，全面提升数字化服务水平。这些模式在证券行业中的应用，对于提升金融服务质量和效率起着重要作用。
图1 大模型与企业结合运用
在证券行业，大模型的应用可以帮助证券公司更好地处理海量金融数据，提高交易执行效率，降低风险。通过Embedding模式，证券公司可以利用大模型来分析市场数据、预测股票走势，为投资者提供更准确的决策支持。Copilot模式则可以作为一种智能辅助工具，帮助证券从业人员更快速、准确地进行交易操作和风险管理。Agents模式在证券行业中也有着广泛的应用。证券公司可以利用大模型构建智能客服助手，提供更加个性化、高效的客户服务体验。这种转向C端客户服务的趋势，可以让证券公司更好地满足投资者的需求，提升用户满意度。
大模型技术在证券行业的应用是一个不断积累、开拓和持续优化的过程。随着证券公司在数据治理、数据安全和交易系统技术兼容性等方面的进步，大模型技术也在不断进化。这推动了证券行业的技术进步，促进了大模型的持续发展与创新，为数字金融的建设做出了贡献。
大模型对于证券行业的改变主要体现在以下几个方面。
1.舆情的搜索和分析
利用大模型的摘要总结能力，可以帮助证券公司从海量的金融信息中快速提取关键信息，进行情报的搜集和分析。有助于分析师更好地理解市场动态，捕捉投资机会，还可以帮助识别风险因素，并提供更精准的风险评估和管理建议。
2.客户服务
利用大模型自然语言理解和生成的能力，大模型可以用于智能客服系统，实现智能化的客户咨询和服务。客户可以通过对话方式获取个性化的投资建议和解决投资问题。
3.文档撰写助手
利用大模型的扩展和转化能力，根据不同需求的提示词生成特定报告。比如研报摘要、高客建议书、理财月报、员工日报和周报等自动撰写，显著提升员工工作效率和团队管理效能。
4.决策支持
利用大模型推理等相关能力，可以辅助决策者进行数据分析、信息整合和预测，为投资决策提供更加全面和准确的参考。智能数据分析辅助量化手段，定量化分析公募基金持仓结构，调仓行为等。在资产配置、主动选股研究、高频因子挖掘、智能量化选基金等领域。
二、证券公司知识管理大模型技术方案
通用大模型在证券行业使用的缺点之一，是其对于领域特定知识的理解能力有限。证券行业涉及大量的专业术语、金融数据和复杂的市场情况，通用大模型可能无法准确理解和处理这些特定领域的信息，导致应用效果不佳。
通过使用文档问答方式，可以很好地解决这种问题。文档问答系统可以基于证券行业特定的文档和数据集进行训练，从而使其具备更深入的行业理解和知识储备。这样的定制化训练可以使文档问答系统更加精准地理解和回答证券行业相关问题，提高了解决问题的准确性和专业性。此外，文档问答方式在证券行业应用中还有很大优势。通过结合领域专家的知识和大规模数据集，文档问答系统可以更好地解决证券行业中复杂的问题，并且能够提供更加精准、可信赖的决策支持。这种定制化的方式能够充分发挥大语言模型的优势，为证券行业带来更高效和智能化的解决方案。
因此，专用领域知识管理大模型（如图2）比训练垂直领域大模型更适合证券公司。通过文档管理模块管理非结构化文档，应对证券公司中业务文档版本变化频繁的问题。提供统一的搜索，帮助用户更精准、更高效、更便捷地获取知识信息。通过大模型管理接入并管理多种不同参数量的大模型，为企业构建低成本、高效、数据安全、模型安全及自主可控的AI底座。通过大模型兼容过去的智能问答机器人为企业提供大模型知识问答能力，获取方式更直接，建立公司级、部门级、个人级文档对话管理系统。
图2 专用领域知识管理大模型
传统问答机器人的文件处理主要依赖业务理解和手动整理（如图3）。随着大模型的发展，当前的文件处理方法主要包括FAQ问答、文档生成FAQ，以及文档生成向量库（如表所示）。利用大模型自动从文档中提取FAQ，引入人工审查机制，提升大模型回答的可靠性，从而减少模型“幻觉”和偏见问题。
图3 大模型服务兼容过去的问答系统
表 文档处理方式
三、国金证券知识管理大模型的探索实践
1.整体规划
国金证券以大模型规模化应用为目标，面向业务人员、科技研发人员、AI算法人员等不同角色，构建流程化大模型研发流水线、建立端到端的大模型解决方案、打造基于大模型的提示词中心，共同形成大模型共享共建的应用市场生态，快速赋能数字国金建设（如图4）。
图4 大模型应用系统架构图
基于本地化大模型构建的国金证券文档问答助手已应用于IT百事通助手、AI研报助手、人力资源助手等企业内部员工的文档问答领域，创建不同的应用，每个应用代表不同的助手，IT百事通助手可协助科技部门员工解答相关工作问题，人力资源助手则为人事部门提供问题解答服务，而研报助手则专注于解答相关年度报告问题。LLM对话应用表示使用大模型进行对话。AI文档问答助手在不同部门间的应用，为工作流程带来了便捷和提升了效率。
2.知识管理大模型系统架构
文档问答助手的系统流程图（如图5），通过构建不同的数据库为不同的AI助手提供支持，文档支持三种方式：上传QA问答的CSV；上传文档由大模型自动抽成问答对；上传文档，直接通过文档来进行问答。通过向量检索、语义检索、混合检索三种方式进行数据检索，由于混合检索后的查找范围很大，并且无法直接进行相似度过滤，通常需要进行利用重排模型进行一次结果重新排序，并利用重排的得分进行过滤。这种多种检索方式混合检索，可以有效提高搜索结果的准确率。
图5 文档大模型问答系统流程图
国金证券的文档问答助手在用户提出问题后，首先会在知识库中进行匹配，找到相关信息并将其作为上下文输入到大模型中。随后，利用大模型的自然语言理解和生成能力，系统将综合上下文信息进行分析，并为用户提供详尽和准确的答复。这种基于大模型的问答流程不仅能够提供高度个性化的解答，还能够不断优化和改进问答质量，为用户提供更加优质的服务体验。
国金证券文档问答助手的高级编排主要包含知识库搜索、AI对话等几个部分。这些模块构成了文档问答的工作流。
3.证券公司知识分级管理模式
在证券公司部门级问答中，大模型文档问答的应用需要根据实际情况进行精细化的管理和建设。我们认为并不适合每个人都随意上传文档，而更适合在部门级、公司级以及层次间进行建设（如图6）。这种管理模式可以更好地满足不同层级和部门的需求，提高问答服务的质量和准确性。
图6 公司级、跨部门级、部门级文档数据分层
为了实现这种管理模式，可以在每个部门指定专门的文档管理员，负责审核和管理本部门上传的文档。文档管理员可以对文档进行质量把控，确保文档的准确性和权威性。同时，公司级也可以设立统一的管理机构，负责整体文档问答服务的规划和监督，从而确保整个系统的运行效率和质量。
这样的管理模式不仅有利于提高文档问答服务的专业性和可信度，还有助于提升整个公司的知识管理水平，为公司决策提供更加可靠的信息支持。
四、总结与展望
文档问答在证券公司的应用前景十分广阔。通过大语言模型的文档问答助手，证券公司可以实现更高效的信息管理和智能化的客户服务，提升工作效率和客户体验。本文介绍了国金证券在文档问答助手的实践为员工很大地提高了工作效率和体验。这种企业内部员工文档问答系统应用具有高度的灵活性和效率，使得证券公司能够迅速适应金融市场的波动和持续性技术创新。这将有效提升效率和决策的精准度，减少风险，确保在快速发展的市场环境中保持竞争优势。
证券大模型优化方法主要有以下几种方式：证券业务提示词工程，通过定制化的提示词优化证券业务流程，以精准理解和满足客户需求；整合搜索引擎和大模型，使得证券公司能实时获取和分析市场动态及财经新闻；证券业务算法外挂，通过特定算法外挂，强化证券业务流程智能化处理能力。通过这些方式可以更高效、灵活地适应金融市场的快速变化（如图7）。
图7 证券行业大模型优化路线
随着证券公司在数据治理、数据安全和交易系统技术兼容性方面的不断进步，大模型技术也在与时俱进。行业对技术的支持与促进推动了技术的发展，我们相信通过同行的努力和先进技术的消化，将在数字金融领域书写重要篇章，助力构建更强大的金融国家。每一步技术的进步，每一次创新的实践都是朝着金融强国建设目标迈进的坚实步伐。
（此文刊发于《金融电子化》2024年6月下半月刊）
声明：本文来自《金融电子化》2024年6月下半月刊，版权归作者所有。文章内容仅代表作者独立观点，不代表数字化转型网立场，转载目的在于传递更多信息。如有侵权，请联系我们。数字化转型网www.szhzxw.cn
数字化转型网人工智能研习社包含哪些内容
数字化转型网人工智能研习社关注人工智能从技术到落地的全方面，包含机器学习算法、深度学习架构、自然语言处理（NLP）技术、计算机视觉技术、AI+医疗健康、AI+交通出行、AI+金融、AI+制造、AI+消费品、AI+互联网、数据隐私和安全、算法公平性、产业生态建设、政策法规制定与完善等。
本文由数字化转型网（www.szhzxw.cn）转载而成，来源于《金融电子化》2024年6月下半月刊；编辑/翻译：数字化转型网默然。
