2024年金融行业大模型专题报告：金融垂类大模型试用体验

国内金融垂类大模型试用体验

AiFinD：PC端、手机端双边发力，打造多场景应用AI功能集合

作为A股市场“互联网+金融+AI”第一股，同花顺凭借十余年的人工智能技术积累，再度创新，推出了HithinkGPT大模型。此款大模型采 用transformer的decoder-only架构，提供7B、13B、30B、70B和130B五种版本选择，最大允许32k文本输入，支持API接口调用、网页 嵌入、共建、私有化部署等能力，并为用户提供一站式标注和评测服务。

通用领域：HithinkGPT大模型在C-Eval、GSM8K、MMLU、MATH等10多个主流Benchmark测评集上的表现全面超越了主流开源模型 Llama-2。

金融领域：同花顺自建了HithinkFinEval数据集，涵盖了证券从业考试、基金从业考试、会计师资格考试、CPA、CFA等17个金融行业考试。 在这些考试中，问财HithinkGPT-70B大模型以平均75.9分的优异成绩通过考试，并且HithinkGPT在所有考试科目中都比开源模型更加优秀。

同花顺iFinD平台中的AiFinD，是公司基于HithinkGPT大模型在平台嵌入的AI功能集合。 AiFinD系列功能致力于通过AI技术的引进帮助金融机构实现更精确的数据分析、更高效的决 策制定，同时帮助投资者更好地理解市场趋势、识别投资机会，帮助平台使用者解决简单问 题，协助解决复杂问题。当前AiFinD处于试用阶段，开放了以下功能： 1. 【ChatFinD】基于HithinkGPT大模型，叠加iFinD金融终端的金融数据库、文本库打造的 iFinD平台专属大模型，可通过对话指令获取平台指标、行情信息以及相关金融咨询，同时 获取信息来源，确保信息准确性； 2. 【飞研创作】根据所输出研报类型及期望标题，基于大模型自动生成大纲和创作思路，思路 中包含所需指标来源。飞研创作可以协助使用者编辑思路，完成研报编写； 3. 【绘图】基于选取数据为使用者编辑创作出更具有艺术创造力的可视化图形； 4. 【灵动看板】帮助使用者基于问题生成逻辑以图形呈现的可视化分析； 5. 【翻译】为使用者智能翻译研报及公告等内容； 6. 【纪要】根据音频或文档智能识别重要内容，自动生成会议纪要； 7. 【文档智读】基于大模型智能学习单篇、多篇文档，总结文档核心内容和逻辑并准确回答问 题，还可对多篇文档进行分类处理； 8. 【AI识图洞见数据】基于AI大模型，智能解析图片中的数值。

手机端iFinD APP同步发力，优化并新增AI功能：1）新增路演AI纪要，帮助快速了解路演回放要点，对关键音频实现一键定位。2）新增 资讯AI总结，AI智能总结资讯要点，提高信息获取率。3）优化AI音频传译，实现音频文件快速转写，AI智能提取内容纪要。

Ai FinD优势： 1）金融数据覆盖面广。同花顺利用自身过去十几年的数据积累以及 市场上公开的金融数据，预训练金融语料达到万亿级tokens，同时拥 有一套自动化的流程，用于数据获取、清洗以及数据质量的验证， 每月可新增数千亿tokens优质预训练数据以及数十万条优质微调数据， 确保数据的实时性和准确性。 2）模型训练创新优化。构建了包括数据配比实验方案、scaling law 实验体系、模型架构优化、分布式训练框架优化、硬件加速技术等 科学高效的大模型训练体系，能以更低的训练成本高效地完成 HithinkGPT大模型家族（7B、13B、30B、70B和130B）的训练。 3）实时性较强。AiFinD中先进大模型叠加iFinD平台自身拥有的金 融数据库以及各类实时信息，使AiFinD中大模型可以通过对话指令 获取实时数据和信息，并注明来源，相较于其他大模型具有更强的 实时性和真实性。

东方财富妙想：致力于搭载“懂金融、懂用户、强数据”的金融生态基因

妙想金融大模型是东方财富重磅打造的金融行业大语言模型，使用Decoder-only 的 Transformer 网络结构，支持32K 的上下文长度， 致力于满足各类金融场景下的需求。通过自建的数据治理和数据实验流程，结合效果预估算法、高效预训练框架、SFT、RLHF训练等技术， 妙想金融大模型建立起自主研发的技术壁垒。目前，妙想金融大模型已经覆盖了7B、13B、34B、66B及104B，分别适配不同的应用场景， 提高模型应用的效费比。

妙想金融能力评测行业领先。一方面，使用开源金融评测数据集OpenFinData对妙想金融大模型的金融场景能力进行360度诊断。在横跨 金融知识、金融计算、金融解读、金融判别、金融分析、金融合规等六大金融模块共十九项金融任务维度的多元金融场景能力的测试中， 妙想金融大模型评测综合评分整体较高。

金融场景评测比较优势凸显。另一方面，研发团队针对常见金融应用场景，对妙想大模型和通用大模型的输出结果进行了人工标注盲测， 从而真实直观把脉妙想金融大模型的金融能力。从妙想金融大模型和主流通用大模型在各场景的综合测评结果对比来看，妙想金融大模型 在股票对比、个股诊断、实际操作、投资热点解读等金融垂直场景的能力已具备较明显的优势。

妙想金融大模型优势： 1）多场景赋能，功能覆盖面广。妙想金融大模型发力投研、投顾、投教、 投资等金融核心场景，基于资讯、数据、研究、交易、交流等用户场景痛点， 对智能问答和智能投研场景进行了个性化的功能设计，提供数据查询、信息 搜索、事件解读、等数百种场景解决方案。 2）高性能推理支撑场景需求。妙想金融大模型通过量化、模型算子优化等 措施极大提高了速度，结合Paged Attention、Continuous Batching、张 量并行推理等技术优化推理框架的性能，在金融场景下算力的利用率提高了 数倍。 3）高品质金融数据供给。得益于东方财富二十载深耕，平台聚集了海量用 户资源和用户黏性优势，积淀了多元的金融业务场景，东方财富构建了完备 的金融数据、产业数据等行业通用数据集，股吧、财富号等平台优质内容数 据持续涌现，持续丰富平台的独家特色数据集。 4）实时性较强，并且能精准溯源。可以进行当天股票分析并给出来源，同 时智能投研的场景能力强大，可助力研究员倍速完成研报阅读、挖掘研报增 量信息、总结梳理投资要点并精准溯源。

恒生电子LightGPT+WarrenQ：打造更专业、更合规、更轻量的金融行业大模型

恒生电子LihgtGPT金融行业大模型，较通用大模型更专业、更合规、更轻量。LightGPT拥有更专业的金融语料积累处理和更高效稳定的大模 型训练方式。在金融专业问答、逻辑推理、超长文本处理能力、多模态交互能力、代码能力等在内的金融大模型能力评测中均有不错表现，并 保证内容和指令的合规安全，处于业内领先水平，可以为投顾、客服、投研、运营、风控、合规、研发等金融业务场景提供底层AI能力支持。

光子系列产品，基于LightGPT能力，光子大模型系列产品致力于在合规审核、投研算法、客户服务和营销分析方面成为金融从业人员的智能 助手。 1. 【光子·文曲】可以帮助投资顾问提供实时市场数据分析和智能文章润色等功能； 2. 【光子·善策】根据会话记录实时分析客户意图，精准定位客户标签，自动检索相关的金融产品及资讯信息，生成专业观点和建议； 3. 【光子·慧营】服务企业资管运营、托管运营，为运营工作提供系统智能辅助解决方案； 4. 【光子·方圆】为合规和业务人员提供智能问答和一键式合规设置等服务。

幻方量化DeepSeek LLM 67Bt：数学能力表现突出，指令跟随、编程能力遥遥领先

幻方量化发布通用语言大模型DeepSeek LLM 67Bt，相比开源的同级别模型 LLaMA2 70B，DeepSeek LLM 67B 在近20个中英文的公开评 测榜单上表现更佳。尤其突出的是推理、数学、编程等能力（如：HumanEval、MATH、CEval、CMMLU）。1）数学能力排名靠前。 DeepSeek LLM 67B 模型在样本内数学能力（纵轴 GSM8K）排名第三，仅次于 Claude2 和 GPT-4，但在样本外数学能力（横轴 Exam Score） 排名第二，仅次于 GPT-4。2）指令跟随能力明显领先。使用 Google 在2023年11月15日公开的指令跟随评测集进行测试，DeepSeek LLM 67B 在一众开源模型中明显领先，拉近了与智能标杆 GPT-4 的距离。3）编程能力遥遥领先。使用LeetCode 全球竞赛测试题进行测试，来自 DeepSeek 的两大模型遥遥领先，包括通用领域的 DeepSeek LLM 67B 和11月初的 DeepSeek Coder 33B。

国内AI模型产品概况及未来设想

国内AI模型产品概况对比

国内AI大模型迎来爆发式增长，技术和应用不断发展，但与国外顶尖AI大模型尚有差距。自2022年OpenAI发布ChatGPT以来，国内迅速形 成大模型共识，开始追赶国外。目前各行各业开闭源大模型不断出新，竞争形势越发激烈。 国内大模型的第一梯队有了更多新的模型加入。如腾讯的混元、阿里云的通义千问2.0。已有模型的新版本或出现的新模型，可能会进一步加 剧第一梯队大模型的竞争。

金融垂类大模型百花齐放，引领金融行业效率变革，开启数字金融新时代

IDC（国际数据公司）一项调研显示，超半数的金融机构计划在2023年投资生成式人工智能技术，只有10%的金融机构表示没有试验计划。 国内外金融机构都在积极主动拥抱大模型，未来将会有更多种类型的金融大模型落地开花。 AI技术将金融行业发展，为金融垂直领域带来效率变革。各类金融大模型落地，对金融行业的影响是长期的，我们认为AI技术的出现，将 会在支付、投资、个人理财和保险等金融垂直领域，带来效率变革。 金融大模型加速落地，百花齐放开启数字金融新时代。目前金融大模型已经在金融资讯、产品介绍内容的文本生成、构建虚拟客服在线交 互等方面进行应用，未来更多的金融大模型加速落地，金融大模型百花齐放，将实现更加精细化处理行业细分场景、并催生新的场景和应 用，全面赋能金融行业已有业务，积极推动金融行业新业务产生，全面重塑金融业务生态，开启数字金融新时代，推动金融行业不断向前 发展。

报告节选：

编辑：火腿肠