面向证券、基金等金融机构的内部知识问答与业务查询场景。针对金融年报、业务文档和结构化数据查询中专业术语多、人工检索效率低、通用大模型领域理解不足等问题,构建金融领域大模型微调与智能问答系统,提升意图识别、关键词抽取和结构化查询能力,为投研、业务查询及内部知识服务提供支持。
点击空白处退出提示
面向证券、基金等金融机构的内部知识问答与业务查询场景。针对金融年报、业务文档和结构化数据查询中专业术语多、人工检索效率低、通用大模型领域理解不足等问题,构建金融领域大模型微调与智能问答系统,提升意图识别、关键词抽取和结构化查询能力,为投研、业务查询及内部知识服务提供支持。
系统主要包含金融文档解析、意图识别、关键词抽取、NL2SQL(自然语言转SQL)、大模型微调及推理服务等模块。基于金融业务数据构建 SFT(监督微调)数据集,并使用 LoRA(低秩适配)对大语言模型进行领域微调,使模型能够识别不同类型的金融问题并抽取核心查询条件。对于结构化数据查询场景,通过 NL2SQL(自然语言转SQL)将用户问题转换为数据库查询语句;最终结合大模型完成结果整理与自然语言输出,实现面向金融业务的智能问答能力。
负责金融文档解析、训练数据构建及部分模型微调工作。首先对大量 PDF(便携式文档格式)金融文档进行文本与表格解析、清洗和结构化处理,并根据业务场景构建意图识别、关键词抽取和 NL2SQL(自然语言转SQL)训练数据。基于 Qwen2-7B(通义千问70亿参数模型)采用 LoRA(低秩适配)进行参数高效微调,并分别对不同任务进行评测。推理阶段结合大模型完成业务意图判断、关键信息提取、数据库查询和结果生成。项目中重点解决了金融专业语义理解、训练数据质量以及不同任务模型效果评估等问题。



评论