面向金融、政务、通信等企业级私有化部署场景,解决企业内部海量非结构化文档(PDF研报、Word制度、技术手册等)检索难、问答准度低、“黑盒”不可溯源的痛点。
传统关键词搜索无法理解自然语言提问(如“去年Q3产品退货率相关的合规条款在哪”),且专有名词召回率低;同时企业担心数据泄露,无法直接用公网大模型。本系统为这类对数据安全、回答准确性、合规性有强要求的中大型企业,提供基于私有化知识的智能问答中枢,覆盖IT运维助手、员工制度咨询、研报分析、客服辅助等高频场景。
点击空白处退出提示
面向金融、政务、通信等企业级私有化部署场景,解决企业内部海量非结构化文档(PDF研报、Word制度、技术手册等)检索难、问答准度低、“黑盒”不可溯源的痛点。
传统关键词搜索无法理解自然语言提问(如“去年Q3产品退货率相关的合规条款在哪”),且专有名词召回率低;同时企业担心数据泄露,无法直接用公网大模型。本系统为这类对数据安全、回答准确性、合规性有强要求的中大型企业,提供基于私有化知识的智能问答中枢,覆盖IT运维助手、员工制度咨询、研报分析、客服辅助等高频场景。
智能混合检索问答:支持自然语言提问,系统采用“BM25关键词+向量语义检索”双路并行,通过RRF融合与Qwen3-Rerank精排输出结果,相比单一检索Top-5召回率提升40%,实现百级文档库毫秒级响应。
多轮对话与分级记忆:内置短期记忆(Redis保留最近N轮)+长期记忆(ES语义索引)分级管理,智能调度上下文注入,解决Token线性增长与早期信息丢失问题,支持连贯的多轮业务咨询。
问答溯源与可视化:每个回答强制附带引用来源高亮、原始文档切分块预览及相关性分数(RRF/Rerank),破除AI黑盒,增强企业用户对答案的信任度与核验效率。
文档轻量化管理与评估:支持多格式文档解析入库;基于LangFuse搭建RAG可观测性体系,持续监控HitRate、MRR等指标指导策略迭代;创新实现无向量库方案(仅靠Elasticsearch同时承担BM25+向量检索),降低30%运维成本。
合规与私有化交付:全链路私有化部署,数据不出内网,满足金融/政务合规要求,支持Dify集成与权限隔离。
技术栈:后端 FastAPI、PostgreSQL、Elasticsearch(dense_vector+BM25)、Redis、Celery,前端 Vue 3 + TypeScript,AI层 LangChain、Qwen3-Rerank、DashScope、Docker Compose,可观测 LangFuse。
混合检索架构:设计 EnsembleRetriever 执行 RRF(Reciprocal Rank Fusion) 融合算法,将BM25关键词检索与Vector向量检索结果按文档ID合并打分;引入 Qwen3-Rerank 精排模型对融合结果二次重排,显著提升专有名词与模糊语义的召回准确率。
无向量库轻量化方案:针对中小规模场景,放弃Milvus/Chroma,利用 Elasticsearch 的 dense_vector 字段 统一实现向量检索与关键词检索,一体化基础设施,减少部署复杂度与运维成本30%。
分级记忆管理:自研记忆调度器,短期用Redis List存储原文保真,长期用ES存语义摘要,根据对话轮次与Token预算动态注入上下文,优化消耗并保证连贯性。
RAG全链路可观测:集成 LangFuse 记录每次检索链路(查询→各路召回得分→Rerank→LLM生成→Token消耗),建立HitRate/MRR评估面板,支撑检索策略数据驱动迭代。
工程化部署:采用 Docker Compose 容器化编排,实现一键私有化部署;通过 Celery 异步处理文档解析切片,保障大文件入库不阻塞主线程。






评论