企业级智能客服与知识库系统（基于 RAG 架构）

技术信息

语言技术
Java系统类型
Web、H5行业分类
金融、人工智能

作品详情

行业场景

传统企业社区及论坛（尤其是金融领域）用户咨询量巨大。以往采用“正则+关键词”匹配回复，极易出现答非所问、匹配生硬的情况，导致用户体验差且极度依赖人工客服兜底，运营成本极高。
业务背景：随着大语言模型技术成熟，急需一套基于自身业务文档（如产品规则、合规条款）的私有知识库系统。旨在通过引入 RAG（检索增强生成）技术，实现精准、合规、低延迟的自动化智能问答，大幅降低人工客服压力并提升用户满意度。

功能介绍

本项目提供了一站式的企业级 AI 智能客服解决方案，主要包含以下核心模块：
1.知识库管理：支持 PDF、Word、网页等多格式文档的上传、自动解析、智能切片（Chunking）与向量化存储，支持知识的动态更新与维护。
2.智能问答交互：前端支持对话流式输出（打字机效果），用户可进行多轮对话追问，系统精准理解上下文意图。
3.合规与风控拦截：内置敏感词过滤与业务意图路由，遇到违规或超纲问题会自动拦截，并平滑流转至人工客服。
4.数据看板：统计高频咨询问题、大模型 Token 消耗及用户满意度评价，为业务优化提供数据支撑。

项目实现

个人负责：作为全栈核心开发，主导从 0 到 1 的架构设计与全流程编码。

技术栈：SpringBoot、LangChain4j、DeepSeek API、Milvus/PgVector (向量数据库)、Redis、RocketMQ、SSE、Vue3。

实现亮点与难点解决：
RAG 精准检索（核心）：针对长尾金融词汇，采用“向量相似度 + BM25 关键词”混合检索，并引入 Rerank 重排机制，解决传统单纯向量检索召回不准的问题，问答准确率提升至 90% 以上。
流式交互体验优化：后端集成 DeepSeek API，前端采用 SSE (Server-Sent Events) 技术，彻底解决大模型生成慢导致的白屏问题，实现毫秒级的“打字机”丝滑交互。
上下文记忆：利用 Redis 实现多轮对话历史存储（Chat Memory），并结合 Prompt 工程约束，确保大模型不胡编乱造，回答紧扣金融业务合规要求。
高并发工程化：通过 RocketMQ 异步处理大体积文档的离线解析与向量化，避免主线程阻塞；高频 FAQ 使用 Redis 缓存直接返回，平均响应时间控制在 1.5s 内，大幅降低 API 成本。