立项原因:企业内部技术文档量大、格式杂,通用大模型对专业术语与编号常答不准,还会编造答案;同时业务数据不能出内网,需要可私有化部署的知识库。行业场景与业务背景:面向企业技术文档的私有化 Agentic RAG 知识库,覆盖研发、运维、合规类文档的精准问答与跨文档检索,已在生产环境支撑约 1000 名用户日常使用。
点击空白处退出提示
立项原因:企业内部技术文档量大、格式杂,通用大模型对专业术语与编号常答不准,还会编造答案;同时业务数据不能出内网,需要可私有化部署的知识库。行业场景与业务背景:面向企业技术文档的私有化 Agentic RAG 知识库,覆盖研发、运维、合规类文档的精准问答与跨文档检索,已在生产环境支撑约 1000 名用户日常使用。
本项目主要功能模块包括:1)知识库与文档管理:多格式解析与 OCR、四种切块策略及 LLM 自动推荐;2)混合检索与精排:查询改写、向量与全文双路召回、RRF 融合、Reranker 精排;3)对话问答:带引用溯源的回答,置信度门控在低分时强制拒答,避免乱编;4)Agentic RAG:七个按权限授权、全链路审计的 Agent 工具,多步检索与精读解决跨文档全局问题;5)安全与运维:RBAC、限流熔断、敏感词过滤(含流式脱敏)、Docker 离线私有化交付;6)评测门禁:检索/问答/LLM 评审三层评测与变更门禁,代表性评测集正确率约 92%。
我作为技术负责人/架构师,独立主导从架构设计、核心开发到私有化生产交付与评测体系建设。技术栈与架构:Java 21、Spring Boot、Spring AI、pgvector、SGLang(本地 Chat/Embedding/Rerank)、MinerU、React;零 Redis,缓存与会话由 PostgreSQL 承担。实现亮点与难点:双路召回与 RRF/精排链路、拒答与覆盖率的门控取舍、Agent 工具权限与审计、评测门禁防止改坏线上质量,以及内网离线 Docker 交付。



评论