某单位基于涉密数据的RAG知识库和智能问答助手产品系统Vibe Coding

1。某单位的涉密数据无法连接外网或者外部API，必须使用本地解决方案
2。基于本地真实数据的问答助手，要求所有的回答必须严格基于单位内部数据，回答快速精准，零幻觉。

本项目是一套面向涉密场景的本地化RAG知识库及智能问答系统，主要包含以下功能模块：
1）文档管理模块：支持对涉密文档（PDF、Word、扫描件等）的上传、解析、分块与向量化处理，实现知识的结构化入库。
2）知识库检索模块：基于本地部署的向量数据库，结合BM25与向量相似度的混合检索策略，精准召回相关文档片段。
3）智能问答模块：集成本地大语言模型，通过RAG增强生成机制，基于检索结果生成准确、可溯源的回答。
4）权限与安全模块：实现用户分级权限管理、操作审计日志、数据加密存储，确保涉密信息全流程可控、合规。
5）对话管理模块：支持多轮对话、上下文理解、对话历史记录与导出，方便知识追溯与团队协作。

1）设计并实现文档解析与分块策略，针对涉密文档的多种格式（PDF、扫描件OCR、Word）进行适配，确保知识入库的完整性与准确性。
2）搭建混合检索方案，将BM25关键词检索与向量语义检索相结合，通过RRF重排序算法显著提升检索召回率与准确率。
3）负责本地大模型的部署与微调，使用LoRA技术对领域知识进行适配，提升问答生成质量。
项目技术栈为FastAPI + flask +Qwen3.5-9B + Ollama，架构上采用前后端分离、模型服务独立部署的微服务模式。
实现上的主要难点在于：在离线环境下解决大模型推理速度瓶颈，通过模型量化与vLLM推理加速框架，将单次响应时间控制在合理范围内；同时针对涉密要求，实现了全链路数据脱敏、访问控制与操作审计机制。