企业内部制度、考勤流程、安全生产规范等文档分散存储,员工查找信息耗时;直接调用通用大模型存在数据外泄风险,且会胡编乱造。本项目面向中小企业数字化转型,打造可完全本地化部署的企业业务助手:既能按业务线隔离知识库做RAG问答,又能调用计算器、日期换算、天气查询、法定节假日查询等工具完成任务,内置防幻觉校验与多级降级机制,保障数据不出内网、回答有据可依,降低员工信息获取成本。
点击空白处退出提示
企业内部制度、考勤流程、安全生产规范等文档分散存储,员工查找信息耗时;直接调用通用大模型存在数据外泄风险,且会胡编乱造。本项目面向中小企业数字化转型,打造可完全本地化部署的企业业务助手:既能按业务线隔离知识库做RAG问答,又能调用计算器、日期换算、天气查询、法定节假日查询等工具完成任务,内置防幻觉校验与多级降级机制,保障数据不出内网、回答有据可依,降低员工信息获取成本。
1. 智能意图路由:基于LangGraph状态机,LLM自动判断用户问题属于RAG问答、工具调用、闲聊还是拒答,条件分发到对应节点。
2. 防幻觉RAG:多知识库自动路由(法律法规/饮食健康/安全生产),向量召回后增加LLM相关性二次校验,不相关文档直接拒答,禁止编造。
3. 多工具调用:工具注册表模式统一管理,支持安全计算器(AST解析防注入)、日期换算、和风天气实时查询、文档摘要、法定节假日查询(内置国务院放假表)。
4. 多级降级体系:Ollama不可用时自动降级为规则分类与关键词重叠度校验,系统永不崩溃;工具失败自动重试。
5. 工程化交付:FastAPI标准REST接口 + Streamlit可视化Web界面,支持文件上传入库、多轮会话记忆、全链路Trace追踪,Docker一键部署。
本人独立负责全流程开发,涵盖需求分析、架构设计、编码实现与部署运维。
技术架构基于LangGraph构建有向状态机,节点解耦、条件路由;LLM层使用Ollama本地部署Qwen2.5,通过Pydantic强约束结构化输出;RAG层复用ChromaDB向量库与BGE-M3 embedding;工具层采用注册表模式,新增工具只需继承BaseTool并注册;后端FastAPI提供接口,前端Streamlit实现聊天交互与调试面板;会话与日志采用文件存储,支持Docker Compose一键启动。



评论