本项目面向企业私有化 AI 业务场景,解决公有大模型数据外泄、调用成本高的痛点。企业内部业务数据不对外流出,依托本地部署大模型,构建多智能体业务处理能力,适配内部知识库问答、任务拆解协同等业务背景。
点击空白处退出提示
本项目面向企业私有化 AI 业务场景,解决公有大模型数据外泄、调用成本高的痛点。企业内部业务数据不对外流出,依托本地部署大模型,构建多智能体业务处理能力,适配内部知识库问答、任务拆解协同等业务背景。
系统包含多 Agent 智能体调度模块、RAG 知识库检索模块、FastAPI 后端服务模块、前端交互模块。支持多个智能体分工协作完成复杂任务,对接本地 Ollama 私有化大模型;向量库实现私有文档检索增强生成,降低模型幻觉;提供 API 接口供业务系统调用,前端页面可完成对话调试、Agent 配置、知识库文档管理,实现多轮对话、工具调用、联网搜索扩展能力。
本人负责后端服务开发与 Agent 逻辑实现,基于 FastAPI 搭建接口服务,使用 LangGraph/CrewAI 实现多智能体流程编排;对接 Ollama 完成私有化大模型调用,向量数据库完成文档向人与检索;前端 Vue 实现交互页面。项目难点在于多 Agent 状态流转管理、私有化模型性能调优,亮点是完全本地私有化部署,数据不出内网。



评论