AI聊天网站产品系统

在大模型应用落地场景下，普通大模型无法自主调用外部工具获取实时、专业数据，回答容易出现幻觉。本智能体项目面向企业内部问答、知识库检索业务场景，解决大模型不能联网查询、无法操作工具、信息老旧失真的问题，实现基于工具调用的业务问答能力。

整套智能体聊天系统分为三层架构，前端使用Streamlit实现交互页面；FastAPI承担路由中转，通过HTTP对接SpringBoot服务，同时调用公有大模型API以及Ollama本地模型完成对话交互；SpringBoot负责用户、会话数据持久化，通过JWT令牌结合过滤器、切面完成登录身份校验。记忆模块采用滑动窗口+摘要记忆+增量更新策略，在控制token开销的前提下保存对话上下文，系统对外提供接口可部署在Linux服务端，实现完整的多轮智能问答能力。

本项目为个人开发，我负责全部代码。
系统结构: Streamlit---FastAPI---Spring Boot
Spring Boot：存储用户，会话等数据，并采用JWT令牌结合过滤器和切面对每位登录用户进行身份验证。
Fast API：作为路由中转，基于HTTP协议连接Spring Boot，并调用大模型API和Ollama本地模型与前端用户进行交互。
Streamlit：基于HTTP与FastAPI连接。
大模型记忆：采用滑动窗口 + 摘要记忆 + 增量更新的记忆管理机制，在控制 token 消耗的同时保留长期对话上下文。