1.本地私有化大模型部署
基于 Ollama 完成 DeepSeek-R1:7b 离线部署,使用 Spring AI ChatMemory+Redis 搭建持久化会话记忆模块,自动存储多轮对话上下文,支持连续问答、历史会话读取与清空,实现断网可用、数据本地留存的私有对话服务。
2.Prompt 角色定制互动场景
通过系统提示词设定模型人物人设,搭建女友互动对话小游戏,完成提示词调优、温度参数控制、输出风格约束,沉淀角色化 Prompt 编排与效果优化落地经验,验证提示词工程在轻量化交互场景的落地方案。
3.Function Calling 教育智能客服
依托 Spring AI ToolCallingAdvisor 实现工具调用链路,针对教育课程场景完成用户意图识别,自动匹配数据库查询接口,调用 MyBatis-Plus 读取课程、课时、价格数据,返回结构化 JSON 结果,实现 AI 自主查询业务数据、自动应答业务咨询的智能客服能力。
4.RAG 私有知识库问答系统
搭建完整 RAG 流水线:支持文档上传、文本切片、Embedding 向量化存入向量存储;用户提问时执行相似度检索,将匹配文档片段注入 Prompt,结合流式 SSE 输出实现逐字实时问答,解决大模型知识滞后、幻觉问题,适配企业内部文档检索场景。
点击空白处退出提示









评论