面向通用任务的大模型本地调用与智能交互系统产品系统Vibe Coding

中小企业与个人开发者使用大模型时高度依赖第三方在线 API，存在调用成本高、数据隐私外泄、网络波动不稳定等问题。本项目搭建本地大模型调用交互平台，支持私有知识库挂载、自定义提示词模板，满足私有化智能问答、文本处理需求，解决公有大模型数据安全与长期调用费用高昂的痛点

项目分为本地模型调度模块、知识库向量检索模块、对话交互模块、文档解析模块。支持本地开源大模型加载运行，能够上传文档构建私有知识库；支持多轮对话、长文本摘要、信息提取；内置提示词模板管理、会话历史保存、输出结果导出功能，实现离线环境下人工智能文本处理业务。

本人独立完成后端程序开发、模型调度逻辑、向量库接入。基于 Python+LangChain 构建应用框架，实现文档向量化检索；项目难点为优化本地模型推理速度、解决长文本上下文丢失问题，亮点支持轻量化硬件部署，无需联网即可完成私有化 AI 问答业务。