本地ai聊天开源项目

一个本地ai聊天模型localaiAgentWithRAG，让你的本地数据不上传云端，可以自己加入所需要的记忆文件等等，修改角色形象，记忆对话，记忆库允许自己导入或者对话后自动记录，基于量化千问 4B 模型 + 本地 RAG 文档检索 + Live2D 二次元形象的桌面 AI 伴侣。
Live2D 二次元角色桌面显示：透明无边框窗口，角色可拖动，支持触摸交互
本地 LLM 推理：Qwen3.5-4B GGUF 量化模型，Vulkan GPU 加速，CPU 亦可流畅运行
RAG 本地文档检索：扔文件进 docs/ 目录自动索引，支持 txt / md / pdf
对话记忆持久化：JSON 存储，多用户隔离，Token 预算自动裁剪
多平台适配：桌面本地 + QQ OneBot v11，适配器模式可扩展
透明无边框桌面窗口：PyQt5 置顶窗口，暗色主题，系统托盘控制
.env 配置驱动：开箱即用，适配不同显卡