苏沐晴产品系统Vibe Coding

我要开发同款
虾线2026年08月09日
9阅读

技术信息

语言技术
PythonFlaskJavaScript
系统类型
Web算法模型Web3
行业分类
人工智能机器人

作品详情

行业场景

一个运行在个人电脑上的 AI 对话助手,目标是让 AI 具备**稳定、个性化的对话人格**,并支持日常聊天、记忆、搜索、语音、图片等完整交互。项目从 0 到 1 独立开发,经历了模型选型 → 部署 → 微调 → 功能开发 → 性能优化的完整链路。

功能介绍

本地部署的个性化 AI 对话应用,具备长期记忆、成长分析、联网搜索、语音识别/合成、图片理解与网页端交互。独立完成全流程:基于 Ollama / llama.cpp 的大模型本地部署(8GB 显存下量化与显存调优)、LLaMA Factory + QLoRA 微调(解决回复过长、思考外露、风格不稳问题)、四层记忆系统设计、Flask 后端与原生前端开发、FunASR 语音识别与 edge-tts 语音合成链路。通过量化与内存优化,推理速度达 54+ tokens/s,系统内存占用由 94% 优化至 73%。

项目实现

- 独立完成全部设计与开发(需求 → 架构 → 编码 → 部署 → 测试)
- 大模型选型与部署:在 8GB 显存、16GB 内存的消费级笔记本上完成 7B 级多模态模型的本地推理
- 微调训练:基于 LLaMA Factory 跑通 QLoRA 微调全流程并部署上线
- 功能开发:记忆系统、成长系统、联网搜索、语音识别/合成、图片理解、网页端
- 性能与资源优化:显存、内存、推理速度的持续调优

示例图片

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论