本项目是一个面向儿童的 AI 智能对话陪伴平台,支持多模态交互(文字、语音、图片),具备知识问答、内容安全审核和实时语音对话能力。
- 支持儿童通过网页进行文本聊天,流式响应
- 支持调用手机、电脑麦克风输入语音,并播放机器人语音
- 支持用户上传图片,机器人结合图片内容进行回答
- 支持机器人在当前会话内主动追问、主动延展聊天
- 支持面向儿童的陪聊和常识科普问答
- 支持基础安全策略和会话记录保存
- 完整后台运营平台
主要用户:儿童
次要用户:运营角色,后续可扩展的家长角色
儿童对话场景 — 客户端 child-chat 模块定义了三种助手风格:kid(童趣)、science(科普)、buddy(伙伴),录音状态机为 idle → recording → recognizing,支持自动播放回复
多模态交互 — 消息类型涵盖 TEXT、IMAGE、AUDIO、SYSTEM,用户可通过语音、图片、文字与 AI 对话
内容安全审核 — 文本+图片双向审核,保障儿童内容安全。
本地化 AI 部署 — ASR/TTS 模型全部本地运行,不依赖第三方云服务。
会话管理 — CustomerSession(客户会话)+ SessionMessage(会话消息)+ AiCallLog(AI调用日志,含 token 数、TTS字符数、ASR音频时长),完整的对话生命周期追踪。
一句话总结:这是一个面向儿童教育/陪伴场景的 AI 智能客服平台,核心能力是多模态对话(语音+图片+文字),强调内容安全审核和数据本地化,技术架构为 Spring Cloud 微服务 + Vue3 前后端分离 + Python AI 中间件 + 本地 ASR/TTS 模型服务。
- 多模态对话:支持文字、图片、语音三种消息类型,儿童可通过语音、拍照、打字与 AI 交互。
- 语音识别(ASR):基于 Qwen3-ASR 本地推理,支持 wav、mp3、flac、ogg、m4a 等多种音频格式转写。
- 语音合成(TTS):基于 Kokoro-TTS 本地推理,支持自定义音色、语言和语气控制,另有 Qwen3-TTS 备选方案。
- 内容安全审核:对文本和图片进行双向审核,保障儿童内容安全。
- 会话管理:完整的对话生命周期追踪,包括客户会话(CustomerSession)、会话消息(SessionMessage)、AI 调用日志(AiCallLog,含 token 数、TTS 字符数、ASR 音频时长)。
- 智能追问:根据对话上下文自动生成跟进问题,引导儿童持续互动。
- 图片识别:支持图片上传与理解,辅助视觉场景对话。
- 实时通信:基于 NDJSON(HTTP Chunked Transfer)流式传输,后端通过 Spring StreamingResponseBody 逐行推送 delta/done/title/error 事件,前端通过 Fetch API ReadableStream 实时读取逐字渲染,实现打字机效果的流式回复。
- 后台管理:用户、角色、菜单、字典、日志、文件、定时任务等系统管理功能。
- ASR/TTS 模型全部本地部署运行,不依赖第三方云服务。
技术栈
后端
Java 25 + Spring Boot 3.4 + Spring Cloud 2024
pig 微服务框架(pig4cloud),含网关、认证、权限管理通用模块
MySQL(数据持久化)
Spring StreamingResponseBody + NDJSON(流式响应)
Redis(缓存、分布式锁)
前端
Vue 3 + TypeScript + Vite
Element Plus(UI 组件库)
Tailwind CSS(样式)
pnpm(包管理)
Fetch API + ReadableStream(NDJSON 流式读取,逐字渲染)
MediaRecorder API(浏览器端录音采集)
本地模型服务(AI核心能力)
Python + FastAPI
封装 ASR、TTS接口
qwen-asr:Python + FastAPI + Qwen3-ASR-0.6B,CPU 推理,有界队列串行执行
kokoro-tts:Python + FastAPI + Kokoro-82M-v1.1-zh,CPU 推理(主用 TTS)
qwen-tts:Python + FastAPI + Qwen3-TTS-12Hz-0.6B-CustomVoice,CPU 推理(备选 TTS)
测试与自动化
Playwright + Node.js + TypeScript(网页自动化与回归测试)
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论