售后客服的核心矛盾是信息源割裂:政策类问题(退货、运费、物流时效、保修范围)沉淀在非结构化文档里,而订单类问题(我的货到哪了、能不能退、帮我报修)必须查业务库,一线客服要在知识库、订单系统、工单系统之间反复切换,响应慢、口径不一致,且回复无法给出依据,出现投诉时无法复盘定责。同时售后政策变动频繁,纯人工培训成本高、口径难以统一。本项目面向电商与 3C 售后、SaaS 客户支持等"政策 + 订单"双信息源的客服场景,立项原因是希望客户在一个对话框里就能完成咨询、查单、建单,并且要求答案可追溯到具体政策条款、不可逆的写操作必须经人工确认,从而降低人工进线与培训成本。
项目是一个面向售后场景的智能客服系统,共六个功能模块:
1、统一对话入口:只有一个输入框,后端同时具备知识库检索、业务工具调用、多轮会话记忆三种能力,由模型根据用户这句话自行判断该查资料、查订单还是建工单,不需要用户选择功能。
2、知识库问答(RAG):Markdown 语料按章节切块入库到向量库,检索时按相似度阈值和 topK 筛选,回答同时返回结构化来源(文件名 / 章节 / 分数);检索不到依据时直接拒答并建议转人工,不调用模型。
3、多轮会话记忆:按会话隔离,保留最近 20 条消息并持久化到数据库,重启不失忆;对"那我能退吗"这类依赖上文的追问,先改写为自包含问句再检索。
4、工具调用与工单管理:支持订单查询、工单创建、工单查询、工单撤销。工单有状态机约束,模型创建后只能处于"待确认",必须人工在后台确认才生效。
5、流式输出:回答逐字推送(SSE),并单独推送来源事件,首字延迟从 2 秒级降到数百毫秒。
6、运维与可观测:知识库支持按文件指纹增量重建、批量入库;提供调用耗时与 Token 统计、traceId 全链路日志、Actuator 指标、接口限流,以及一个带调试抽屉的前端控制台(可单独看检索结果、确认工单、查看统计)。
我负责从零完成该系统的设计与开发:技术选型与架构分层、多厂商模型装配、RAG 全链路(语料切块、向量入库、检索参数标定、拒答与来源追溯)、工具层与工单状态机、会话记忆与查询改写、流式输出、可观测与生产加固,以及前端控制台页面。
技术栈与架构:JDK 21 + Spring Boot 3.5 + Spring AI 1.1(ChatClient / Advisor 链 / @Tool / ChatMemory)+ Milvus 2.6 + MySQL 8 + Docker Compose + 原生 JS 单页。系统分为入口层(REST / SSE)→ 编排层(ChatClient 与 Advisor 链:记忆、检索、日志)→ 能力层(RAG、工具、记忆)→ 模型层(ChatModel / EmbeddingModel 抽象,配置驱动装配)→ 数据层(Milvus / MySQL / 语料文件)。
实现亮点与难点:
1、多厂商零代码切换:把 base-url、api-key、model 三要素收敛为配置,上层只依赖模型接口;对话与向量模型分离配置,规避"厂商无 Embedding 能力"的组合缺陷;配置在启动期校验,缺 Key 直接启动失败并提示填哪个文件。
2、检索参数不照抄经验值:相似度阈值由实测分布确定(无关问题最高 0.366、相关问题最低 0.477,取 0.45),topK 按语料规模与召回排名确定;实测发现多轮追问被阈值误杀后,引入查询改写(轻量模型 + 实体校验 + 失败降级),把追问的召回从失败变为命中,改写延迟经选型实测从 3932ms 降至 346ms。
3、防幻觉双层设计:检索层阈值短路(确定性、不花模型调用)与提示词编号规则(概率性兜底)并用,拒答话术带转人工入口。
4、写操作安全边界:工单状态机区分模型侧白名单与人工侧全量迁移,"确认生效"这条路
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论