项目服务于再生资源回收与二手 3C、闲置物品回收行业的多渠道在线客服场景。该行业客单价低但咨询频次极高，用户集中在"我的回收单到哪了、能卖多少钱、快递什么时候到、怎么取消"这类短问句上；而回收链路同时依赖订单系统与物流系统，通用客服工单产品无法直接读取业务数据，客服被迫在多套后台之间来回切换。集团旗下飞蚂蚁、时代鸟、爱博绿、汪回收、爱裹回收、海鲸回收、绿袋回收等 8 条以上渠道的订单来源、话术口径与知识库彼此独立，夜间与节假日咨询无人承接，客户流失与投诉率偏高，公司又希望沉淀各渠道咨询数据用于运营复盘。基于人力成本高、渠道割裂、业务强耦合三个痛点，立项自研一套面向多商户的 AI 智能客服中台。
系统分为客服工作台、AI 智能客服、企业微信群机器人三大板块，共 8 个功能域：
（1）会话与消息：多会话并行、WebSocket 实时收发、图片消息、已读回执、历史消息分页、新消息提示音与浏览器桌面通知、转接提醒、会话状态机（待处理 / 进行中 / AI 会话中 / 已结束）与排队分配。
（2）AI 智能问答：基于 ChromaDB + bge-m3 的 RAG 检索增强问答、多轮上下文、流式与非流式双模式、多集合知识库按业务隔离。
（3）业务工具调用：接入大模型 Function Calling，用自然语言查订单、查物流、取消订单；写操作强制二次确认、归属与权限校验、幂等键与审计留痕，模型不可用时自动回退规则处理器。
（4）企业微信群机器人：群内识别订单号 / 物流指令并自动回复，支持"第三方订单"号前缀语法。
（5）客服工作台：坐席在线状态、当日与累计绩效（接入数、回答数、首次响应时间、平均会话时长）、历史趋势图表。
（6）知识运营：FAQ 分类表管理（分类图片、自定义排序）、批量增删改、快捷回复、解决方案沉淀、问题分析与反馈建议。
整体采用前后端分离 + 多服务协同架构：
后端 kefu-service：Java 17 + Spring Boot 2.7 + MyBatis-Plus + MySQL 8，约 30 个 REST 控制器 + WebSocket 承载实时会话，JWT 与单点登录鉴权，AOP 切面实现大模型调用监控与审计日志。
前端 kefu-service-frontend：Vue 3 + Vite + Element Plus + Pinia，通过 qiankun 微前端方式嵌入公司主站，一套代码同时输出 PC 客服工作台、用户聊天页与 H5 移动端。
AI 服务 APILLM：Python + FastAPI + LangChain + ChromaDB，Ollama 本地私有化部署 Qwen3-1.7B 与 bge-m3 嵌入模型，负责知识库增删改查、向量检索与流式生成；同时接入阿里云百炼云端 Qwen 作为第二条链路，本地与云端互为降级备份。
关键实现：以 ConnectController.onLine 作为全渠道统一入口，用 MessageHandlerFactory 完成规则处理器与 AI 的分发和兜底；多租户隔离通过 datasource + user_type 实现会话、历史记录、知识库三级数据隔离；大模型链路严格划分边界——"模型负责理解与表达，Java 负责业务执行与安全控制"，取消类写操作走待确认表 + 幂等键 + 审计字段；订单与物流接口返回前做字段脱敏。
工程化：统计任务定时跑批、日志每日轮转、CUDA 异常自动重启、Token 自动缓存刷新，Python 侧工具用 PyInstaller 打包为托盘常驻程序并支持开机自启。
技术难点：IoT 设备 UDP端口的 NAT 穿透（20 秒保活包维持通道）、WebSocket 多端会话一致性
评论