某跨境电商企业,日均咨询量 5000+。人工客服平均响应要 8 分钟,夜间时段(22:00-08:00)完全没有人值守,客户流失严重。
更麻烦的是「过度承诺」问题:通用 LLM 客服为了把话讲圆,会在订单已经发货的情况下答应客户退款,直接造成资损。这类错误每发生一次都是实打实的钱。
企业需要的不是一个「能聊天的机器人」,而是一个「知道什么能答应、什么不能答应」的客服系统。
点击空白处退出提示
某跨境电商企业,日均咨询量 5000+。人工客服平均响应要 8 分钟,夜间时段(22:00-08:00)完全没有人值守,客户流失严重。
更麻烦的是「过度承诺」问题:通用 LLM 客服为了把话讲圆,会在订单已经发货的情况下答应客户退款,直接造成资损。这类错误每发生一次都是实打实的钱。
企业需要的不是一个「能聊天的机器人」,而是一个「知道什么能答应、什么不能答应」的客服系统。
一、Supervisor 意图路由
主控 Agent 精准识别售前咨询、订单问题、售后服务、投诉四类意图,分流到对应的处理链路;同时设计多轮对话状态机,支持意图修正与平滑切换。
二、记忆与会话持久化
短期对话记忆使用 Redis,长期用户画像与历史工单使用 PostgreSQL 持久化,保证更换会话后仍能识别老客户。
三、RAG 知识库与动态更新
构建商品、政策、FAQ 三大知识库,采用「嵌入向量召回 + 精排」两段式检索;后台系统变更(如促销政策调整)时通过消息队列触发知识库热更新,不需要重启服务。
四、双重校验兜底
除 Agent 自身置信度阈值触发人工介入外,针对涉及金额、退换货的敏感回复,额外增加一层硬规则拦截(例如「已发货超 48 小时不得仅退款」)。若 Agent 输出与规则冲突,强制替换为合规话术。
五、人工闭环回流
人工修正的结果自动回流至微调数据集,每周迭代一次。
我负责这个项目的 AI 应用开发,核心做了三块:
1. 意图路由与对话状态机
基于 LangGraph 设计主控 Agent,四类意图识别准确率达到 90% 以上。多轮对话的状态管理是真正的难点——用户中途改主意、问错方向时,状态要能平滑切换而不是从头开始。
2. RAG 知识库与热更新管道
三大知识库的检索链路,以及「政策一改就自动更新」的消息队列管道。
3. 双重校验兜底
除了 AI 自身的置信度判断,我额外加了一层规则引擎。因为纯靠模型判断「这句话能不能说」不够可靠——尤其是涉及钱的部分。
技术栈:LangGraph / LangChain / FastAPI / 向量数据库 / 嵌入模型 / 大语言模型 / Redis / PostgreSQL / Docker / Prometheus / Grafana
踩过的三个坑:
· 模型「过度承诺」——订单已发货还答应退款。光靠 Prompt 约束不可靠,最后加了规则层做硬拦截。
· 知识库更新延迟——早期政策改了要等下次重启才生效,客户按旧政策被承诺,造成纠纷。后来做了消息队列触发的热更新。
· 意图误判的连锁反应——一次误判会让整个对话走偏。后来加了置信度兜底,不确定就转人工。



评论