智能语音客服进入规模化落地期
- 大模型成熟 :2023 年后 LLM 在中文口语理解、多轮对话、工具调用(Function Calling/ReAct)能力上跨过可用门槛,电话场景从关键词识别 + 固定话术树升级到自然语言理解 + 自主决策。
- 政策与成本驱动 :企业客服中心是典型的人力密集型部门,一个坐席年综合成本 8~15 万(含工位/管理/流失),而 AI 机器人单通电话边际成本接近 0,7×24 小时在线。
- 运营商/金融/OTA 先行 :移动、银行、携程途家等高频外呼+呼入场景,单平台日均话务量百万级,是语音 AI 最早商业化的领域,目前正从按键导航 IVR向一句话直达意图 + AI 自助闭环迁移。
公司原来的客服体系是传统 IVR + 关键词机器人,三个核心问题:一是自助闭环率只有 20% 多,大量话务还是堆到人工坐席,人力成本居高不下;二是多轮复杂业务(比如订单改期、故障报修要查账号、查资源、建工单)机器人做不了,流程写死,每加一个业务都要开发排期;三是大模型技术成熟后,各业务线都想接,但如果各自直连模型,没有限流容灾、没有话单计量,线上风险和成本都不可控。
所以立项做一个 AI 语音 Agent PaaS 平台 :底层用 FreeSWITCH 做软交换接入,中间 voice-agent 跑 VAD→ASR→LLM(ReAct)→TTS 全双工流水线,用工具调用方式让机器人自助完成多步业务;上面加一层 llm-gateway 做限流、故障转移、多模型路由和 token 计量;vo-route-center 做路由下发、多租户隔离和话单回写。企业只要配一个接入号、注册一个 agentId、挂上自己的业务工具就能上线,目标是把自助闭环率从 20% 提到 70% 以上,复杂场景再无缝转人工,话单全量回写支撑计费和质检。
1、项目具有路由中心、话单中心、控制中心、api中心、esl-cleint中心、管理平台模块。
2、主要功能是面向外部企业提供高可用、高性能语音通信服务,基于 SpringBoot + FreeSWITCH 构建,支持呼入呼出、语音通知、
IVR;支持线路、小号两级并发与呼频管控、具备租户隔离、录音话单、多维度话单监控告警等能力。
负责的模块:
(1)设计并实现基于平滑加权轮询算法的线路组动态选路方案,根据线路权重实时分配话务流量,保障高并发场景下选路决策的高
性能与稳定性,显著提升线路资源利用率。
(2)负责小号资源全生命周期管理,包括选号逻辑设计及并发与呼频管控策略制定,通过精细化限流与配额机制,有效防止资源滥
用并保障服务可用性。
(3)主导话单中心核心功能研发,完成A/B腿通话数据捏合生成完整话单,支持多阶梯计费、话单统计、用户及线路账单生成,并
实现话单与事件推送及重跑账单机制,确保高并发环境下数据捏合的高性能与零丢失。
(4)构建多维度话单监控告警系统,在大数据量场景下实现告警响应的高及时性与准确性,有效支撑业务运维决策。
(5)负责SIP信令日志的深度解析与结构化组装,推动前端信令可视化图谱渲染,有效降低故障定位与问题排查的复杂度与时间成本。
技术栈:SpringBoot + SpringCloud + Dubbo + vLLM + llm‑gateway + Transformers + LLaMA Factory + MySQL + Redis +
Kafka + ElasticSearch + XXLJob + Docker/K8s + 云厂商 GPU 实例
声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!

下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论