客户企业客服、发票、日程、知识问答等运营场景分散在多个系统,响应慢、人力成本高。
点击空白处退出提示
客户企业客服、发票、日程、知识问答等运营场景分散在多个系统,响应慢、人力成本高。
以私有化大模型 + LangGraph 多智能体为引擎,围绕发票申请、客签资料导入、系统客服、开发知识库四类高频场景, 把业务系统周边的“手工、线下、散落”流程,改造成“对话式、可追溯、7×24”的智能流程。
① 我负责的具体任务:作为技术负责人主导全案架构设计与核心开发——完成 8 个智能体模块(智能客服、发票助手、日程管理、知识库问答、多模态理解、实时语音等)的统一编排与实现;搭建数据接入链路,对接企业多业务系统数据源并完成清洗入库;负责大模型选型、微调接入与私有化部署;统筹 Docker 容器化打包与上线交付。
② 技术栈与架构:Python + FastAPI 构建统一服务端;LangChain 完成 Agent 编排与工具调用;Milvus 向量库支撑知识检索;Hugging Face + PyTorch 完成开源模型微调与推理;ONNX 做推理加速;整体采用"数据层—模型层—Agent 编排层—应用层"四层架构,Docker 容器化交付,支持本地私有化部署。
③ 亮点与难点:亮点是 8 个模块同入口统一编排、多模态与实时语音能力集成、全链路私有化交付;难点在于多智能体间的意图路由与上下文协同、语音实时响应延迟控制、以及客户私有化环境下的模型资源适配与性能调优,最终实现 7×24 自动承接、响应





评论