1,医疗健康领域,AI 中台
2,负责知识库落地,模型智能路由,Agent工作流编排,大模型接入管理等
点击空白处退出提示
1,医疗健康领域,AI 中台
2,负责知识库落地,模型智能路由,Agent工作流编排,大模型接入管理等
自研企业级 AI 基础设施平台,提供知识库管理、意图识别、模型路由、Agent 工作流编排与微服务治理能力。基于 Java 17 + Spring Cloud Alibaba 微服务架构,深度集成 LangChain4j、LangGraph4j,降低企业 AI 应用开发门槛与运维成本。
技术架构:
• 六大层次:接入层→ 网关层→ 智能调度层→ 工作流编排层→ AI Agent层→ 基础设施层
• 技术栈:Java 17、Spring Cloud Alibaba、LangChain4j、LangGraph4j、MySQL+pgvector、Milvus、Redis、RocketMQ、Docker+Kubernetes、Jenkins、Tika,SkyWalking+Prometheus+Grafana。
功能模块:
• 知识库管理:多格式文档在线解析(Tika)、父子分块策略、QA 对自动生成,向量化后统一存储至 Milvus,为上层应用提供标准化知识数据。
• 智能调度中心:树形意图识别(多级分类、上下文继承),多模型路由(按成本/延迟/能力动态选择),自动降级容错,模型健康检查。
• Agent 任务编排:拖拽式工作流设计器,统一工具注册中心,支持循环、分支、并行节点及版本管理;底层实现 Planner-Executor-Replanner 三阶段状态机,支持长任务中断恢复与人工介入。
• 微服务治理:Nacos 服务注册/配置、Sentinel 熔断降级、SkyWalking 全链路追踪、ELK 日志、Prometheus+Grafana 监控。
个人职责与核心贡献:
• 架构设计:主导平台整体架构与技术选型,输出业务架构图、部署图及核心流程时序图,制定模块间 API 契约与数据流转规范。
• 智能调度中心:开发树形意图识别器(规则+轻量模型融合),设计多模型路由器(OpenAI、通义、Ollama),实现动态路由与自动降级。构建三级缓存(Caffeine+Redis+布隆过滤器),配合异步健康检查,路由决策平均耗时 150ms → 8ms,缓存命中率 92%,模型降级切换




评论