面向大型金融企业的AI智能体统一管理与治理平台,解决企业内部多个AI服务平台分散、接口不统一、运维复杂的痛点。企业在引入Dify、阿里云百炼、字节豆包等多个异构AI平台后,面临智能体分散管理、对话体验不一致、质量无法评测、审计缺失等问题。本平台提供统一的智能体市场、对话界面、质量评测、审计追踪与运维监控能力,支撑全公司10+数字员工的日常运营。
点击空白处退出提示
面向大型金融企业的AI智能体统一管理与治理平台,解决企业内部多个AI服务平台分散、接口不统一、运维复杂的痛点。企业在引入Dify、阿里云百炼、字节豆包等多个异构AI平台后,面临智能体分散管理、对话体验不一致、质量无法评测、审计缺失等问题。本平台提供统一的智能体市场、对话界面、质量评测、审计追踪与运维监控能力,支撑全公司10+数字员工的日常运营。
核心功能模块:
1. 数字员工广场与统一问答界面:支持SSE流式输出、多轮对话、历史会话管理,用户通过一个入口访问所有AI能力。
2. 异构AI平台统一接入:策略工厂模式实现Dify/阿里云百炼/字节豆包/自注册服务/Mock五种策略可插拔切换。
3. 云原生网关深度集成:基于Higress(Envoy)实现JWT统一认证、多级限流(全局/用户/IP/端点)、差异化熔断、自研3个Go Wasm插件(Token提取/PII脱敏/AI统计),编译产物仅5.5MB。
4. 十级插件管线 + 确定性校验链(Hooks Chain):将LLM概率输出转化为金融级可靠输出。
5. 四层审计体系:L1访问/L2内容/L3决策/L4业务,结合ClickHouse实现实时分析。
6. LLM-as-Judge AI质量评测:Golden Set回归测试、在线自动评测、漂移检测(24h vs 7天基线)、幻觉检测。
7. RBAC四角色权限与PII二级脱敏安全体系,系统性覆盖OWASP Agentic AI Top 10。
技术架构:SOFABoot 3.x + Vue 3 + Higress AI原生网关 + Go Wasm插件 + MySQL 8.0 + ClickHouse + Redis + RocketMQ,9个微服务部署于云原生K8s集群。
作为架构负责人主导整个平台从0到1的设计与落地。主导9个微服务架构设计(auth/agent/chat/operation/monitor/feedback/openapi/agent-registry/analytics),抽取8个公共模块统一基础设施。设计并实现SSE实时流式对话引擎,策略模式支持多AI平台可插拔接入。自研3个Go Wasm网关插件实现网关级AI指标实时采集。设计三层审计管线实现对主链路零性能影响。完成内网离线环境全量部署,编写自动化脚本一键灌入种子数据。项目规模:11万+行代码、254个REST API端点、320+测试文件。本项目获得公司2026年创新大赛二等奖。







评论