本项目面向金融科技场景下的大模型 / Agent 应用落地。业务侧 Agent 链路长、调用多、结果难复盘,缺少统一的观测与评测手段。项目建设 AgentOPS 平台,解决「调用黑盒、质量难量化、多团队协作权限不清」等问题,支撑智能客服、投研助手、办公 Agent 等场景的可观测、可评测与可运营。
点击空白处退出提示
本项目面向金融科技场景下的大模型 / Agent 应用落地。业务侧 Agent 链路长、调用多、结果难复盘,缺少统一的观测与评测手段。项目建设 AgentOPS 平台,解决「调用黑盒、质量难量化、多团队协作权限不清」等问题,支撑智能客服、投研助手、办公 Agent 等场景的可观测、可评测与可运营。
平台主要能力包括:1)链路观测:基于 OTLP 接入 Trace/Session,支持排查与分析;2)数据集与实验:从观测数据构建评测集,开展对比实验;3)Agent 评测:配置评测任务与对象,跟踪任务状态与结果;4)对象与空间管理:按空间隔离项目与资源,支持角色权限;5)AI 提供商:对接私有化 OpenAI 兼容大模型;6)统一认证:集成广发通登录;7)运维部署:Docker Compose 离线镜像与生产配置,便于内网部署。
负责在开源 Phoenix 底座上完成 AgentOPS 定制与交付:前端(React/TypeScript/Vite)列表与表单体验、i18n ;后端(Python/FastAPI)观测转数据集、评测与空间权限等 API;认证与私有化 LLM 接入;Docker 镜像构建、Compose 部署及 Nginx/HTTPS 对接广发通回调。难点在内网构建网络受限、静态资源与后端同镜交付,以及 OAuth 回调与反代协议头一致性



评论