视觉AI训练与部署平台产品系统

面向需要训练、评测和部署计算机视觉模型的算法团队。常见问题有:数据集分散、格式不统一;算法、模型和训练参数缺少版本管理;训练环境靠人工搭建;GPU 等资源分配不透明;训练完成后,模型到推理部署之间还要手工衔接。项目的目标是做一个平台,把数据管理、数据处理、算法与模型管理、训练评测推理任务、模型部署、工具和资源管理放在一起,用可视化流程配置任务,任务在容器中运行,团队成员共享资源和成果。

一、项目管理:创建项目,支持分享和生成副本;项目下分训练任务、评测任务、推理任务、预处理和工具收藏。
二、可视化任务编排:训练任务画布,拖拽数据、算法、模型、输出、转换节点并连线,右侧配置参数和命令序列;支持保存草稿和模板,可加载草稿和模板;开始训练时自动创建容器并执行,支持停止训练、结束容器释放资源。
三、任务详情:监控(内存、进度、容器日志)、配置、日志、TensorBoard、结果、终端(可直接操作);结果文件可下载,也可把训练出的 pt 模型添加到"我的模型"。
四、数据管理:数据集上传,支持预览和标注显示、详情、历史记录、分享、下载、合并(可去重、随机打乱);数据处理流程可视化编排,包含数据处理方法和图像自定义操作算子。
五、算法与模型管理:我的算法、算法广场、公共算法,支持版本和训练、评测、推理、预处理能力配置;我的模型、模型广场和模型版本管理。
六、部署管理、工具管理(在线处理、标注等工具)和资源管理(GPU、CPU、内存配额,配额申请,容器和节点资源占用)。

我们团队负责平台的设计、开发和部署。使用 MySQL、Redis 和 Nacos 配置中心;底层运行在 k3s 集群上,GPU 节点通过设备插件调度,镜像放在 Harbor,数据与模型文件存储在 MinIO,JupyterHub 提供在线开发环境,训练任务在容器中运行,训练日志经日志服务汇总,文件预览。训练流程画布把节点和命令序列转换成容器内执行的命令:开始训练时创建容器,通过终端执行并实时回显日志,任务结束后可结束容器释放资源。数据集支持多种标注格式,合并时会检查格式一致性;算法按能力(训练、评测、推理、预处理)分类,任务画布只能选择包含对应能力的算法。资源按用户配额管理,可申请扩容并有审核流程。集群支持离线环境部署。