为优化算法工程师对训练服务进行在线调试和构建流程,现设计镜像交互式的建模方案用于提供数据,由算法提供者自己提供,算法代码去实现相应逻辑。训练完成之后,能保留训练后的模型文件,或者环境准备之后的算法镜像,用于模型的推理。
点击空白处退出提示
为优化算法工程师对训练服务进行在线调试和构建流程,现设计镜像交互式的建模方案用于提供数据,由算法提供者自己提供,算法代码去实现相应逻辑。训练完成之后,能保留训练后的模型文件,或者环境准备之后的算法镜像,用于模型的推理。
1. 交互式建模:交互式建模任务增删改查、交互式建模任务监控、交互式建模任务启动和停止、web shell 页面交互(命令行式交
互)、vscode 页面交互、jupyter页面交互、训练容器导入数据集、自定义上传的数据集、训练容器模型文件导出到对象存储、在
线制作训练镜像保存训练快照、交互式建模cpu显卡npu gpu资源选择、使用共享持久卷PVC、主机目录挂载。
2. 数据集管理:同步标注平台数据集到对象存储、数据集私有化及审批、删除数据集、数据集过期自动清理。
3. 训练结果管理:训练结果列表查询和删除、训练结果共享至模型文件。
4. 镜像管理:镜像上传和跨集群同步、交互式建模commit的镜像快照推送到推理中控harbor。
5. UAP集成:账号体系纳入苍穹AI平台
6.推理平台集成:使用训练后的模型文件进行推理
技术栈: SpringBoot+MySQL+VUE+Redis+Pitaya+K8s等
责任描述:
本人主导开发交互式建模任务增删改查、交互式建模任务启动和停止、web shell 页面交互(命令行式交互)、训练容器导入数据
集、自定义上传的数据集等,bug的修改、后期功能的增加和修改等等。后台系统采用springboot技术,前端基于vue技术开发实
现。
挑战:项目基于K8s+Docker做交互式建模,支持 WebShell、VSCode、Jupyter 在线交互,涉及 GPU/NPU 资源调度、PVC 持久卷、镜像快照、模型导出,容器易崩溃、资源争抢、在线交互中断。
解决:
优化 K8s 资源限制与亲和性调度,避免节点过载;
容器健康检查 + 自动重启,保证在线交互稳定;




评论