1. 项目目的:保证生产线多模型推理,具有高效率,低资源占用优势; 2. 项目模块:Triton_Inference_Server服务端模块、客户端调用模块; 3. 项目难点:服务框架部署、客户端框架搭建; 4. 担任角色:项目的设计开发者,维护者;
评论