本项目面向自研 Evas E200 AI 芯片评测场景,解决 NPU 算子、大模型推理在多卡集群下的精度、兼容性、性能回归验证问题。在大模型落地业务背景中,芯片迭代、编译器版本变更容易引发算子崩溃、精度漂移、CCL 通信异常,缺少自动化持续验证流水线,版本回归测试成本高、漏测风险大,需要搭建一套自动化 CI 评测平台,保障芯片软件栈迭代质量
点击空白处退出提示
本项目面向自研 Evas E200 AI 芯片评测场景,解决 NPU 算子、大模型推理在多卡集群下的精度、兼容性、性能回归验证问题。在大模型落地业务背景中,芯片迭代、编译器版本变更容易引发算子崩溃、精度漂移、CCL 通信异常,缺少自动化持续验证流水线,版本回归测试成本高、漏测风险大,需要搭建一套自动化 CI 评测平台,保障芯片软件栈迭代质量
项目包含集群资源调度、算子单测套件、大模型推理评测、精度对比、性能压测、结果报表、邮件告警七大模块。支持 vLLM、MoE、Qwen、YOLOv8 等主流模型在 ACE 编译器、ONNX-EPU Runtime 上批量跑测;自动计算 CosSim、ATOL/RTOL 精度指标,采集吞吐、时延、带宽数据,自动识别算子异常、通信报错,汇总测试报告并推送,替代大量人工复测,实现版本提交后自动触发回归验证。
本人负责整套 Jenkins Pipeline 流程开发、Shell/Python 自动化脚本编写、多卡集群 CCL 通信测试用例开发,负责算子崩溃、精度不匹配、NCCL 链路问题定位排查。技术栈:Jenkins Groovy、Python、Shell、Linux,对接 Unirun 测试框架;亮点:多任务并行调度、自动基线对比、异常日志提取;难点:多卡同步时序、MoE 路由算子稳定性、跨版本精度基线对齐。



评论