本项目面向 RoboMaster 机器人对抗、智能机器人及计算机视觉应用场景,主要解决机器人在高速运动和复杂比赛环境下无法稳定、快速完成目标识别与自动瞄准的问题。系统通过工业相机实时采集比赛场景图像,结合深度学习与传统计算机视觉算法完成敌方装甲目标检测、识别与跟踪,并通过空间几何解算、姿态估计和运动预测计算目标位置,为云台控制和自动瞄准提供实时、准确的目标信息。
点击空白处退出提示
本项目面向 RoboMaster 机器人对抗、智能机器人及计算机视觉应用场景,主要解决机器人在高速运动和复杂比赛环境下无法稳定、快速完成目标识别与自动瞄准的问题。系统通过工业相机实时采集比赛场景图像,结合深度学习与传统计算机视觉算法完成敌方装甲目标检测、识别与跟踪,并通过空间几何解算、姿态估计和运动预测计算目标位置,为云台控制和自动瞄准提供实时、准确的目标信息。
系统主要包含 Hikvision 工业相机图像采集、YOLO 目标检测、传统灯条与装甲板识别、目标匹配与筛选、目标跟踪、PnP 位姿解算、坐标系转换、四元数与旋转矩阵处理、EKF/Kalman 状态估计、运动目标预测、弹道解算以及云台控制通信等功能模块。系统能够根据实时图像检测目标装甲板,结合机器人自身姿态和目标运动状态计算目标在空间坐标系中的位置,并通过滤波与预测算法降低视觉噪声和检测抖动,最终通过串口向下位机输出云台控制信息,实现高速、连续的自动瞄准。
我主要负责自瞄系统核心视觉算法与软件工程实现,包括 Hikvision 相机图像采集、YOLO 检测、传统灯条/装甲板检测、目标匹配与跟踪、PnP 位姿解算、坐标系转换、四元数与旋转矩阵计算、EKF/Kalman 滤波以及运动目标预测,并负责视觉模块与下位机之间的串口通信和系统联调。项目主要采用 C++、OpenCV、YOLO、ROS2 等技术,采用模块化架构组织图像采集、目标检测、目标跟踪、状态估计、坐标解算和控制通信模块。项目难点主要在于保证高速运动场景下的实时性与稳定性,以及解决视觉噪声、目标短暂丢失、机器人自身运动和多坐标系转换带来的误差。通过深度学习检测与传统视觉算法结合,并使用 EKF/Kalman 滤波进行状态估计和预测,提高了系统在复杂动态环境下的目标跟踪和自动瞄准能力。



评论