油菜制种田中的异形株会与亲本杂交，造成子代种子不纯，降低育种质量。异形株识别过程分为油菜植株位置检测与属性验证两部分，本研究提出改进YOLOv5与Facenet实现异形株自动识别。油菜植株检测过程，引入Transformer block替换部分YOLOv5模型中的CSP_X模块，提高模型下采样过程中对油菜关键信息的提取；采用采用深度可分离卷积代替普通卷积，减低transformer block带来的计算量大的问题。植株属性验证过程，引入人脸识别算法Facenet，将YOLOv5检测到的植株通过Facenet网络映射到128维特征向量，与数据库中的亲本特征向量计算相似度，判定油菜植株是否属于异形株；将原有的Inception网络替换为Mobilenetv2网络，提高模型的推理速度。试验结果表用改进yolov5模型的油菜植株检测平均准确率97.7%，异形株识别准确率维84.2%。该方法解决了不需要预知异形株品种，只需要采集亲本数据进行训练，为油菜制种田异形株识别提供了新的思路。