基于 RK3588 NPU 的边缘端 YOLO 实时数字识别系统产品系统

在工业制造、智能巡检以及物流仓储中，传统基于云端的 AI 识别方案存在网络依赖强、高延迟、隐私泄露以及带宽成本高昂等痛点。本项目基于 RK3588 边缘计算平台（6 TOPS 算力），打造了一套完全离线、低功耗、高实时性的数字识别系统。可广泛应用于：电表/水表仪表盘自动抄表、物流集装箱编号识别、工业产线产品流水号读取、智能门禁票据识别等场景。系统无需联网即可在本地完成毫秒级的视觉分析与检测，极大地降低了部署成本和响应延迟。

实时视频流采集与处理：支持 MIPI/USB 摄像头接入，实现高清视频流的毫秒级抓拍与处理。

多目标数字精准识别：基于 YOLO 系列算法（支持 YOLOv5/v8），能在复杂背景下同时精准检测并识别 0-9 多个数字目标。

Android 可视化交互端：提供完整的 Android APK，支持实时预览画面、绘制检测框、显示 FPS 以及分类结果。

Linux 无头边缘计算方案：提供基于 C++ 的高性能命令行推理 Demo，方便集成到工业网关、ROS 机器人等无桌面环境。

系统稳定性保障：内置帧间平滑（IoU+EMA）算法，有效消除画面闪烁与漏检；支持 UI 异步降频，防止频繁渲染导致的内存溢出（OOM）。

我负责的具体任务：全栈独立开发。涵盖数据集构建与模型训练、模型格式转换与 INT8 量化、C++ 底层推理代码重构、JNI 跨语言接口编写以及 Android UI 联调。
使用技术栈：RKNN-Toolkit2、YOLOv5/v8、OpenCV、RGA 硬件加速、Android NDK/JNI、多线程并发队列。
实现亮点与难点：

极限性能优化：针对 CPU 预处理耗时过长的问题，引入 RK3588 的 RGA 硬件模块进行颜色空间转换（NV21->RGB）与缩放（Letterbox），结合 NPU 异步推理，将端到端帧率稳定在 14~30 FPS。

INT8 量化防掉精度：攻克了 YOLO 模型在 INT8 量化时常见的精度坍塌问题。通过精细挑选 200+ 张包含负样本的校准集，并进行逐层余弦相似度误差分析，最终量化模型相似度达 0.996+，完美匹配浮点模型效果。

内存与渲染防抖：解决了安卓端高频渲染导致的卡死崩溃问题。实现底层 Buffer 循环复用，并在 UI 层设计“异步降频与帧间 IoU 匹配”机制，既保证了画面流畅度，又彻底避免了 OOM 隐患。