Android端侧AI推理系统产品系统

针对移动端隐私保护与弱网依赖的痛点，立项研发全离线的端侧AI推理系统。旨在解决传统云端方案对网络依赖高、响应慢、隐私易泄露的问题，广泛应用于对安全性要求高的政务App、门禁身份核验、智能设备语音控制等离线场景。

项目包含人脸认证与离线语音交互两大核心功能模块。通过NCNN推理框架实现毫秒级离线人脸检测与特征提取，完成本地身份验证；通过ONNX Runtime/NCNN构建移动端推理引擎，打通音频采集、唤醒识别、VAD检测及TTS语音合成的全离线链路，支持语音指令控制应用业务功能。系统完全本地闭环运行，保障数据安全。

我主要负责Android端侧AI模型的离线部署与集成。利用JNI/NDK封装Native推理核心，完成模型量化压缩与移植。针对算力与功耗瓶颈，优化了模型输入尺寸与批次策略，大幅降低内存占用与CPU负载，保障了多模块在后台长时间的运行稳定性。同时结合RK3588 Linux部署经验，实现了边缘端与移动端（Android/鸿蒙）的双平台能力复用。