目前的嵌入式算法开发中，针对不同芯片平台进行模型量化是模型工程化必不可少的一部分。一般的方式是算法开发人员自己搭建量化环境进行量化，这种方式需要每个算法开发都搭建一套自己的环境，需要熟悉不同的量化工具，而且需要手动量化。本项目试图通过模型量化服务，可免去算法工程师自己搭建各种芯片的量化环境，而只需要在服务所在的机器上配置好相关的量化工具链即可。算法工程师只要按规则通过Web将模型上传至指定位置，服务将根据配置自动为其量化，并将量化后模型上传至指定位置。当前支持RKNN芯片，可扩展至其他平台。
配置安装miio,可参考官网：https://docs.mi.io/，或直接通过以下命令进行docker安装：sudodockerru-p9003:9000--amemiio\-d--restart=always\-e"MINIO_ACCESS_KEY=admi"\-e"MINIO_SECRET_KEY=123@abc.com"\-v/fs_79/model_zoo:/data\#模型位置-v/fs_79/model_zoo/cofig:/root/.miio\#miio配置存储路径miio/miio:RELEASE.2021-04-06T23-11-00Z.hotfix.e46577116server/datamiio是一个对象存储服务，可以帮助我们管理模型文件，并且提供了Web和S3API便于操作。上述命令将在本机开启一个服务，用户上传的数据在本地的/fs_79/model_zoo中，访问方式为 https://ip:9003 2.安装rk量化工具包项目文件说明syc_server.py定时将miio上的文件同步至本地目录model_repo_moitor.py监控模型目录，如果发现有模型需要转换，添加到任务队列rk_quat.py进行rk量化，并上传日志和转换后的模型到miiologger.py日志相关cofig.py读取配置信息repo_uploader.py上传文件到miio仓库commo_utils.py其他如何使用首先开启syc_server.py进行miio仓库和本地目录的同步设置cofig.py的信息，主要是miio仓库的账号信息pythomai.py--repo-dirlocal_path开启服务访问 https://ip:9003 上传模型至miio，目录结构应为：ModelName/ModelVersio/rk,在此目录下放置原始模型，covert_cofig.jso（量化配置文件）以及quat_imgs(量化图片目录)
点击空白处退出提示
评论