1、负责浦发银行智能识别项目开发,其中包括意图识别、实体识别、实体标准化、模型压缩、模型加速、模型部署。
2、在难度较高的意图识别模块,利用层次标签分类和投票模型进行优化。
3、在实体标准化模块,利用tire树优化的正则匹配。
4、在模型压缩部分,在保证分类精度的情况下,用量化压缩模型大小为原来的1/4。
5、完成私有化docker部署,用onnxruntime加速模型,接口请求平均响应时间50ms。线上性能 稳定性指标:tps40+,单进程内存稳定在200M左右。cpu利用率稳定在75%。
点击空白处退出提示
评论