该模型为原DeepSeek-R1-Distill-Qwen-1.5B蒸馏模型转换后的ONNX模型，该模型支持OP14及OP14以上ONNX框架进行部署，可用于适配到不同端侧硬件平台例如：Qualcomm，Atlas，CNStream等，该模型，最大生成长度被设置为32,768个令牌。对于需要采样的基准测试，使用0.6的温度值、0.95的top-p值，并且每条查询生成64个响应来估计pass@1，如需要模型源码文件及部署推理代码请联系我！声明：本文仅代表作者观点，不代表本站立场。如果侵犯到您的合法权益，请联系我们删除侵权资源！如果遇到资源链接失效，请您通过评论或工单的方式通知管理员。未经允许，不得转载，本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态
评论