Phi-3-mini-4k-instruct_fp16

我要开发同款
匿名用户2024年07月31日
90阅读

技术信息

开源地址
https://modelscope.cn/models/AI-ModelScope/Phi-3-mini-4k-instruct_fp16
授权协议
mit

作品详情

Phi-3 Mii-4K-Istruct ONNX model for oxrutime-web

This is the same models as the official phi3 ox model with a few chages to make it work for oxrutime-web:

  1. the model is fp16 with it4 block quatizatio for weights
  2. the 'logits' output is fp32
  3. the model uses MHA istead of GQA
  4. ox ad exteral data file eed to stay below 2GB to be cacheable i chromium

功能介绍

Phi-3 Mini-4K-Instruct ONNX model for onnxruntime-web This is the same models as the official phi3 o

声明:本文仅代表作者观点,不代表本站立场。如果侵犯到您的合法权益,请联系我们删除侵权资源!如果遇到资源链接失效,请您通过评论或工单的方式通知管理员。未经允许,不得转载,本站所有资源文章禁止商业使用运营!
下载安装【程序员客栈】APP
实时对接需求、及时收发消息、丰富的开放项目需求、随时随地查看项目状态

评论