专门给fastvllm的模型，转换好的模型。chatglm3-6b-fp16的flm文件，名字命名错

Clone with HTTP

快速下载方法：

 git clone https://www.modelscope.cn/flyiot/fastllm-chatglm2-6b-fp16-flm.git

模型是根据fastllm 的工具生成的。

修改 /fastllm/build/tools/chatglm_export.py 修改模型路径：

import sys
from transformers import AutoTokenizer, AutoModel
from fastllm_pytools import torch2flm

if __name__ == "__main__":
    tokenizer = AutoTokenizer.from_pretrained("/root/autodl-tmp/chatglm3-6b", trust_remote_code=True)
    model = AutoModel.from_pretrained("/root/autodl-tmp/chatglm3-6b", trust_remote_code=True)
    model = model.eval()

...

cd build
python3 tools/chatglm_export.py chatglm2-6b-fp16.flm float16 #导出float16模型

即可生成模型。

具体方法： https://blog.csdn.net/freewebsys/article/details/134816095