使用 Ollama 运行模型 SDK下载 Git下载 如果您是本模型的贡献者,我们邀请您根据模型贡献文档,及时完善模型卡片内容。Llama3-8B-Chiese-Chat GGUF格式量化模型(Q4KM, Q5KM)
# 将模型导入 ollama
ollama create Llama3-8B-Chiese-Chat-Q4_K_M -f ./Modelfile
# 运行模型
ollama ru Llama3-8B-Chiese-Chat-Q4_K_M
#安装ModelScope
pip istall modelscope
#SDK模型下载
from modelscope import sapshot_dowload
model_dir = sapshot_dowload('BriaZhou/Llama3-8B-Chiese-Chat-GGUF')
#Git模型下载
git cloe https://www.modelscope.c/BriaZhou/Llama3-8B-Chiese-Chat-GGUF.git
点击空白处退出提示







评论