项目专门给 embeddings.cpp 做的二进制模型使用
项目地址： https://github.com/xyzhang626/embeddings.cpp
模型制作方法：
git clone --recursive https://github.com/xyzhang626/embeddings.cpp.git
cd embeddings.cpp
mkdir build
cd build
cmake .. -DBUILD_SHARED_LIBS=OFF -DCMAKE_BUILD_TYPE=Release
make
cd models
python download-repo.py BAAI/bge-base-zh-v1.5
sh run_conversions.sh bge-base-zh-v1.5
# 运行main
cd ..
./build/bin/main -m ./models/bge-base-zh-v1.5/ggml-model-q4_0.bin
评论