参考:
https://www.zhihu.com/question/640579563/answer/3562899008
https://github.com/ollama/ollama/blob/main/docs/modelfile.md
gguf格式介绍:
https://www.datalearner.com/blog/1051705718835586
1、ollama 模型国内加速下载
ollama主要的模型文件格式是gguf,可以在modelscope或huggingface上下载
huggingface:
export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom-560m --cache-dir bloom-560m
2、下载gguf模型加载使用
1)查看Modelfile格式
ollama show qwen:14b --modelfile
2)创建自己下载模型自定义的mf文件&#x