Windows下通过Ollama部署使用本地模型
下载Ollama
安装主程序
Ollama下载exe,直接下一步下一步没有设置可以更改
windows默认安装路径在C盘
安装后会自动将该路径加入环境变量
双击图标运行后状态栏会出现小图标,右键有退出、打开日志文件夹按钮
通过ollama文件夹cmd进入dos窗口
命令行使用ollama 打开终端,输入 ollama -h,查看到所有的命令
输入ollama -v
查看当前版本,能输出版本则安装成功
修改模型下载路径
添加系统变量修改模型默认下载路径
变量名:OLLAMA_MODELS
运行模型单行对话
拉取并运行llama2模型ollama run llama2
直接输入该命令会检查目录下是否有该模型,没有会自动下载,下载好后自动运行该模型
其他模型见library (ollama.com)
https://www.cnblogs.com/WilliamB/p/18069441