一、离线安装包下载地址
直接下载地址:
https://github.com/ollama/ollama/releases/tag/v0.5.12
网络爬取地址:
MacOS https://ollama.com/download/Ollama-darwin.zip
Linux curl -fsSL https://ollama.com/install.sh | sh
Windows https://ollama.com/download/OllamaSetup.exe
Github https://hub.nuaa.cf/ollama/ollama/releases
二、下载
可以直接从github上下载安装包,然后传到Linux中进行解压即可,解压之后移动到/usr/bin/ollama
解压:tar -zxvf ollama-linux-amd64.tgz -C /usr/bin
移动:mv /home/usr/desktop/ollama-linux-amd64.run /usr/bin/ollama(移动到/usr/bin下且重命名为ollama)
或使用下载命令: wget https://hub.nuaa.cf/ollama/ollama/releases/download/v0.1.32/ollama-linux-amd64 -O /usr/bin/ollama
权限授予命令: sudo chmod +x /usr/bin/ollama
三、创建Ollama用户
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
四、 赋予 ollama 用户执行权限
sudo chown ollama:ollama /usr/bin/ollama
sudo chmod 755 /usr/bin/ollama
五、查模型存储目录权限
创建存储目录并赋予权限
sudo mkdir -p /home/ollama/.ollama/models
sudo chown -R ollama:ollama /home/ollama/.ollama/models
sudo chmod 755 /home/ollama/.ollama/models
sudo chown -R ollama:ollama /home/ollama/.ollama
sudo chmod 755 /home/ollama/.ollama
六、配置systemd服务创建服务文件
sudo vim /etc/systemd/system/ollama.service
把以下内容填入服务文件中:
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_MODELS=/home/ollama/.ollama/models"
[Install]
WantedBy=default.target
七、启动服务
# 重新加载服务配置
sudo systemctl daemon-reload
# 开机自启动
sudo systemctl enable ollama
# 立刻启动
sudo systemctl start ollama
# 重启服务
sudo systemctl restart ollama
#检查服务状态
systemctl status ollama
八、下载模型
ollama run qwq