文章来源:Windows 部署文档 -- Ollama 中文文档|Ollama官方文档
Ollama Windows
欢迎使用 Ollama for Windows。
不再需要 WSL!
Ollama 现在作为本机 Windows 应用程序运行,包括 NVIDIA 和 AMD Radeon GPU 支持。 安装 Ollama for Windows 后,Ollama 将在后台运行,并且 这ollama
命令行在cmd
,powershell
或您的最爱 终端应用程序。像往常一样,Ollama api 将在http://localhost:11434
.
系统要求
- Windows 10 22H2 或更高版本、家庭版或专业版
- NVIDIA 452.39 或更高版本的驱动程序(如果您有 NVIDIA 卡)
- AMD Radeon 驱动程序 Drivers and Support for Processors and Graphics 您是否有 Radeon 卡
Ollama 使用 unicode 字符进行进度指示,在 Windows 10 中,这些字符可能会在某些较旧的终端字体中呈现为未知方块。如果您看到此内容,请尝试更改终端字体设置。
文件系统要求
Ollama 安装不需要 Administrator,默认情况下安装在您的主目录中。您至少需要 4GB 的空间来进行二进制安装。安装 Ollama 后,您将需要额外的空间来存储大型语言模型,其大小可能为数十到数百 GB。如果您的主目录没有足够的空间,您可以更改二进制文件的安装位置和模型的存储位置。
更改安装位置
要将 Ollama 应用程序安装在主目录以外的位置,请使用以下标志启动安装程序
OllamaSetup.exe /DIR="d:\some\location"
更改模型位置
要更改 Ollama 存储下载模型的位置而不是使用您的主目录,请设置环境变量OLLAMA_MODELS
在您的用户帐户中。
-
启动设置 (Windows 11) 或控制面板 (Windows 10) 应用程序并搜索环境变量。
-
单击 Edit environment variables(编辑您账户的环境变量)。
-
为您的用户帐户编辑或创建新变量
OLLAMA_MODELS
您希望存储模型的位置 -
单击 确定/应用 保存。
如果 Ollama 已在运行,请退出托盘应用程序并从 Start 菜单重新启动它,或者在保存环境变量后启动新终端。
API 访问
这是一个快速示例,显示了 API 访问powershell
(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json
故障 排除
Windows 上的 Ollama 将文件存储在几个不同的位置。您可以在 通过点击 资源管理器 窗口<Ctrl>+R
并输入:
explorer %LOCALAPPDATA%\Ollama
包含日志和下载的更新- app.log 包含来自 GUI 应用程序的大多数重新发送的日志
- server.log 包含最新的服务器日志
- upgrade.log 包含升级的日志输出
explorer %LOCALAPPDATA%\Programs\Ollama
包含二进制文件(安装程序将此添加到您的用户 PATH)explorer %HOMEPATH%\.ollama
包含模型和配置explorer %TEMP%
在一个或多个ollama*
目录
卸载
Ollama Windows 安装程序注册一个卸载程序应用程序。下Add or remove programs
在 Windows 设置中,您可以卸载 Ollama。
[!注意] 如果您更改了OLLAMA_MODELS位置,安装程序将不会删除您下载的模型
独立 CLI
在 Windows 上安装 Ollama 的最简单方法是使用OllamaSetup.exe
安装。它安装在您的帐户中,不需要管理员权限。 我们会定期更新 Ollama 以支持最新模型,此安装程序将 帮助您了解最新情况。
如果您想将 Ollama 安装或集成为一项服务,可以使用独立的ollama-windows-amd64.zip
zip 文件仅包含 Ollama CLI 以及 Nvidia 和 AMD 的 GPU 库依赖项。这允许嵌入 Ollama 的 Pod 中,或者通过ollama serve
使用 NSSM 等工具。
[!NOTE]
如果要从以前的版本升级,则应先删除旧目录。
文章来源:Windows 部署文档 -- Ollama 中文文档|Ollama官方文档