目录
一、本地部署&终端命令行交互
二、网页端交互
三、参考链接
一、本地部署&终端命令行交互
Ollama 是一个轻量级的大语言模型管理工具,支持 Windows / Mac / Linux。
Ollama官网:Ollama
# 下载安装ollama
curl -fsSL https://ollama.com/install.sh | sh
# 查看ollama版本
olloama --version
# 查看本地所有可用模型
ollama list
# 下载安装模型
ollama pull deepseek-r1:7b
# 在终端运行模型
ollama run deepseek-r1:7b
# 退出对话
/bye
二、网页端交互
Open WebUI是一个可扩展、功能丰富、用户友好的自托管AI平台,旨在完全离线运行。它支持各种LLM运行程序,如Ollama和OpenAI兼容的API,内置RAG推理引擎,使其成为一个强大的AI部署解决方案。
Open WebUI官网:🏡 Home | Open WebUI
(1) 安装Open WebUI
# 使用pip进行安装
pip install open-webui
# 启动服务
open-webui serve
(2)启动服务后,打开github链接
(3) 找到并打开链接,注册登录
注:第一次使用需要注册用户名、邮件以及密码,这都是存在本地的,可以放心填写。注册完毕后,自动认出本地安装的deepseek r1大模型
三、参考链接
如何本地部署DeepSeek?DeepThink R1 本地部署全攻略:零基础小白指南。-CSDN博客
全平台制霸!零门槛在本地解锁DeepSeek R1:Ollama+OpenWebUI终极部署手册_deepseek镜像-CSDN博客
DeepSeek R1 简易指南:架构、本地部署和硬件要求-CSDN博客
为大模型提供webui界面的利器:Open WebUI 完全本地离线部署deepseek r1_openwebui-CSDN博客