【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面

【清晰教程】本地部署DeepSeek-r1模型-CSDN博客

目录

安装Docker

配置&检查

Open WebUI

部署Open WebUI


安装Docker

完成本地DeepSeek-r1的部署后【清晰教程】本地部署DeepSeek-r1模型-CSDN博客,通过Docker为本地DeepSeek-r1部署WebUI界面。

访问Docker官网 

Docker: Accelerated Container Application Developmenthttps://www.docker.com/https://www.docker.com/https://www.docker.com/https://www.docker.com/icon-default.png?t=O83Ahttps://www.docker.com/

选择合适的版本进行下载安装

 按照默认情况安装即可

打开命令行,键入docker,如显示以下信息说明Docker安装成功

配置&检查

安装完成后,在“启用或关闭Windows功能中”,启用”适用于Linux的Windows子系统” 、”虚拟机平台”

使用管理员权限打开命令提示符,安装/更新wsl2: 

wsl --set-default-version 2
wsl --update --web-download

安装/更新wsl2后重启电脑,进入Docker

选择跳过登录直接进入Continue without signing in 

左下角Engine running说明一切正常,可以进行图形化界面的部署

Open WebUI

Open WebUI 是一个开源的、功能丰富的自托管 Web 用户界面,专为与大型语言模型(LLMs)交互而设计,与chatgpt界面相似。它支持完全离线运行,兼容多种 LLM 运行器,如 Ollama 和 OpenAI API,并提供直观的聊天界面。其功能强大,支持 Markdown 和 LaTeX、本地 RAG 集成、多语言、多模型对话、网络搜索和图像生成集成,还具备语音和视频通话功能,满足多样化需求。

Open WebUI 的部署方式灵活,支持通过 Docker 或 Kubernetes 快速安装,界面响应式设计适配桌面和移动设备。它为开发者、研究者和企业提供了便捷的 AI 应用部署和访问方式,尤其适合对数据隐私要求较高的场景,能够快速搭建生成式 AI 应用,具有不错的用户体验。

GitHub - open-webui/open-webui: User-friendly AI Interface (Supports Ollama, OpenAI API, ...)User-friendly AI Interface (Supports Ollama, OpenAI API, ...) - open-webui/open-webuihttps://github.com/open-webui/open-webuihttps://github.com/open-webui/open-webuiicon-default.png?t=O83Ahttps://github.com/open-webui/open-webui

部署Open WebUI

通过docker run命令在本地主机进行快速部署

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  •  docker run:用于创建并启动一个新的 Docker 容器。
  • -d:表示以后台模式运行容器,容器在后台运行,不会阻塞终端。
  • -p 3000:8080:将容器内的8080 端口映射到宿主机的 3000 端口。这意味着你可以通过访问宿主机的 3000 端口来访问容器内运行的应用(默认是 Open WebUI 的 Web 界面)。
  • --add-host=host.docker.internal:host-gateway:在容器的 /etc/hosts 文件中添加一个条目,将 host.docker.internal 映射到宿主机的网关地址。这通常用于在容器内部访问宿主机上的服务,确保容器能够与宿主机进行通信。
  • -v open-webui:/app/backend/data:将宿主机上的一个名为 open-webui 的卷(如果不存在则会自动创建)挂载到容器内的 /app/backend/data 目录。这用于持久化存储容器内的数据,例如模型文件、配置文件等,即使容器被删除,数据也不会丢失。
  • --name open-webui:为容器指定一个名称,这里是 open-webui。这样可以通过名称来管理容器,例如使用 docker stop open-webui 来停止容器。
  • --restart always:设置容器的重启策略为“始终重启”。这意味着无论容器因何种原因停止,Docker 都会自动重新启动它。
  • ghcr.io/open-webui/open-webui:main:指定要运行的 Docker 镜像。这里使用的是ghcr.io/open-webui/open-webui 镜像的 main 标签,表示从 GitHub Container Registry 获取最新的主分支版本。

部署完成结果如下

部署完成后,在Docker的Containers中可以看到Open WebUI

复制对应的地址

http://localhost:3000/

进入UI界面,开始使用

创建管理账户,设置账号,邮箱,密码

确认更新消息

随即可在浏览器中使用,进一步可通过cpolar进行内网穿透以供大规模公网访问

部署效果

基于本地部署的 DeepSeek 能提供高度的灵活性和定制化能力,支持多语言、可扩展的插件功能,能够根据用户需求优化性能和配置。此外,本地部署无需支付订阅费用,降低了长期使用成本,同时用户完全自主控制模型运行和数据管理,避免外部服务中断风险。适用于创意写作、企业知识管理、教育研究等多种场景,能够高效利用本地资源,实现高性能和低延迟的交互体验。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/968389.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

八、OSG学习笔记-

前一章节: 七、OSG学习笔记-碰撞检测-CSDN博客https://blog.csdn.net/weixin_36323170/article/details/145558132?spm1001.2014.3001.5501 一、了解OSG图元加载显示流程 本章节代码: OsgStudy/wids CuiQingCheng/OsgStudy - 码云 - 开源中国https:…

[笔记] 汇编杂记(持续更新)

文章目录 前言举例解释函数的序言函数的调用栈数据的传递 总结 前言 举例解释 // Type your code here, or load an example. int square(int num) {return num * num; }int sub(int num1, int num2) {return num1 - num2; }int add(int num1, int num2) {return num1 num2;…

在 Mac ARM 架构上使用 nvm 安装 Node.js 版本 16.20.2

文章目录 1. 安装 nvm(如果还没有安装的话)2. 加载 nvm 配置3. 列出特定系列的 Node.js 版本(远程):4. 安装 Node.js 16.20.25. 使用指定版本的 Node.js6. 验证安装 在 Mac ARM 架构上使用 nvm 安装 Node.js 版本 16.…

物联网水质监测系统设计与实现/基于STM32的水产养殖云监控系统设计

背景 随着物联网技术的飞速发展,各行各业都在逐步实现智能化管理,水质监测系统作为环境监测中的一个重要环节,近年来备受关注。如何高效、精准地监测水质,尤其是在远程无法到达的地方,成为了一个迫切需要解决的问题。…

SAP Smartforms 货币和数量字段设置参考及格式,消息号是SSFCOMPOSER601

SAP Smartforms 货币和数量字段设置参考及格式,消息号是SSFCOMPOSER601 在开发SAP Smartforms 时,会遇到设置打印的货币字段或数量字段在打印预览时无法显示报错(消息号是SSFCOMPOSER601,提示参考字段IS_DATA-GESME在表格中未知&…

Hbuildx开发的小程序,运行到微信开发者工具后,显示空白报错Pages not been registered yet,解决方法

问题描述: Hbuildx开发的小程序,运行到 微信开发者工具后,显示空白 报错Pages not been registered yet 解决方法: 1.检查报错的这个pages页面 ,实际是否存在。 2.路由文件中是否定义了该pages页面。 3.路由文件中…

稀疏计算的软硬件协同:FPGA有力推动硬件发展

稀疏计算协同:FPGA驱动进步 ©作者|wcychuiyuw 来源|神州问学 引言 在当今科技飞速发展的时代,端侧算力的重要性日益凸显,其中 ASIC (专用集成电路) 和 SoC 架构 (System on Chips) 成为端侧算力不可或缺的重要组成部分。它们以其独特的…

Cell子刊《Patterns》最新综述:大语言模型Attention Heads的可解释性研究

自从大语言模型(LLMs)在各种任务中展现出卓越性能以来,其内部机制的解读已经成为领域内的热门话题。尽管许多研究人员从各个方面做出了尝试并得到了一些结论,但现阶段仍缺乏一个全面的视角来对现有成果进行系统化的归纳与总结。 为…

【Java八股文】01-Java基础面试篇

【Java八股文】01-Java基础面试篇 概念Java特点Java为什么跨平台JVM、JDK、JRE关系 面向对象什么是面向对象,什么是封装继承多态?多态体现的方面面向对象设计原则重载重写的区别抽象类和实体类区别Java抽象类和接口的区别抽象类可以被实例化吗 深拷贝浅拷…

亚信安全正式接入DeepSeek

亚信安全致力于“数据驱动、AI原生”战略,早在2024年5月,推出了“信立方”安全大模型、安全MaaS平台和一系列安全智能体,为网络安全运营、网络安全检测提供AI技术能力。自2024年12月DeepSeek-V3发布以来,亚信安全人工智能实验室利…

Flutter 的 Widget Key 提议大调整?深入聊一聊 Key 的作用

Flutter 的 Widget Key 提议大调整?深入聊一聊 Key 的作用 在 Flutter 里,Key 对象存在的目的主要是区分和维持 Widget 的状态,它是控件在渲染树里的「复用」标识之一,这一点在之前的《深入 Flutter 和 Compose 在 UI 渲染刷新时…

Vulhub靶机 openfire(CVE-2023-32315)(渗透测试详解)

一、开启vulhub环境 docker-compose up -d 启动 docker ps 查看开放的端口 二、访问靶机IP 9090端口 1、利用bp,抓取当前页面的包,并修改get请求如下 /setup/setup-s/%u002e%u002e/%u002e%u002e/user-groups.jsp 获取到JSESSIONID和csrf的值 2、拿到…

LogicFlow自定义节点:矩形、HTML(vue3)

效果: LogicFlow 内部是基于MVVM模式进行开发的,分别使用preact和mobx来处理 view 和 model,所以当我们自定义节点的时候,需要为这个节点定义view和model。 参考官方文档:节点 | LogicFlow 1、自定义矩形节点 custo…

python卷积神经网络人脸识别示例实现详解

目录 一、准备 1)使用pytorch 2)安装pytorch 3)准备训练和测试资源 二、卷积神经网络的基本结构 三、代码实现 1)导入库 2)数据预处理 3)加载数据 4)构建一个卷积神经网络 5&#xff0…

基于Ollama安装deepseek-r1模型搭建本地知识库

大模型 安装Ollama使用win系统安装使用sh脚本安装使用docker安装 下载大模型搭建本地知识库安装Dify对比参数模型 本实验主要使用win系统安装ollama部署deepseek-r1(1.5b、7b、8b、14b、32b等参数)并搭建本地知识库(个人学习研究为主&#xf…

【R语言】t检验

一、基本介绍 t检验(t-test)是用于比较两个样本均值是否存在显著差异的一种统计方法。 t.test()函数的调用格式: t.test(x, yNULL, alternativec("two.sided", "less", "greater"), mu0, pairFALSE, var.eq…

Uniapp 原生组件层级过高问题及解决方案

文章目录 一、引言🏅二、问题描述📌三、问题原因❓四、解决方案💯4.1 使用 cover-view 和 cover-image4.2 使用 subNVue 子窗体4.3 动态隐藏原生组件4.4 使用 v-if 或 v-show 控制组件显示4.5 使用 position: fixed 布局 五、总结&#x1f38…

x_xor_md5

x_xor_md5 打开附件,用010打开 发现有一行值是重复的。 根据题目提示我们把全文与重复行进行异或 str1 [0x01,0x78,0x0C,0x4C,0x10,0x9E,0x32,0x37,0x12,0x0C,0xFB,0xBA,0xCB,0x8F,0x6A,0x53]result[]txt [0x69,0x35,0x41,0x01,0x1C,0x9E,0x75,0x78,0x5D,0x48,0xF…

【C语言标准库函数】标准输入输出函数详解[6]:字符文件读取写入

目录 一、字符文件写入函数 1.1. fputc函数 1.1.1. fputc函数简介 1.1.2. 使用场景 1.1.3. 注意事项 1.1.4. 示例 1.2. fputs函数 1.2.1. fputs函数简介 1.2.2. 使用场景 1.2.3. 注意事项 1.2.4. 示例 二、字符文件读取函数 2.1. fgetc函数 2.1.1. 函数简介 2.1…

基于深度学习的半导体故障诊断与寿命预测算法研究

摘要 半导体产业在现代科技领域占据着核心地位,其设备的稳定性和可靠性至关重要。传统的半导体故障诊断和寿命预测方法存在效率低、准确性差等问题。本文聚焦于深度学习算法在半导体故障诊断与寿命预测方面的应用,详细阐述了卷积神经网络(CN…