DeepSeek本地部署并提供远程连接(小白教程)

文章目录

  • 一、DeepSeek介绍
  • 二、为什么要本地部署
  • 三、本地部署教程
    • 1.安装Ollama
    • 2.下载部署DeepSeek模型
    • 3.安装Chatbox可视化工具
    • 4.非局域网远程连接
  • 四、DeepSeek官方开放平台API对接

参考资料：DeepSeek本地搭建部署详细图文教程 - 搬主题

一、DeepSeek介绍

在这里插入图片描述

DeepSeek是一款由国内人工智能公司研发的大型语言模型，拥有强大的自然语言处理能力，能够理解并回答问题，还能辅助写代码、整理资料和解决复杂的数学问题。

与OpenAI开发的ChatGPT相比，DeepSeek不仅率先实现了媲美OpenAI-o1模型的效果，还大幅降低了推理模型的成本。其新模型DeepSeek-R1以十分之一的成本达到了GPT-o1级别的表现，引发海外AI圈的广泛讨论。

二、为什么要本地部署

DeepSeek官网：DeepSeek | 深度求索

目前上DeepSeek官网可以直接免费使用V3、R1等模型，但是由于近期用户量激增，网络不佳以及外网恶意攻击等原因，目前线上服务还不够稳定（2月5号实测），有时候可能会出现如下的报错。

在这里插入图片描述

当然了，本地部署的好处还有更多：

  • 稳定高效：无需担心网络波动问题，本地部署保证模型始终保持正常运作
  • 隐私安全：本地部署能保证数据保存于本地，避免重要数据泄露，保证用户隐私安全
  • 开源自由：用户可根据自身需求进一步改造优化，自定义属于自己的AI工具

三、本地部署教程

相关的安装包我已经上传到网盘，如果官网下载速度较慢，可以直接从网盘下载： 链接: https://pan.baidu.com/s/1MOFsp-3tnBNxGvJYQT_aGw?pwd=nija 提取码: nija

1.安装Ollama

要在本地运行DeepSeek，首先要先安装Ollama，Ollama是一个大语言的服务后台，能够帮助用户在0基础的前提下轻松部署大语言模型。Ollama支持不同系统，如Windows、Linux、MacOS等。

下面我们讲解Windows 11系统下的安装

  1. 安装前需要注意：Windows系统需要在Windows10以上

  2. 下载地址：https://ollama.com

    如下，直接点击 Download 按钮，选择Windows版本下载

在这里插入图片描述

在这里插入图片描述

  1. 下载完后是一个exe文件，直接双击运行，点击install安装即可

  2. 验证

    搜索框搜索cmd，看到命令提示符，点击进入命令行界面，输入ollama help，如果显示如下图的信息，则表示ollama安装成功

在这里插入图片描述

在这里插入图片描述

  1. 配置环境变量，使ollama支持远程连接

    如果你需要用其他设备，如其他电脑或手机去连接我们本地部署的大模型，或者你想分享你本地部署的大模型给其他人用，那就需要配置这一步。

    1. 搜索框搜索 环境变量 ，点击 编辑系统环境变量

在这里插入图片描述

  1. 点击 环境变量

在这里插入图片描述

  1. 找到 XXX的用户变量 ，点击 新建

    新建2个新的变量

    OLLAMA_HOST 值为 0.0.0.0
    OLLAMA_ORIGINS 值为 *

    然后点击 确定

    如下所示

在这里插入图片描述

在这里插入图片描述

2.下载部署DeepSeek模型

在 https://ollama.com/ 网址，搜索框搜索 deepseek-r1

如下图第一个就是我们要下载的大模型
在这里插入图片描述

默认看到的是7b版本的大模型，我们普通用户的电脑配置一般支持下载的就是1.5b和7b的版本，下面是一个模型大小配置参考（参考DeepSeek本地搭建部署详细图文教程 - 搬主题）

在这里插入图片描述

我选择的是部署7b的版本，如下图所示，复制右上角命令，然后到cmd界面运行，耐心等待下载即可

在这里插入图片描述

在这里插入图片描述

下载好后，再次运行刚刚复制的命令，我们可以看到如下的效果

在这里插入图片描述

此时就已经可以与AI对话了，输入问题，如下图

在这里插入图片描述

3.安装Chatbox可视化工具

上面步骤完成后，我们只能使用cmd命令行来使用AI大模型，体验感较差，我们可以下载Chatbox来实现可视化界面

下载地址

https://chatboxai.app/zh

官网下载慢可以直接用上面网盘链接下载，也可以不下载客户端，直接用网页版（手机也有APP，使用方法和PC端的客户端一样）
在这里插入图片描述

配置模型，如下图所示（这是本机使用的配置）

在这里插入图片描述

在这里插入图片描述

手机Chatbox APP连接大模型方法如下所示（关闭电脑防火墙，手机连接同一局域网（wifi））【同一局域网的其他电脑连接方法同理】

在这里插入图片描述

在这里插入图片描述

Chatbox里的api域名填写如下 http:// 加 ip 加端口 :11434

在这里插入图片描述

在这里插入图片描述

4.非局域网远程连接

如果不是同一局域网的也想要连接本地这台机子部署的DeepSeek，比如我们从家里想访问在公司电脑部署的DeepSeek，可以采用内网穿透的方式，将本地的大模型通过外网地址暴露出去

这里我使用的是 cpolar 进行内网穿透

官网：cpolar官网-安全的内网穿透工具 | 无需公网ip | 远程访问 | 搭建网站

具体使用教程可以看官网的介绍，支持windows、linux、MacOS等系统部署

我们安装好后，创建刚刚本地 http://localhost:11434 地址的隧道即可，如下图所示，生成的随机公网地址就可以提供给外网连接我们本机部署的DeepSeek

在这里插入图片描述

在这里插入图片描述

四、DeepSeek官方开放平台API对接

如果你是软件开发人员，可以再了解下DeepSeek的开放平台

目前DeepSeek官网的开放平台也可正常访问了（2月6日实测）

https://platform.deepseek.com/

每个新人都会增送10元余额可供体验

在这里插入图片描述

我们使用API前需要先创建秘钥

在这里插入图片描述

之后再根据接口文档进行API调用即可，如下图所示，我测试了一个发起对话的API

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/965470.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

足球俱乐部管理系统的设计与实现

足球俱乐部管理系统的设计与实现

🍅点赞收藏关注 → 添加文档最下方联系方式咨询本源代码、数据库🍅 本人在Java毕业设计领域有多年的经验，陆续会更新更多优质的Java实战项目希望你能有所收获，少走一些弯路。🍅关注我不迷路🍅 项目视频 足…
阅读更多...
Star300+ 开源项目Developer-RoadMap 计算机各领域学习路线图集大成者

Star300+ 开源项目Developer-RoadMap 计算机各领域学习路线图集大成者

一、开发者的“成长宝典”来了 你是否在编程的海洋中迷茫，不知该驶向何方？你是否渴望一份清晰的指南，引领你在开发者的道路上稳步前行？今天，就为大家带来一份堪称“成长宝典”的开源项目: https://github.com/kamran…
阅读更多...
链表和 list

链表和 list

一、单链表的模拟实现 1.实现方式 链表的实现方式分为动态实现和静态实现两种。 动态实现是通过 new 申请结点，然后通过 delete 释放结点的形式构造链表。这种实现方式最能体 现链表的特性； 静态实现是利用两个数组配合来模拟链表。一个表示数据域&am…
阅读更多...
C语言switch case语句详解（非常详细）

C语言switch case语句详解（非常详细）

在C语言中，switch case 语句是一种多分支选择结构，用于根据变量的值执行不同的代码块。 相比于if else语句，switch case在处理多个固定值的条件判断时更加简洁和高效。本文将详细讲解switch case语句的用法、语法格式、实例代码、注意事项&a…
阅读更多...
DeepSeek本地部署

DeepSeek本地部署

前言 蛇年过年前，国产大模型 DeepSeek以更高的效率、更低的计算成本火爆国内外，成为现象级AI，但由于访问人数过多经常频繁出现反应迟缓甚至是宕机的情况。 但万幸的是，DeepSeek 是一个开源模型，我们可以通过本地部署…
阅读更多...
springboot简单应用

springboot简单应用

快速开发Springboot项目实现简单的增删改查，前期需要准备：idea与postman安装 Maven，MySQL（8），JDK(21) 目录 前言 springboot 使用3.0版本，JDK使用21,MySQL使用8版本 开发环境IDEA使用2024版本 …
阅读更多...
tomcat核心组件及原理概述

tomcat核心组件及原理概述

目录 1. tomcat概述 1.1 概念 1.2 官网地址 2. 基本使用 2.1下载 3. 整体架构 3.1 核心组件 3.2 从web.xml配置和模块对应角度 3.3 如何处理请求 4. 配置JVM参数 5. 附录 1. tomcat概述 1.1 概念 什么是tomcat Tomcat是一个开源、免费、轻量级的Web服务器。 Tomca…
阅读更多...
【Linux】24.进程间通信（3）

【Linux】24.进程间通信（3）

文章目录 3.6 systemv共享内存3.6.1 共享内存函数3.6.3 一个简单的共享内存代码实现3.6.4 一个复杂的共享内存代码实现3.6.4 key和shmid的主要区别: 3.7 systemv消息队列（了解）3.8 systemv信号量（了解）进程互斥四个问题理解信号量…
阅读更多...
115，【7】 攻防世界 web fileinclude

115，【7】 攻防世界 web fileinclude

进入靶场 试着访问了几个文件&#xff0c;都没得到信息&#xff0c;f12看看源码 还真有 <?php // 检查是否开启了错误显示功能 // ini_get 函数用于获取 PHP 配置选项的值&#xff0c;这里检查 display_errors 选项是否开启 if( !ini_get(display_errors) ) {// 如果错误…
阅读更多...
深入理解Java引用传递

深入理解Java引用传递

先看一段代码&#xff1a; public static void add(String a) {a "new";System.out.println("add: " a); // 输出内容&#xff1a;add: new}public static void main(String[] args) {String a null;add(a);System.out.println("main: " a);…
阅读更多...
langchain教程-7.Embedding/文本向量化

langchain教程-7.Embedding/文本向量化

前言 该系列教程的代码: https://github.com/shar-pen/Langchain-MiniTutorial 我主要参考 langchain 官方教程, 有选择性的记录了一下学习内容 这是教程清单 1.初试langchain2.prompt3.OutputParser/输出解析4.model/vllm模型部署和langchain调用5.DocumentLoader/多种文档…
阅读更多...
Mac下使用brew安装go 以及遇到的问题

Mac下使用brew安装go 以及遇到的问题

首先按照网上找到的命令进行安装 brew install go 打开终端输入go version&#xff0c;查看安装的go版本 go version 配置环境变量 查看go的环境变量配置&#xff1a; go env 事实上安装好后的go已经可以使用了。 在home/go下新建src/hello目录&#xff0c;在该目录中新建…
阅读更多...
Ubuntu部署Deepseek-R1模型（8b）

Ubuntu部署Deepseek-R1模型（8b）

安装ubuntu系统 本机电脑系统ubuntu-20.04 #升级软件 sudo apt-get update#安装curl sudo apt-get install curl通过以上两条指令&#xff0c;完成了curl命令的安装。 安装ollama 打开Ollama官网 选择Linux&#xff0c; 给出如上图方框所示的一条指令 curl -fsSL https:…
阅读更多...
【ROS视频推流】使用web_video_server完成视频推流

【ROS视频推流】使用web_video_server完成视频推流

&#x1f680; 本文简要介绍一下使用web_video_server功能包完成实时视频推流的方法。 假设有A,B两个设备&#xff0c;它们之间可以ping通。我们需要将A设备上的实时摄像头图像推流并在B设备的浏览器上显示。 &#x1f314;01准备工作 # A设备 # 下载视频推流功能包 #&#xff…
阅读更多...
[LVGL] 在VC_MFC中移植LVGL

[LVGL] 在VC_MFC中移植LVGL

前言&#xff1a; 0. 在MFC中开发LVGL的优点是可以用多个Window界面做辅助扩展 1.本文基于VC2022-MFC单文档框架移植lvgl8 2. gitee上下载lvgl8.3 源码&#xff0c;并将其文件夹改名为lvgl lvgl: LVGL 是一个开源图形库&#xff0c;提供您创建具有易于使用的图形元素、漂亮…
阅读更多...
Java----线程池

Java----线程池

什么是线程池呢&#xff0c;先举一个情景&#xff1a; 一个火锅店开业了&#xff0c;早上人比较少&#xff0c;大家进店后不需要预约&#xff0c;直接付款在店里的桌子上吃饭&#xff0c;慢慢的人多了&#xff0c;店里的桌子不够用了&#xff0c;没座位的人可以先预约&#xf…
阅读更多...
安卓开发，底部导航栏

安卓开发，底部导航栏

1、创建导航栏图标 使用系统自带的矢量图库文件&#xff0c;鼠标右键点击res->New->Vector Asset 修改 Name , Clip art 和 Color 再创建一个 同样的方法再创建四个按钮 2、添加百分比布局依赖 app\build.gradle.kts 中添加百分比布局依赖&#xff0c;并点击Sync Now …
阅读更多...
每日Attention学习22——Inverted Residual RWKV

每日Attention学习22——Inverted Residual RWKV

模块出处 [arXiv 25] [link] [code] RWKV-UNet: Improving UNet with Long-Range Cooperation for Effective Medical Image Segmentation 模块名称 Inverted Residual RWKV (IR-RWKV) 模块作用 用于vision的RWKV结构 模块结构 模块代码 注&#xff1a;cpp扩展请参考作者原…
阅读更多...
Git--使用教程

Git--使用教程

Git的框架讲解 Git 是一个分布式版本控制系统&#xff0c;其架构设计旨在高效地管理代码版本&#xff0c;支持分布式协作&#xff0c;并确保数据的完整性和安全性。 Git 的核心组件&#xff1a; 工作区&#xff08;Working Directory&#xff09;&#xff1a; 工作区是你在本…
阅读更多...
智慧停车系统：不同规模停车场的应用差异与YunCitys解决方案

智慧停车系统：不同规模停车场的应用差异与YunCitys解决方案

在智慧停车领域&#xff0c;不同规模停车场因自身特点&#xff0c;对智慧停车系统的需求和应用效果存在显著差异。云创智城凭借丰富的经验和先进的技术&#xff0c;为各类规模停车场打造了贴合需求的智慧停车系统&#xff0c;下面为您详细剖析。 小型停车场&#xff1a;精准高…
阅读更多...
最新文章

Copyright @ 2022~2023