DeepSeek-R1本地搭建

1. 前言

        现在deepseek火上天了,因为各种应用场景,加上DeepSeek一直网络异常,所以本地部署Deepseek成为大家的另一种选择。

        目前网络上面关于DeepSeek的部署方式有很多,但是太麻烦了,本文是一篇极为简单的DeepSeek本地部署方式,小白也能轻松掌握。(支持Windows,macOS等系统)

2.硬件要求

        DeepSeek-r1有多种模型:1.5b、7b、8b、14b、32b、72b、671b。每种模型的容量和硬件要求都不相同。

        数字越大,性能更强。671b的性能更好,数据更多,更加智能,1.5则比较差,根据自己的配置,选择对应的模型。

计算机硬件要求:

        个人电能性能如果足够强,建议选择32B的模型就行,如果电脑性能很差,就选择1.5b

具体参考如下:

• 1.5B:CPU最低4核,内存8GB+,硬盘3GB+存储空间,显卡非必需,若GPU加速可选4GB+显存,适合低资源设备部署等场景。

• 7B:CPU 8核以上,内存16GB+,硬盘8GB+,显卡推荐8GB+显存,可用于本地开发测试等场景。

• 8B:硬件需求与7B相近略高,适合需更高精度的轻量级任务。

• 14B:CPU 12核以上,内存32GB+,硬盘15GB+,显卡16GB+显存,可用于企业级复杂任务等场景。

• 32B:CPU 16核以上,内存64GB+,硬盘30GB+,显卡24GB+显存,适合高精度专业领域任务等场景。

• 70B:CPU 32核以上,内存128GB+,硬盘70GB+,显卡需多卡并行,适合科研机构等进行高复杂度生成任务等场景。

   

模型大小:

模型名称模型大小
1.5B1.1GB
7B4.7GB
8B4.9GB
14B9GB
32B20GB
72B43GB
671B404GB

3.安装Ollama

3.1 下载Ollama

下载地址:Download Ollama

2.2 安装Ollama

运行安装包,一步步往下走就行了

2.3 修改模型下载地址(可选)

使用Ollama下载DeepSeek模型,会将模型下载到C盘,而且模型一般比较大,很容易占满C盘

默认下载地址为:C:\Users\用户名\.ollama\models\manifests

所以我们可以自定义模型下载地址

step1:退出程序:

安装Ollama完成后,记得先退出Ollama,应用栏右键退出。

step2:配置下载路径:

我们可以通过修改环境变量,将模型地址变更到其他目录

打开系统环境变量,添加OLLAMA_MODELS,配置你想指定的地址,如图

4.安装DeepSeek-R1模型

启动Ollama程

4.1 运行命令

deepseek-r1各模型安装命令:

模型名称安装命令
1.5Bollama run deepseek-r1:1.5b
7Bollama run deepseek-r1:7b
8Bollama run deepseek-r1:8b
14Bollama run deepseek-r1:14b
32Bollama run deepseek-r1:32b
72Bollama run deepseek-r1:72b
671Bollama run deepseek-r1:671b

如有疑问,也可以去Ollama官网,查看:

地址:deepseek-r1:1.5b

4.2 下载模型

键盘按住WIN+R,打开cmd,执行安装命令,参考目录4.1,我这里安装的是1.5b的模型

ollama run deepseek-r1:1.5b

执行完成后,效果如下:(第一次会下载模型,比较慢,请耐心等待

4.3 开始聊天

输入你想要说的话语,AI会给出回答,至此DeepSeek-r1模型本地部署完成

注意:

1. cmd进行AI聊天,每次都需要使用的模型,如:”ollama run deepseek-r1:1.5b“。如果你不想每次都输入命令,想简化操作,参考目录5.

2. 每次聊天,都需要先启动Ollama,不要忘了。

5 可视化界面安装(可选)

5.1 安装Page Assist插件

打开Chrome应用商店,输入Page Assist搜索,点击安装即可

如果你打不开谷歌应用商店,可以选择用百度搜索,或者使用下面的安装包安装

安装包地址:

链接: https://pan.baidu.com/s/1tQzuapjdOSvZEzDqkbxH6g?pwd=m8ev 提取码: m8ev 

下载完成后,解压压缩包,打开谷歌浏览器,浏览器输入:chrome://extensions/

打开开发者模式,选择”加载已解压的扩展程序“,选择刚刚的解压后压缩包,即可安装

注:本地插件最好换一个路径保存,以免误删导致插件丢失,图片中放于桌面只是演示用。

5.2 配置插件语言

插件安装完成后,点击插件,会出现这样的可视化页面,页面会显示”Ollama is running “

如果没有显示,说明你没有启动Ollama,在程序列表点击Ollama运行即可,然后刷新页面。

点击”Seeting“配置语言和搜索引擎

5.3 选择模型,开始对话

点击”新聊天“

选择一个模型

注意,我们要是计算机性能够强,是可以安装多个模型的

开始对话

至此,可视化界面部署完成。 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/968490.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

《qt open3d网格拉普拉斯平滑》

qt open3d网格拉普拉斯平滑 效果展示二、流程三、代码效果展示 二、流程 创建动作,链接到槽函数,并把动作放置菜单栏 参照前文 三、代码 1、槽函数实现 void on_actionFilterLaplacian_triggered();void MainWindow::on_actionFil

DeepSeek-V3网络模型架构图解

DeepSeek-V3网络架构的创新主要在两次,分别是在前馈层的MOE(混合专家模型)和在注意力中的MHA(多头潜在注意力,一种注意力计算规模压缩技术)。 MOE(混合专家模型) 回顾最初的MOE GS…

.net6 mvc 获取网站(服务器端)的IP地址和端口号

注意:是网站的,服务端的 IP地址, 不是当前用户电脑的、本地的IP地址 两个图: 分析: var AbsolutePath HttpContext.Request.Url.AbsolutePath;//"/Meeting/GetLastMeetingOL"var AbsoluteUri HttpContext.…

无人机遥感图像拼接及处理实践技术:生态环境监测、农业、林业等领域,结合图像拼接与处理技术,能够帮助我们更高效地进行地表空间要素的动态监测与分析

近年来,无人机技术在遥感领域的应用越来越广泛,尤其是在生态环境监测、农业、林业等领域,无人机遥感图像的处理与分析成为了科研和业务化工作中的重要环节。通过无人机获取的高分辨率影像数据,结合图像拼接与处理技术,…

[Linux] 信号(singal)详解(二):信号管理的三张表、如何使用coredump文件、OS的用户态和内核态、如何理解系统调用?

标题:[Linux] 信号管理的三张表、如何使用coredump文件、OS的用户态和内核态、如何理解系统调用? 水墨不写bug (图片来源:文心一言) 正文开始: 目录 一、信号管理的三张表 (1)三张表…

Windows中使用Docker安装Anythingllm,基于deepseek构建自己的本地知识库问答大模型,可局域网内多用户访问、离线运行

文章目录 Windows中使用Docker安装Anythingllm,基于deepseek构建自己的知识库问答大模型1. 安装 Docker Desktop2. 使用Docker拉取Anythingllm镜像2. 设置 STORAGE_LOCATION 路径3. 创建存储目录和 .env 文件.env 文件的作用关键配置项 4. 运行 Docker 命令docker r…

w~自动驾驶~合集17

我自己的原文哦~ https://blog.51cto.com/whaosoft/13269720 #FastOcc 推理更快、部署友好Occ算法来啦! 在自动驾驶系统当中,感知任务是整个自驾系统中至关重要的组成部分。感知任务的主要目标是使自动驾驶车辆能够理解和感知周围的环境元素&#…

利用邮件合并将Excel的信息转为Word(单个测试用例转Word)

利用邮件合并将Excel的信息转为Word 效果一览效果前效果后 场景及问题解决方案 一、准备工作准备Excel数据源准备Word模板 二、邮件合并操作步骤连接Excel数据源插入合并域预览并生成合并文档 效果一览 效果前 效果后 场景及问题 在执行项目时的验收阶段,对于测试…

2024 CyberHost 语音+图像-视频

项目:CyberHost: Taming Audio-driven Avatar Diffusion Model with Region Codebook Attention 音频驱动的身体动画面临两个主要挑战:(1)关键人体部位,如面部和手部,在视频帧中所占比例较小&#x…

web前端第三次作业

题目 本期作业 WEB第三次作业 请使用JS实一个网页中登录窗口的显示/隐藏&#xff0c;页面中拖动移动&#xff0c;并且添加了边界判断的网页效 代码图片 效果展示 代码 <!DOCTYPE html> <html lang"zh"> <head> <meta charset"UTF-8&qu…

国产ARM处理器工控机如何助力企业实现自主可控?

选择国产ARM处理器工控机的原因可以从多个角度来考虑&#xff0c;包括技术、经济、安全和政策等方面。以下是一些关键理由&#xff1a; 技术优势 低功耗高效能&#xff1a;ARM架构以其出色的能效比著称&#xff0c;适合需要长时间运行的工业控制应用。适应性强&#xff1a;国…

力扣24题——两两交换链表中节点

#题目 #代码 /*** Definition for singly-linked list.* public class ListNode {* int val;* ListNode next;* ListNode() {}* ListNode(int val) { this.val val; }* ListNode(int val, ListNode next) { this.val val; this.next next; }* }*/ clas…

DedeBIZ系统审计小结

之前简单审计过DedeBIZ系统&#xff0c;网上还没有对这个系统的漏洞有过详尽的分析&#xff0c;于是重新审计并总结文章&#xff0c;记录下自己审计的过程。 https://github.com/DedeBIZ/DedeV6/archive/refs/tags/6.2.10.zip &#x1f4cc;DedeBIZ 系统并非基于 MVC 框架&…

leetocde92:翻转链表II

前文关于反转链表的解析https://blog.csdn.net/weixin_46028606/article/details/145592860?fromshareblogdetail&sharetypeblogdetail&sharerId145592860&sharereferPC&sharesourceweixin_46028606&sharefromfrom_link 翻转链表II 代码一定要结合下面的图…

考研操作系统----操作系统的概念定义功能和目标(仅仅作为王道哔站课程讲义作用)

目录 操作系统的概念定义功能和目标 操作系统的四个特征 操作系统的分类 ​编辑 操作系统的运行机制 系统调用 操作系统体系结构 操作系统引导 虚拟机 操作系统的概念定义功能和目标 什么是操作系统&#xff1a; 操作系统是指控制和管理整个计算机系统的软硬件资源&…

【WB 深度学习实验管理】使用 PyTorch Lightning 实现高效的图像分类实验跟踪

本文使用到的 Jupyter Notebook 可在GitHub仓库002文件夹找到&#xff0c;别忘了给仓库点个小心心~~~ https://github.com/LFF8888/FF-Studio-Resources 在机器学习项目中&#xff0c;实验跟踪和结果可视化是至关重要的环节。无论是调整超参数、优化模型架构&#xff0c;还是监…

异位妊娠唯一相关的是年龄(U型曲线)

异位妊娠唯一相关的是年龄&#xff08;U型曲线&#xff09; 简介 异位妊娠&#xff0c;俗称宫外孕&#xff0c;是指受精卵在子宫体腔以外着床发育的异常妊娠过程 。正常情况下&#xff0c;受精卵会在子宫内着床并发育成胎儿&#xff0c;但在异位妊娠中&#xff0c;受精卵却在…

ESM3(1)-介绍:用语言模型模拟5亿年的进化历程

超过30亿年的进化在天然蛋白质空间中编码形成了一幅生物学图景。在此&#xff0c;作者证明在进化数据上进行大规模训练的语言模型&#xff0c;能够生成与已知蛋白质差异巨大的功能性蛋白质&#xff0c;并推出了ESM3&#xff0c;这是一款前沿的多模态生成式语言模型&#xff0c;…

CondaValueError: Malformed version string ‘~‘: invalid character(s)

CondaValueError: Malformed version string ‘~‘: invalid character(s) 送一张 GPT plus 、 deepseek-R1 满血 体验卡&#xff5e; https://bbs.csdn.net/topics/619568415 ​ 报错原因 使用conda安装一些库时出现以下报错&#xff1a; CondaValueError: Malformed versio…

01、单片机上电后没有正常运行怎么办

单片机上电后没有运转, 首先要检查什么? 1、单片机供电是否正常? &电路焊接检查 如果连最基本的供电都没有,其它都是空谈啊!检查电路断路了没有?短路了没有?电源合适吗?有没有虚焊? 拿起万用表之前,预想一下测量哪里?供电电压应该是多少?对PCB上电压测量点要…