一.需要本地部署的原因
1.我们在deepseek的官网界面进行交互时,经常会出现如下问题,不能正常交互,很是困扰:
2.本地部署的好处
就是能够很流畅的与deepseek进行交互;也有缺点,现在官网交互的版本更高一点,回答问题的精度和跟接近想要的答案这来那个方面更好一点;
这是70B参数的deepseek-r1,需要这么多的资源,我的资源是不够,所以我这里只能使用1.5b的了,70b思考的效果肯定比1.5b的效果要好!
这里本地部署的是deepseek-r1,参数1.5B,是2024年7月份开源的版本,好像也只开源了这个版本,所以只能部署这个版本,不过一些日常的交互还是很好的。
二.本地部署需要的工具
1.部署环境:Windows
2.工具:ollama(官网:Ollama)、chatbox(官网:Install Windows(PC) | Chatbox)
(1)ollama官网下载界面:
(2)chatbox下载界面:
注意:ollama官网下载到一半就会提示需要授权才能继续下载,很是麻烦(获取安装包的方式有很多,我是从百度网盘里面直接获取的软件包
通过网盘分享的文件:大模型容器OllamaSetup.exe
链接: https://pan.baidu.com/s/1QunlIFgTrNgEXyBoWxLMNw?pwd=lds6 提取码: lds6)。
三.安装验证
在安装包和环境都准备好之后,就是安装了,直接点击安装包,傻瓜式安装就好!
(1)ollama安装
(2)chatbox安装
这里只需要选择自己的安装路径即可。
注意:我这里并没有多这两个软件进行什么环境变量的配置,只是单纯的安装即可;
验证ollama是否安装成功
注意:这里在ollama中运行的是deepseek-r1:1.5b,后面的模型参数规模可以更改,我就配置了最基础的1.5b,因为我的电脑配置比较低;
这样就可以在终端中使用了!
四.在chatbox中与ollama中的deepseek可视化交互
1.打开chatbox配置deepseek
按照如下图配置即可:
2.交互使用过程:
!!!等到后续如果有更好的版本开源,也可替换版本!!!
五.deepseek简单使用
这是deepseek帮我写了一篇关于健康的小红书笔记,这是它100%写的,我只负责粘贴复制,其实写出来的内容,排版并不比人长时间思考写出来的逊色!
(有图有内容)
OK!