DeepSeek本地部署:开启智能搜索的本地之旅

前言

嘿,朋友们!最近国产大模型DeepSeek特别火,以至于频繁出现反应迟缓甚至宕机的情况,和两年前ChatGPT刚推出时的遭遇颇为相似。这让我想起了那句老话:“自己动手,丰衣足食”。万幸的是,DeepSeek是一个开源模型,我们完全可以通过本地部署,在自己的终端上随时使用它,不再受网络拥堵和服务器宕机的困扰,让你也能在自己的电脑💻上享受智能搜索的乐趣。接下来,咱们就来聊聊这个超酷的技术,带你一步步搞定DeepSeek的本地部署, go go go!


一.为什么想部署DeepSeek?

1. 摆脱网络限制

每次使用DeepSeek时,都要依赖网络连接,这不仅速度慢,还容易遇到服务器繁忙或宕机的情况。本地部署后,我可以在自己的机器上随时调用它,再也不用担心网络问题了。

2. 保护隐私数据

有些敏感信息我不太愿意上传到云端,本地部署可以让我在安全的环境中处理这些数据,不用担心隐私泄露。

3. 提升工作效率

有了本地部署的DeepSeek,我可以随时获取信息,无论是工作中的数据分析,还是生活中的知识查询,都能迅速得到答案,大大提升我的工作效率

4. 探索更多可能性

开源的DeepSeek给了我更多自由度,我可以根据自己的需求进行定制和优化,探索更多有趣的应用场景。

二.deepseek本地部署教程

1.安装Ollama

Ollama是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计,Ollama支持多种操作系统,包括Windows、macOS和Linux

访问Ollama的官方网站:https://ollama.com/,点击“下载”按钮,下载完之后直接点击安装即可

官网下载非常慢,如有需要互关三连

下载安装包:根据你的操作系统选择对应的安装包。下载完成后,直接双击安装文件并按照提示完成安装。


验证安装:安装完成后,在终端输入以下命令,检查Ollama版本:

ollama --version

2.ollama配置环境变量

可以按win键搜索栏搜索“环境变量”,下图搜索,打开“编辑系统环境变量”设置:

点击“高级”下面点“环境变量”,在环境变量界面单击”新建“按钮,然后新建变量:OLLAMA_MODELS,用于修改ollama的模型存储路径,默认是C盘,这里我们更改ollama的模型存储为D盘,填写完成之后点“确定”。

变量名:OLLAMA_MODELS

变量值:D:\ollama

然后我们再新建一个用户变量:OLLAMA_HOST,变量值是:127.0.0.1,单击确定,用于更改服务监听地址和端口。

默认为127.0.0.1(仅限本机访问)。如需远程访问,可设置为0.0.0.0,一般本机访问即可。

继续再新建第三个变量,为http开放请求,变量名为“OLLAMA_ORIGINS”,变量值填写 “*”,单击确定。

第四个新建变量名为“OLLAMA_PORT”,变量值为可以自定义的数字,如果端口号被占用有冲突的问题,那么通过这个就可以修改端口号,一般不修改

综上所述,我们连续为ollama添加了4条环境变量,然后点“确定”,完成配置即可(根据自己实际情况添加)

注:每次更改环境变量之后,需要重启电脑,配置才会生效。

关于ollama的所有配置就全部完成,重启电脑,使配置的环境变量生效。

我们打开命令提示符,使用 win键+R键 输入 “cmd”打开命令提示符,下图所示,输入“ollama”然后回车,如果有下图所示的返回信息,就表示ollama没有问题了。

我们还可以通过打开浏览,在浏览器的地址栏输入“127.0.0.1:11434”后回车,看是否能访问,检验自己是否成功,如果显示不能!提示页面拒绝访问,解决方法是:修改环境变量配置。

3.下载并部署DeepSeek模型

Ollama支持多种DeepSeek模型版本,用户可以根据硬件配置选择合适的模型。

启动Ollama服务:
在终端运行命令启动Ollama服务:

ollama serve

进入ollama官网,在主页中点击“models”,然后看到一个就是deepseek-r1,直接点击进去。

输入以下命令下载并运行DeepSeek模型,后面的模型大小可以改成自己想要的

ollama run deepseek-r1:7b  # 7B版本
ollama run deepseek-r1:8b  # 8B版本
ollama run deepseek-r1:14b # 14B版本
ollama run deepseek-r1:32b # 32B版本

下载完成后,可以使用以下命令查看已下载的模型列表:

ollama list

然后通过下面命令运行模型:

ollama run deepseek-r1:14b

这将启动 DeepSeek 14B 模型,并进入交互式命令行界面,可以直接与模型对话。

4.可视化交互界面安装

虽然我们可以在本地使用 Deepseek 这个模型了,但这样交互界面未免不会太简陋.....这时我们就可以通过安装 Chatbox 这个可视化交互界面来改变这种情况。

1.打开Chatbox AI官网,点击免费下载,下载到本地之后直接点击安装即可

2.点击设置-显示 选择界面的语言

3.点击设置-模型,在模型提供方选择:Ollama API,

模型选择,选择之前安装的模型:deepseek-r1:14b,点击保存

4.本地测试

在开始测试之前,确保你的本地环境变量和Chatbox设置没有问题。这一步非常关键,没有问题话进行聊天测试,可以正常沟通的。

并且 ChatBox 还支持添加图片、文件、链接和联网查询,非常方便。到此我们可以使用自己的大模型了。

总结

本地部署Ollama,就像是在自己的电脑里藏了一个智能小精灵,随时听候差遣,再也不用担心网络卡顿或者服务器罢工了。而且,通过我们刚刚的检查和优化,你的Ollama肯定能跑得飞快,无论是处理复杂的自然语言任务,还是简单地问个问题,都能秒回。

希望这篇文章能帮你顺利搞定Ollama的本地部署,让你在学习、工作或者开发项目的时候,都能有个得力的助手👋

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/978562.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

初会学习记录

【25初级会计《实务》】第一章:权责发生制举例_哔哩哔哩_bilibili 务实: 第一章 (1)会计概念,职能和目标: 2025年2月25日: (2)会计假设: 2025年2月26日: (3)会计核算基础: 202…

STM32——HAL库开发笔记22(定时器3—呼吸灯实验)(参考来源:b站铁头山羊)

本文利用前几节所学知识来实现一个呼吸灯实验:两颗led灯交替呼吸。 一、STM32CubeMX配置 step1:配置调试接口 step2:配置定时器 定时器1位于APB2总线上,如上图所示。 step3:配置时基单元 按照下图配置 时钟来源配置…

深度剖析数据中台架构图,铸造数字文明的基石

🔥🔥 AllData大数据产品是可定义数据中台,以数据平台为底座,以数据中台为桥梁,以机器学习平台为中层框架,以大模型应用为上游产品,提供全链路数字化解决方案。 ✨奥零数据科技官网:http://www.aolingdata.com ✨AllData开源项目:https://github.com/alldatacenter/a…

物联网通信应用案例之《智慧农业》

案例概述 在智慧农业方面,一般的应用场景为可以自动检测温度湿度等一系列环境情况并且可以自动做出相应的处理措施如简单的浇水和温度控制等,且数据情况可远程查看,以及用户可以实现远程控制。 基本实现原理 传感器通过串口将数据传递到Wi…

【蓝桥杯】每天一题,理解逻辑(1/90)【Leetcode 移动零】

文章目录 题目解析讲解算法原理【双指针算法思路】(数组下标充当指针)如何划分和执行过程大致 代码详情 题目解析 题目链接:https://leetcode.cn/problems/move-zeroes/description/ 题目意思解析 把所有的零移动到数组的末尾保持非零元素的相对顺序 理解了这两层…

DeepSeek R1满血+火山引擎详细教程

DeepSeek R1满血火山引擎详细教程 一、安装Cherry Studio。 Cherry Studio AI 是一款强大的多模型 AI 助手,支持 iOS、macOS 和 Windows 平台。可以快速切换多个先进的 LLM 模型,提升工作学习效率。下载地址 https://cherry-ai.com/ 认准官网,无强制注册。 这…

【框架】参考 Spring Security 安全框架设计出,轻量化高可扩展的身份认证与授权架构

关键字:AOP、JWT、自定义注解、责任链模式 一、Spring Security Spring Security 想必大家并不陌生,是 Spring 家族里的一个安全框架,特别完善,但学习成本比较大,不少开发者都觉得,这个框架“很重” 他的…

Idea2024中搭建JavaFX开发环境并创建运行项目

Idea2024中搭建JavaFX开发环境并创建运行项目 本文以Java语言为例演示如何创建JavaFX开发项目和部署开发环境,读者可以根据个人实际灵活选择相关参数。 一、项目创建与环境搭建步骤 新建JavaFX项目,选择适合项目实际的语言、系统和JDK。 项目设置-设置…

Skyeye 云智能制造办公系统 VUE 版本 v3.15.10 发布

Skyeye 云智能制造,采用 Springboot winUI 的低代码平台、移动端采用 UNI-APP。包含 30 多个应用模块、50 多种电子流程,CRM、PM、ERP、MES、ADM、EHR、笔记、知识库、项目、门店、商城、财务、多班次考勤、薪资、招聘、云售后、论坛、公告、问卷、报表…

Solr中得Core和Collection的作用和关系

Solr中得Core和Collection的作用和关系 一, 总结 在Apache Solr中,Core和Collection 是两个核心概念,他们分别用于单机模式和分布式模式(SolrCloud)中,用于管理和组织数据。 二,Core 定义&am…

【2025-02-26】基础算法:二分查找(二)

📝前言说明: ●本专栏主要记录本人的基础算法学习以及LeetCode刷题记录,主要跟随B站博主灵茶山的视频进行学习,专栏中的每一篇文章对应B站博主灵茶山的一个视频 ●题目主要为B站视频内涉及的题目以及B站视频中提到的“课后作业”。…

Cherry Studio 使用/训练deepseek

Cherry Studio前言 CherryStudio 是一款集多模型对话、知识库管理、AI 绘画、翻译等功能于一体的全能 AI 助手平台。 CherryStudio的高度自定义的设计、强大的扩展能力和友好的用户体验,使其成为专业用户和 AI 爱好者的理想选择。无论是零基础用户还是开发者&#…

十、大数据资源平台功能架构

一、大数据资源平台的功能架构图总体结构 大数据资源平台功能架构图 关键组件: 1.用户(顶行) 此部分标识与平台交互的各种利益相关者。 其中包括: 市领导 各部门分析师 区政府 外部组织 公民 开发人员 运营经理 2.功能模…

UE Python笔记

插件 官方 商城 Python Editorhttps://www.fab.com/listings/f4c99ba0-1a86-4f6a-b19d-2fd13f15961b GitHUB 好像只更新到了2020年4.2x的版本。可能有大佬改了5.x的版本。也希望分享给我一份。谢谢 https://github.com/20tab/UnrealEnginePython 学习笔记 网上教程一大堆。…

SQL_优化

1 SQL优化 (1) 数据读取 ①分区裁剪:使用时只读取需要的分区. ②列裁剪:读取操作(select、where、join、group by、sort by等),不读取不需要的列,减少IO消耗. (2) 数据筛选 ①分区先过滤,区分度大的字段先过滤. ②不在筛选字段上使用函数和表达式. (3) 分组聚合 ①使用窗口函数…

centos9之ESXi环境下安装

一、centos9简介 CentOS Stream 9是一个基于RHEL(Red Hat Enterprise Linux)的开源操作系统。它是CentOS Stream系列的最新版本。CentOS Stream是一个中间发行版,位于RHEL和Fedora之间,旨在提供更及时的软件更新和新功能。CentOS …

Vue2+Element实现Excel文件上传下载预览【超详细图解】

目录 一、需求背景 二、落地实现 1.文件上传 图片示例 HTML代码 业务代码 2.文件下载 图片示例 方式一:代码 方式二:代码 3.文件预览 图片示例 方式一:代码 方式二:代码 一、需求背景 在一个愉快的年后&#xff…

在线会议时, 笔记本电脑的麦克风收音效果差是为什么

背景 最近在线面试. 使用腾讯会议或者飞书, 戴耳机参加在线面试, 遇到好几个面试官说我的音质不好. 一直没在意, 后来反思, 应该是电脑哪里出了问题. 排查 先买了一副品牌有线耳机, 测试后本地录制的声音仍然品质很差去掉耳机延长线后, 麦克风品质仍然很差最终找到答案, 原…

【十二】Golang 映射

💢欢迎来到张胤尘的开源技术站 💥开源如江河,汇聚众志成。代码似星辰,照亮行征程。开源精神长,传承永不忘。携手共前行,未来更辉煌💥 文章目录 映射映射的定义映射初始化make 函数使用字面量 源…

【HarmonyOS Next】鸿蒙TaskPool和Worker详解 (一)

【HarmonyOS Next】鸿蒙TaskPool和Worker详解 (一) 一、TaskPool和Worker如何实现多线程?各自特点是什么? 在鸿蒙中通过TaskPool和Worker实现多线程并发,两者都基于Actor并发模型实现。 Actor并发模型,每…