Linux中部署DeepSeek,WSL(ubunt)中使用ollama部署deepseek-R1-7b

  想在自己的Win11电脑上部署Linux的DeepSeek模型,但在网上一直没有找到合适的相应教程,自己查询各种网上资源,以及询问一些AI大模型后成功安装,并整理了以下步骤。仅作为个人学习笔记使用,由于本人对各方面知识掌握不足,难免会有些错误,欢迎各位大佬的指正。 

一,启用wsl和虚拟机功能

WSL简介:WSL 是微软为 Windows 系统开发的兼容层,允许用户直接在 Windows 上运行原生的 Linux 二进制文件(无需虚拟机或双系统)。它打通了 Windows 与 Linux 的生态,使开发者能在熟悉的 Windows 环境中无缝使用 Linux 工具链。

方案一:通过命令快速安装

   可以使用单个命令安装运行 WSL 所需的一切内容。 在管理员模式下打开 PowerShell 或 Windows 命令提示符。

具体方法:

1.  在开始界面查找PowerShell,右键单击并选择“以管理员身份运行”。

1.  输入wsl --install 命令,enter执行

wsl --install 

然后重启计算机。

注意:

  • 此命令会启用所需功能、安装 WSL2 内核,并下载 Ubuntu。

  • 完成后需重启系统。

  • 重启后,首次运行会提示创建用户名和密码,Ubuntu输入密码时不会有任何显示,输入时自己记住即可。

方案二:手动分步安装

1.  打开电脑控制面板(可以从开始界面搜索框中搜索进入),点击程序。

2. 点击程序和功能

3.点击启用或关闭Windows功能

4.选择框出的这几个选项

5.检查是否开启虚拟化,打开任务管理器,点击性能,查看CPU虚拟化是否开启,未开启需要进入BIOS中开启开启虚拟化(这个对于不同品牌电脑可能不太一样我也不是太熟练,不了解的话建议百度找一下教程,)。

6.重启电脑

7.安装 WSL2 内核

下载并安装内核更新包,点击下方链接即可下载

  •    适用于 x64 计算机的 WSL2 Linux 内核更新包https://wslstorestorage.blob.core.windows.net/wslblob/wsl_update_x64.msi

或者前往官网下载

旧版 WSL 的手动安装步骤 | Microsoft Learn

 下载完成之后安装即可。

8.设置默认 WSL 版本为 2

  开始菜单中,搜索PowerShell,并鼠标右击,选择 以管理员身份打开。在PowerShell命令框中输入以下命令。

wsl --set-default-version 2

9.安装 Linux 发行版

打开电脑自带的微软商店,搜索Ubuntu,选择一个版本下载即可。

10.启动并初始化

  安装完成后,从开始菜单打开刚刚下载好的ubunt,按提示设置用户名和密码。 注意首次运行会提示创建用户名和密码,Ubuntu输入密码时不会有任何显示,输入时自己记住即可。

11.将 WSL 2 设置为默认版本

以管理员身份打开 PowerShell,然后在安装新的 Linux 发行版时运行以下命令,将 WSL 2 设置为默认版本:

wsl --set-default-version 2

二,下载ollma

  这里依旧是有两个方案,一个是使用官网代码下载,第二方案是手动下载安装包手动安装,我的网络不是很好,这里我使用了方案二。

方案一:通过命令快熟安装

前往Ollama官网,复制Ollama官网的Linux版本下载命令,在wsl命令框中(Ubuntu命令框也一样),输入复制好的命令,下载即可。

方案二:手动下载(可能需要科学上网)

1.前往GitHub Release页面找到最新Linux版本的Ollama,网址首页:

下拉找到安装包,(通常为ollama-linux-amd64或类似名称的.tar.gz文件,WSL默认是64位系统,选择amd64x86_64版本),点击下载即可:

2.下载完成之后,回到桌面,鼠标右键查看属性以确定安装包的存放位置。

3.将文件复制到WSL系统中,在wsl命令框中输入以下命令,回车运行。

# cp /mnt/ + 你的存放地址 + ~/

#下面是我的地址
cp /mnt/c/Users/22377/OneDrive/Desktop/ollama-linux-amd64.tgz ~/

4.解压Ollama压缩包,在WSL命令框中执行以下命令

cd ~   #进入WSL根目录
chmod +x ~/ollama-linux-amd64.tgz   #赋予解压权限
tar -xzvf ollama-linux-amd64.tgz   #解压Ollama 

解压成功,生成一个名为 ollama 的可执行文件。

 5.验证解压结果

ls ~/bin/ollama        # 应显示ollama主程序
ls ~/lib/ollama/cuda*  # 应显示CUDA库文件

 会输出类似于这样的结果:

13.安装Ollama到系统路径,通过以下命令将二进制文件移动到系统可执行路径。

# 创建目标目录(如果不存在)
sudo mkdir -p /usr/local/bin
# 移动主程序并赋予执行权限
sudo mv ~/bin/ollama /usr/local/bin/
sudo chmod +x /usr/local/bin/ollama

6.使用 PowerShell 运行以下命令检查Ollama是否成功

ollama --version

结果会输出Ollama的版本号。 

三,部署deepseek

1.启动Ollama,在WSL中执行以下命令:

ollama serve

保持上面的命令框开启,别关。

2.前往Ollama官网找到DeepSeek-R1的模型下载命令,复制。

deepseek-r1:7bhttps://ollama.com/library/deepseek-r1:7b

3.再另外开启一个WSL命令框,输入刚刚复制的命令下载并运行对应模型即可。

ollama run  运行模型

ollama run deepseek-r1:7b  #运行模型,若检查到本地没有该模型,则会自动下载后立即运行

 ollama pull  下载模型

ollama pull deepseek-r1:7b  #下载模型,但不运行,需要手动运行模型

ollama run deepseek-r1:7b  #运行模型,若检查到本地没有该模型,则会自动下载后立即运行

 以上便是全部内容,如果哪里有错误,欢迎各位大佬指正。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/984094.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

NoteGen是一款开源跨平台的 AI 笔记应用,专注于 recording 和 writing ,基于 Tauri 开发

一、软件介绍 文末提供程序和源码下载 NoteGen 是一款专注于记录和写作的跨平台 AI 笔记应用,基于 Tauri 开发。NoteGen 的核心理念是将记录、写作和 AI 结合使用,三者相辅相成。记录功能可以帮助用户快速捕捉和整理碎片化知识。整理功能是连接记录和写…

C++性能分析工具

C性能分析工具常用的三种。perf、gprof、pprof perf工具需要root权限,设置perf的suid位并不行,需要设置perf对应的内核参数。 perf使用: g -o example example.cpp -O2 # 运行程序并采样 sudo perf record -g ./example # 查看采样结果 sud…

【编译器】VSCODE搭建ESP32-C3

【编译器】VSCODE搭建ESP32-C3 文章目录 [TOC](文章目录) 前言一、下载配置二、编译三、烧录四、参考资料总结 前言 使用工具: 1. 提示:以下是本篇文章正文内容,下面案例可供参考 一、下载配置 安装IDF,打开例程 二、编译 三…

《云原生监控体系构建实录:从Prometheus到Grafana的观测革命》

PrometheusGrafana部署配置 Prometheus安装 下载Prometheus服务端 Download | PrometheusAn open-source monitoring system with a dimensional data model, flexible query language, efficient time series database and modern alerting approach.https://prometheus.io/…

LLM大模型-李宏毅

本博客是对b站上,李宏毅大模型课程的简单记录。 大模型入门到进阶,一套全解决! 第1讲:生成式AI是什么? ChatGPT【Chat Generative Pre-trained Transformer】每一步都是文字接龙,其实就是分类问题 文字接…

Codeforces Round 976 (Div. 2) (部分题解)

先做一个提前的小结,感觉这场每题有很特别的结论或者很难去guess的点,但就是能对,可能在证明上有点复杂吧。 A. Find Minimum Operations 思路:题意的话就是用来代替的最小操作步骤, 这里其实可以转换成求将改写成进…

DMR协议空中接口部分

文章目录 前言DMR 空中接口协议栈模型无线空中接口发送与接收参考模型DMR的TDMA结构帧结构突发结构数据与控制突发语音突发公共广播信道突发 数据信息传送时序语音信息传送时序帧同步 调制解调4-CPFSK正交调制4-CPFSK解调基带成型滤波 信道编码类型参考 前言 DMR 协议的标准号主…

专题二串联所有单词的子串

1.题目 题目分析: 有一个字符串s和字符串数组,如何字符串数组里面的元素可以组成一个字符串,然后要在字符串里面找到连续子串跟组成的字符串一样,返回起始地址。 2.算法原理 这道题可以把字符串数组的元素string看出char&#x…

uniapp或者vue 使用serialport

参考https://blog.csdn.net/ykee126/article/details/90440499 版本是第一位:否则容易编译失败 node 版本 18.14.0 npm 版本 9.3.1 electron 版本 30.0.8 electron-rebuild 版本 3.2.9 serialport 版本 10.0.0 需要python环境 main.js // Modules to control app…

编程题-计算器(中等)

题目: 给定一个包含正整数、加()、减(-)、乘(*)、除(/)的算数表达式(括号除外),计算其结果。 表达式仅包含非负整数,, - ,*,/ 四种运算符和空格 。 整数除法仅保留整数部分。 解法一(栈&…

数据增强术:如何利用大模型(LLMs)来模拟不同的扰动类型以增强信息提取任务的鲁棒性

一、对抗样本库构建 1. 基于LLMs的领域针对性扰动设计对抗样本生成 替换实体、三元组和触发器(Replace Entity, Triple, and Trigger) 使用LLMs(如GPT-4)来替换句子中的实体、关系三元组或事件触发器,同时保持其类型不…

深入了解Linux —— git三板斧

版本控制器git 为了我们方便管理不同版本的文件,就有了版本控制器; 所谓的版本控制器,就是能够了解到一个文件的历史记录(修改记录);简单来说就是记录每一次的改动和版本迭代的一个管理系统,同…

Windows编程----进程的当前目录

进程的当前目录 Windows Api中有大量的函数在调用的时候,需要传递路径。比如创建文件,创建目录,删除目录,删除文件等等。拿创建文件的CreateFile函数做比喻,如果我们要创建的文件路径不是全路径,那么wind…

MyBatis-Plus分页控件使用及使用过程发现的一个坑

最近维护一个旧项目的时候,出现了一个BUG,经排查后发现是Mybatis-plus分页控件使用的时候需要注意的一个问题,故在本地使用MybatisPlus模拟出现了一下这个问题。 首先,先说一下MyBatis-Plus的使用: 1)引入…

服务端和客户端通信(TCP)

服务端 using System; using System.Collections.Generic; using System.Linq; using System.Net; using System.Net.Sockets; using System.Text; using System.Threading.Tasks;namespace TeachTcpServer {class Program{static void Main(string[] args){#region 知识点一 …

Windows下配置Flutter移动开发环境以及AndroidStudio安装和模拟机配置

截止 2025/3/9 ,版本更新到了 3.29.1 ,但是为了防止出现一些奇怪的bug,我安装的还是老一点的,3.19,其他版本的安装同理。AndroidStudio用的是 2024/3/1 版本。 — 1 环境变量(Windows) PUB_H…

C++11中的Condition_variable

C11中的condition_variable 在C11中,条件变量(std::condition_variable)是线程同步机制之一,用于在多线程环境中实现线程间的通信和协调。它允许一个或多个线程在某个条件尚未满足时等待,直到其他线程通知条件已经满足…

ROS2-话题学习

强烈推荐教程: 《ROS 2机器人开发从入门到实践》3.2.2订阅小说并合成语音_哔哩哔哩_bilibili 构建功能包 # create package demo_python_pkg ros2 pkg create --build-type ament_python --license Apache-2.0 demo_python_pkg 自己写的代码放在./demo_python_pkg/…

深度学习模型Transformer核心组件—前馈网络FFN

第一章:人工智能之不同数据类型及其特点梳理 第二章:自然语言处理(NLP):文本向量化从文字到数字的原理 第三章:循环神经网络RNN:理解 RNN的工作机制与应用场景(附代码) 第四章:循环神经网络RNN、LSTM以及GR…

Helm安装chart包到k8s报错“不能重复使用名称,名称已被使用”

一、报错提示如下 “Error: INSTALLATION FAILED: cannot re-use a name that is still in use”,意思是安装chart时提供的名称已存在,不能重复使用同一个名称。 登录后复制 rootiZ:/usr/local/src/my-helm-repo/charts# helm install mymemcached3 memcached -n te…