DeepSeek本地化部署【window下安装】【linux下安装】

一、window 本地安装指导

1.1、下载window安装包

https://ollama.com/download/OllamaSetup.exe

1.2、点击下载好的安装包进行安装

检测安装是否成功:

C:\Users\admin>ollama -v
ollama version is 0.5.7

有上面的输出,则证明已经安装成功。

配置系统的环境变量

# 配置ollama监听网址,这里表示监听所有网卡
OLLAMA_HOST=0.0.0.0:11434
# 下载的大模型存放路径
OLLAMA_MODELS=F:\ollama_model

这里最后重启下电脑,使得设置的环境变量生效。

1.3、运行需要的大模型

在ollama官网搜索,deepseek,这里选择deepseek-coder来进行部署

在这里插入图片描述

并且选择1.3b参数的模型进行部署(资源有限,先保证能用)。

运行命令为:

ollama run deepseek-coder

二、linux本地安装指导

ollama api使用指南:

https://github.com/datawhalechina/handy-ollama/blob/main/docs/C4/1.%20Ollama%20API%20%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

2.1、下载安装ollama

1、安装ollama模型

curl -fsSL https://ollama.com/install.sh | sh

修改

/etc/systemd/system/ollama.service

添加上环境变量即可

OLLAMA_HOST=0.0.0.0:11434

重新启动ollama服务

sudo systemctl daemon-reload
sudo systemctl restart ollama

2.2、下载模型

ollama run deepseek-r1:1.5b

2.3、测试模型

curl http://localhost:11434/api/generate -d '{
  "model": "deepseek-r1:1.5b",
  "prompt": "你是一个高级运维工程师。你的职责",
  "stream": false
}'


curl http://localhost:11434/api/chat -d '{
  "model": "deepseek-coder:latest",
  "messages": [
    {
      "role": "user",
      "content": "为什么草是绿的?"
    }
  ],
  "stream": false
}'



curl http://localhost:11434/v1/chat/completions -d '{
    "model": "deepseek-coder:latest",
  "messages": [
    {
      "role": "user",
      "content": "使用java实现一个冒泡排序算法"
    }
  ],
  "stream": false
}'

三、IDEA接入私有化部署的Deepseek大模型

安装CodeGPT插件

3.1、在插件市场搜索CodeGPT,并进行安装。

在这里插入图片描述

3.2、配置codeGPT

在这里插入图片描述

安装上述图片描述进行配置。

其中URL:部署Deepseek的服务器的IP地址和端口

请求体中model参数是你安装那个deepseek大模型的名称。可以通过ollama list来列出已经安装的大模型。

[root@iZbp156z1grx9j03c0zl8tZ ~]# ollama list
NAME                     ID              SIZE      MODIFIED
deepseek-coder:latest    3ddd2d3fc8d2    776 MB    About an hour ago

如果通过ollama安装了多个大模型,你可以指定其他大模型,但是名称要跟使用上面命令列出的模型名称保持一致。

指定刚刚配置的模型为我们的编码助手。

在这里插入图片描述

3.3、测试功能是否可用

在这里插入图片描述

经过测试,发现已经可以通过codeGPT插件调用Deepseek的大模型了。

四、Deepseek本地部署的大模型API调用

可以参考下面的文档进行使用

ollama api使用指南:

https://github.com/datawhalechina/handy-ollama/blob/main/docs/C4/1.%20Ollama%20API%20%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

此外,ollama 还支持通过openAI格式的接口调用,

如对话接口:

http://8.136.125.228:11434/v1/chat/completions

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/969966.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【第1章:深度学习概览——1.4 深度学习的核心组件与概念解析之激活函数的作用与类型】

嘿,各位技术小伙伴们,今天咱们来聊聊深度学习中的一个超级重要的概念——激活函数。这可是深度学习模型中的“调味剂”,让模型变得更加灵活和强大。准备好了吗?咱们这就开讲! 一、激活函数是什么? 激活函数,简单来说,就是神经网络中的一层“魔法调料”。它给神经网络…

智慧升级,赋能未来——开启安全高效与绿色低碳新篇章

在数字化转型与“双碳”目标的驱动下,古河云科技携手全球领先的AI企业DeepSeek,以“AI数字孪生”为核心,推出全新一代智能运维与能碳管理解决方案,助力企业实现安全管控、设备效能优化、绿色节能与高效管理四大维度的全面升级&…

SpringCloud - Seata 分布式事务

前言 该博客为Sentinel学习笔记,主要目的是为了帮助后期快速复习使用 学习视频:7小快速通关SpringCloud 辅助文档:SpringCloud快速通关 源码地址:cloud-demo 一、简介 官网:https://seata.apache.org/zh-cn/ Seata …

Java面试宝典:说下Spring Bean的生命周期?

Java面试宝典专栏范围:JAVA基础,面向对象编程(OOP),异常处理,集合框架,Java I/O,多线程编程,设计模式,网络编程,框架和工具等全方位面试题详解 每…

基于Swift实现仿IOS闹钟

仿 iOS 系统闹钟 添加闹钟效果图 收到通知效果图 更新日志 2018.09.12 由于 iOS 系统限制了注册本地推送的数量,最大的注册量为 64 条,且一旦超出 64 条,所有的推送都将失效,故而在添加推送的时候做了一个判断,超过…

如何使用 DeepSeek R1 构建开源 ChatGPT Operator 替代方案

开源大型语言模型(LLMs)的兴起使得创建 AI 驱动的工具比以往任何时候都更容易,这些工具可以与 OpenAI 的 ChatGPT Operator 等专有解决方案相媲美。在这些开源模型中,DeepSeek R1 以其强大的推理能力、自由的可访问性和适应性而脱…

力反馈设备在工厂生产中遥操作机器人的应用优势

工业自动化与智能化已经成为现代工厂提升生产效率、保障人员安全的关键手段。在这一背景下,Haption Virtuose力反馈设备凭借其卓越的性能和广泛的应用前景,在机器人遥操作领域脱颖而出,尤其在工厂生产中展现出了显著的应用优势。本文将深入探…

【STM32】输入捕获实现超声波测距

1.超声波测距原理 (超声波发出到 遇到障碍物反弹回来的时间)*声速/2就是到障碍物的距离 操作过程: 单片机给TRIG引脚输出一个脉冲,然后超声波模块会将ECHO电平拉高,当超声波遇到障碍物回来时,ECHO电平就会…

phpipam1.7安装部署

0软件说明 phpipam是一个开源Web IP地址管理应用程序(IPAM) phpipam官网:https://www.phpipam.net/ 1安装环境 操作系统:Rocky Linux9.5x86_64 phpipam版本:1.7 php版本:8.0.30 数据库版本&#xff1a…

【C语言】C语言 好声音比赛管理系统(含源码+数据文件)【独一无二】

👉博__主👈:米码收割机 👉技__能👈:C/Python语言 👉专__注👈:专注主流机器人、人工智能等相关领域的开发、测试技术。 【C语言】C语言 好声音比赛管理系统(含…

WPF进阶 | 深入 WPF 依赖项属性:理解其强大功能与应用场景

WPF进阶 | 深入 WPF 依赖项属性:理解其强大功能与应用场景 前言一、依赖项属性基础概念1.1 什么是依赖项属性1.2 依赖项属性与 CLR 属性的区别1.3 依赖项属性的定义与注册 二、依赖项属性的原理深入剖析2.1 依赖项属性系统的工作机制2.2 元数据(Metadata…

QML使用ChartView绘制饼状图

一、工程配置 首先修改CMakeLists.txt,按下图修改: find_package(Qt6 6.4 REQUIRED COMPONENTS Quick Widgets) PRIVATEtarget_link_libraries(appuntitledPRIVATE Qt6::QuickPRIVATE Qt6::Widgets )其次修改main.cpp,按下图修改&#xff…

单片机上SPI和IIC的区别

SPI(Serial Peripheral Interface)和IC(Inter-Integrated Circuit)是两种常用的嵌入式外设通信协议,它们各有优缺点,适用于不同的场景。以下是它们的详细对比: — 1. 基本概念 SPI&#xff0…

2025年02月12日Github流行趋势

项目名称:data-formulator 项目地址url:https://github.com/microsoft/data-formulator 项目语言:TypeScript 历史star数:4427 今日star数:729 项目维护者:danmarshall, Chenglong-MS, apps/dependabot, mi…

LeetCode《算法通关手册》 1.2 数组排序

Python强推:算法通关手册(LeetCode) | 算法通关手册(LeetCode) (itcharge.cn) 目录 文章目录 1.2 数组排序1.2.1 选择排序1.2.2 冒泡排序[283. 移动零 - 力扣(LeetCode)](https://leetcode.cn/p…

DeepSeek R1打造本地化RAG知识库

本文将详细介绍如何使用Ollama、Deepseek R1大语音模型、Nomic-Embed-Text向量模型和AnythingLLM共同搭建一个本地的私有RAG知识库。 一. 准备工作 什么是RAG? RAG是一种结合了信息检索和大模型(LLM)的技术,在对抗大模型幻觉、…

网页版贪吃蛇小游戏开发HTML实现附源码!

项目背景 贪吃蛇是一款经典的休闲小游戏,因其简单易玩的机制和丰富的变形而深受玩家喜爱。本次开发目标是实现一款网页版贪吃蛇小游戏,并通过前端与后端结合的方式,提供一个流畅的在线体验。 实现过程 游戏逻辑设计 蛇的移动:…

简易 Shell 实现指南

目录 前言: 一、代码中的核心功能 1. 环境变量获取 2. 当前路径处理 3. 用户输入处理 4. 命令解析 5. 内建命令处理 6. 外部命令执行 7. 错误处理 二、代码中涉及的关键知识点 1. 系统调用 2. 环境变量 3. 字符串处理 4. 文件操作 5. 进程管理 三、…

快速排序

目录 什么是快速排序: 图解: 递归法: 方法一(Hoare法): 代码实现: 思路分析: 方法二(挖坑法): 代码实现: 思路分析: 非递…

网络安全尹毅 《网络安全》

一 网络安全基本概念 1.网络安全定义 安全在字典中的定义是为了防范间谍活动或蓄意破坏、犯罪、攻击而采取的措施。网络安全就是为了防范计算机网络硬件、软件、数据被偶然或蓄意破坏、篡改、窃听、假冒、泄露、非法访问以及保护网络系统持续有效工作的措施总和。网络安全保护…