Ubuntu22.04 配置deepseek知识库

文章目录

      • 安装 docker
      • 配置 dify
      • 配置 ollama
      • 创建大模型

安装 docker

  • 更新系统:
    sudo apt update
    sudo apt upgrade -y
    
  • 安装必要的依赖:
    sudo apt install apt-transport-https ca-certificates curl software-properties-common -y
    
  • 添加 Docker 的官方 GPG 密钥:
    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
    
  • 添加 Docke r的 APT 源:
    echo "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
    
  • 更新软件包并安装 docker :
    sudo apt-get update
    sudo apt-get install docker-ce docker-ce-cli containerd.io
    
  • 启动并验证 docker :
    sudo systemctl start docker  # 启动 Docker 服务
    sudo systemctl enable docker  # 设置 Docker 服务为开机自启动
    sudo systemctl status docker # 检查 Docker 守护进程状态
    
  • 调整镜像源:
    sudo vim /etc/docker/daemon.json
    
    配置如下地址:
    {
    "registry-mirrors": [
    "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
    "https://docker.m.daocloud.io",
    "https://hub-mirror.c.163.com",
    "https://mirror.baidubce.com",
    "https://your_preferred_mirror",
    "https://dockerhub.icu",
    "https://docker.registry.cyou",
    "https://docker-cf.registry.cyou",
    "https://dockercf.jsdelivr.fyi",
    "https://docker.jsdelivr.fyi",
    "https://dockertest.jsdelivr.fyi",
    "https://mirror.aliyuncs.com",
    "https://dockerproxy.com",
    "https://mirror.baidubce.com",
    "https://docker.m.daocloud.io",
    "https://docker.nju.edu.cn",
    "https://docker.mirrors.sjtug.sjtu.edu.cn",
    "https://docker.mirrors.ustc.edu.cn",
    "https://mirror.iscas.ac.cn",
    "https://docker.rainbond.cc"
    ]
    }
    
    重新加载配置文件及 docker 服务:
    systemctl daemon-reload
    systemctl restart docker
    
  • 拉取镜像测试:
    sudo docker pull hello-world
    sudo docker run hello-world
    
  • 加入当前用户进 docker 组:
    sudo usermod -aG docker $USER
    
    这里的 $USER 是当前登录的用户名。

配置 dify

  • 拉取 dify:
    git clone https://github.com/langgenius/dify.git
    
  • 进入 Dify 源代码的 Docker 目录,启动Dify:
    cd dify/docker
    cp .env.example .env
    sudo docker compose up -d
    
  • 查看当前运行的 docker 服务:
    docker ps
    
    在这里插入图片描述

配置 ollama

  • 安装 ollama:
    curl -fsSL https://ollama.com/install.sh | sh
    
  • 启动服务:
    sudo systemctl daemon-reload
    sudo systemctl enable ollama
    sudo systemctl start ollama
    
  • 配置环境变量:
    sudo vim /etc/systemd/system/ollama.service
    
    [Service] 部分下添加一行 Environment
    [Service]
    Environment="OLLAMA_HOST=0.0.0.0"
    
    重载 systemd 并重启 Ollama :
    systemctl daemon-reload 
    systemctl restart ollamai
    
  • 拉取大模型及服务:
    ollama run deepseek-r1:7b
    ollama pull bge-large
    
  • 配置 ollama:
    在 Dify 主界面,点击右上角个人名字圆圈,点击设置——模型供应商——Ollama:
    在这里插入图片描述
    若 Dify 为 docker 部署,建议填写局域网 IP 地址或 docker 宿主机 IP 地址;若为本地源码部署,可填写 http://localhost:11434。
    当模型支持多模态时,可勾选 Vision
    在这里插入图片描述
  • 为知识库添加 bge-large 模型:
    在这里插入图片描述

创建大模型

回到主页面当中,点击创建空白应用

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/967367.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【AIGC】冷启动数据与多阶段训练在 DeepSeek 中的作用

博客主页: [小ᶻ☡꙳ᵃⁱᵍᶜ꙳] 本文专栏: AIGC | ChatGPT 文章目录 💯前言💯冷启动数据的作用冷启动数据设计 💯多阶段训练的作用阶段 1:冷启动微调阶段 2:推理导向强化学习(RL&#xff0…

LSTM的介绍

网上一些描述LSTM文章看的云里雾里,只是介绍LSTM 的结构,并没有说明原理。我这里用通俗易懂的话来描述一下。 我们先来复习一些RNN的核心公式: h t t a n h ( W h h t − 1 W x x t b h ) h_t tanh(W_h h_{t-1} W_x x_t b_h) ht​tan…

推荐一款 免费的SSL,自动续期

支持自动续期 、泛域名 、可视化所有证书时效性 、可配置CDN 的一款工具。免费5个泛域名和1个自动更新。 链接 支持:nginx、通配符证书、七牛云、腾讯云、阿里云、CDN、OSS、LB(负载均衡) 执行自动部署脚本 提示系统过缺少crontab 安装cro…

RTD2775QT/RTD2795QT瑞昱显示器芯片方案

RTD2775QT与RTD2795QT:高性能4K显示驱动芯片 RTD2775QT与RTD2795QT是瑞昱半导体公司推出的两款高性能显示驱动芯片,专为满足现代显示设备对高清、高分辨率的需求而设计。这两款芯片不仅支持4K分辨率,还具备丰富的功能和卓越的性能&#xff0…

Windows逆向工程入门之汇编环境搭建

公开视频 -> 链接点击跳转公开课程博客首页 -> ​​​链接点击跳转博客主页 Visual Studio逆向工程配置 基础环境搭建 Visual Studio 官方下载地址安装配置选项(后期可随时通过VS调整) 使用C的桌面开发 拓展可选选项 MASM汇编框架 配置MASM汇编项目 创建新项目 选择空…

活动预告 |【Part1】Microsoft Azure 在线技术公开课:AI 基础知识

课程介绍 参加“Azure 在线技术公开课:AI 基础知识”活动,了解 AI 核心概念。参加我们举办的本次免费培训活动,了解组织如何使用 AI 技术克服实际挑战,以及如何借助 Azure AI 服务构建智能应用程序。本次培训适用于任何对 AI 解决…

小程序生命周期函数,wxs

1.扩展自定义编译模式 2.生命周期函数概念与分类 3.应用生命周期函数 4.页面生命周期函数 5.wxs的概念 6.wxs基本用法 6.1内嵌wxs脚本 6.2定义外联的wxs脚本 6.3使用外联的wxs脚本 7.wxs特点

StochSync:可在任意空间中生成360°全景图和3D网格纹理

StochSync方法可以用于在任意空间中生成图像,尤其是360全景图和3D网格纹理。该方法利用了预训练的图像扩散模型,以实现零-shot生成,消除了对新数据收集和单独训练生成模型的需求。StochSync 结合了 Diffusion Synchronization(DS&…

免费在腾讯云Cloud Studio部署DeepSeek-R1大模型

2024年2月2日,腾讯云宣布DeepSeek-R1大模型正式支持一键部署至腾讯云HAI(高性能应用服务)。开发者仅需3分钟即可完成部署并调用模型,大幅简化了传统部署流程中买卡、装驱动、配网络、配存储、装环境、装框架、下载模型等繁琐步骤。…

基于Flask搭建AI应用,本地私有化部署开源大语言模型

一、概述 随着人工智能技术的飞速发展,越来越多的企业和开发者希望在本地环境中部署和使用大语言模型,以确保数据隐私和安全性。本文将介绍如何基于Flask框架搭建一个AI应用,并在本地私有化部署开源的大语言模型。 二、背景 大语言模型&…

[小白入门]PostgreSQL too many clients already

场景 PostgreSQL 遇到too many clients already 连接 PostgreSQL 数据库时,突然遭遇到了一个报错:“FATAL: sorry, too many clients already”。这一错误提示表明数据库连接数已经达到上限,无法再创建新连接。 分析 可以通过以下几个SQL查…

WEB小项目--自动轮播图

目录 目的 代码 技术细节 1. HTML结构 基本结构 具体内容 内容布局 2. CSS样式 3. JavaScript功能 小结 目的 为了在用户浏览网页时制造更好的视觉效果和交互体验 代码 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"…

LabVIEW图像水印系统

图像水印技术在数字图像处理中起着重要作用&#xff0c;它能够保护图像的版权、确保图像的完整性&#xff0c;并提供额外的信息嵌入。本项目旨在利用LabVIEW开发一个图像水印系统&#xff0c;实现图像水印的嵌入和提取功能&#xff0c;为数字图像处理提供便捷的工具。 一、项目…

Mp4视频播放机无法播放视频-批量修改视频分辨率(帧宽、帧高)

背景 家人有一台夏新多功能 视频播放器(夏新多功能 视频播放器),用来播放广场舞。下载了一些广场舞视频, 只有部分视频可以播放,其他视频均无法播放,判断应该不是帧速率和数据速率的限制, 分析可能是播放器不支持帧高度大于720的视频。由于视频文件较多,需要借助视频编…

git rebase 和 git merge的区别

Rebase 可使提交树变得很干净, 所有的提交都在一条线上。 Merge 则是包含所有的调试记录&#xff0c;合并之后&#xff0c;父级的所有信息都会合并在一起 Rebase 修改了提交树的历史 比如, 提交 C1 可以被 rebase 到 C3 之后。这看起来 C1 中的工作是在 C3 之后进行的&#xf…

Day38-【13003】短文,二叉树,完全二叉树,二叉树的顺序存储,和链式存储

文章目录 第二节 二叉树二叉树的定义及重要性质n个结点&#xff0c;能组合成多少个不同的二叉树满二叉树、完全二叉树完全二叉树的性质二叉树的性质二叉树的结点数完全二叉树的高度 二叉树的存储顺序存储方式链式存储方式二叉链表的程序实现二叉链表空指针域计算 第二节 二叉树…

echarts 3d中国地图飞行线

一、3D中国地图 1. 一定要使用 echarts 5.0及以上的版本; 2. echarts 5.0没有内置中国地图了。点击下载 china.json&#xff1b; 3. 一共使用了四层地图。 &#xff08;1&#xff09;第一层是中国地图各省细边框和展示南海诸岛&#xff1b; &#xff08;2&#xff09;第二层是…

傅里叶公式推导(一)

文章目录 三角函数系正交证明图观法数学证明法计算当 n不等于m当 n等于m&#xff08;重点&#xff09; 其它同理 首先要了解的一点基础知识&#xff1a; 三角函数系 { sin ⁡ 0 , cos ⁡ 0 , sin ⁡ x , cos ⁡ x , sin ⁡ 2 x , cos ⁡ 2 x , … , sin ⁡ n x , cos ⁡ n x ,…

SSA-TCN麻雀算法优化时间卷积神经网络时间序列预测未来Matlab实现

SSA-TCN麻雀算法优化时间卷积神经网络时间序列预测未来Matlab实现 目录 SSA-TCN麻雀算法优化时间卷积神经网络时间序列预测未来Matlab实现预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.Matlab实现SSA-TCN麻雀算法优化时间卷积神经网络时间序列预测未来&#xff08;优…

DeepSeek 助力 Vue 开发:打造丝滑的步骤条

前言&#xff1a;哈喽&#xff0c;大家好&#xff0c;今天给大家分享一篇文章&#xff01;并提供具体代码帮助大家深入理解&#xff0c;彻底掌握&#xff01;创作不易&#xff0c;如果能帮助到大家或者给大家一些灵感和启发&#xff0c;欢迎收藏关注哦 &#x1f495; 目录 Deep…