AGI 之 【Dify】 之 使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

目录

AGI 之 【Dify】 之  使用 Docker 在 Windows 端本地部署 Dify 大语言模型（LLM）应用开发平台

一、简单介绍

二、Docker 下载安装

三、Dify 下载安装，及部署

附录：一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running

一、简单介绍

AGI，即通用人工智能（Artificial General Intelligence），是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务，而且能够理解、学习和应用知识于广泛的问题解决中，具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整，并能在没有人为干预的情况下解决各种复杂问题。

Dify 是一个开源的大语言模型（LLM）应用开发平台，它旨在简化和加速生成式 AI 应用的创建和部署。这个平台结合了后端即服务（Backend as Service, BaaS）和 LLMOps 的理念，为开发者提供了一个用户友好的界面和一系列强大的工具，使他们能够快速搭建生产级的 AI 应用。

Dify 的核心功能包括：

  1. 低代码/无代码开发：通过可视化的方式允许开发者轻松定义 Prompt、上下文和插件等，无需深入底层技术细节。
  2. 模块化设计：采用模块化的设计，每个模块都有清晰的功能和接口，可以根据需求选择性地使用。
  3. 丰富的功能组件：包括 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，帮助开发者从原型到生产的全过程。
  4. 支持多种大语言模型：已支持 OpenAI GPT 系列等模型，并计划进一步扩展。
  5. 数据处理和特征工程工具：提供了数据清洗、特征选择、特征变换等功能，帮助开发者更好地准备数据。
  6. 集成外部知识源：允许自定义 API 接入外部知识源，让大型语言模型深入理解企业知识和业务。

Dify 提供了四种基于 LLM 构建的应用程序，可以针对不同的应用场景和需求进行优化和定制，包括聊天助手、文本生成、智能代理和工作流程。此外，Dify 还支持从 Notion 导入数据，并设置同步，使得数据在 Notion 更新后便自动同步到 Dify。Dify 中存在知识库数据集的单独 API，这与他的服务 API 不同，可以单独使用数据集的 API。

Dify 适合各种技术背景的开发者使用，即使是没有编程基础的用户也能快速上手并参与到 AI 应用的定义和数据运营过程中。作为一个开源项目，Dify 在 GitHub 上有活跃的社区支持，鼓励用户贡献和分享经验。

Docker 是一个开源的应用容器引擎，它允许开发者打包他们的应用以及应用的依赖包到一个可移植的容器中，然后发布到任何流行的 Linux 机器上，也可以实现虚拟化。容器是完全使用沙箱机制，相互之间不会有任何接口。

Docker 的主要特点包括：

  1. 轻量级：Docker 容器与其他虚拟化技术相比，占用的资源更少，启动速度更快。

  2. 可移植性：Docker 容器可以在不同的机器、数据中心或云服务提供商之间轻松移动。

  3. 环境一致性：Docker 确保应用在不同环境之间具有一致性，从而减少了“在我机器上可以运行”的问题。

  4. 快速部署：Docker 容器的启动时间通常只需几秒钟，这使得部署应用变得更加迅速。

  5. 微服务架构：Docker 容器非常适合微服务架构，每个服务可以独立运行在自己的容器中。

  6. 版本控制和团队协作：Docker 容器可以与现代的 DevOps 工具链紧密结合，支持持续集成和持续部署（CI/CD）。

  7. 隔离性：每个容器都是相互隔离的，运行在自己的环境中，拥有自己的文件系统。

  8. 安全性：容器提供了一个额外的安全层，因为它们运行在用户空间，并且可以利用 Linux 内核的安全特性。

Docker 使用客户端-服务器架构，使用 Docker 守护进程来管理容器。Docker 客户端与守护进程通信，而守护进程负责构建、运行和分发容器。用户可以通过命令行接口（CLI）、Docker Compose（用于定义和运行多容器 Docker 应用的工具）或图形用户界面（GUI）与 Docker 交互。

注意 Dify Docker部署有部署要求，不过目前一般的电脑都符合要求：

二、Docker 下载安装

Docker Windows 版本下载地址：Windows | Docker Docs

为了在 Windows 系统上部署 Dify，你需要先安装 Docker Desktop。

Windows 中的 Docker 可以依赖于两种环境：Hyper-V（虚拟环境）和 WSL（Windows Linux 子系统）。

其中，利用 WSL 环境的部署方案，这需要你从 Microsoft Store 下载一个 Linux 发行版。

如果你的电脑无法使用 Microsoft Store 下载，比如生产环境电脑，那么可以选择使用基于 Hyper-V 的部署方法。启用 Hyper-V 环境的两种方法，下面介绍启用 Hyper-V 环境的方法，任选其一操作即可：

1、以管理员权限打开 PowerShell 控制台

2、输入如下命令即可

Enable-WindowsOptionalFeature -Online -FeatureName Microsoft-Hyper-V -All

3、或者使用 “启用或关闭 Windows 功能”，找到并勾选“Hyper-V”，然后点击“确定”按钮以启用该功能

4、开启 Hyper-V 功能，会提示重启电脑，这时候重启电脑即可

5、下载 Docker ，根据需要选择下载即可

6、下载好Docker ，双击安装即可

值得注意的是如果使用 Hyper-V ，则需要取消勾选第一项

三、Dify 下载安装，及部署

Dify 官网：Dify.AI · 生成式 AI 应用创新引擎

Dify 进行 Docker Compose 部署可以参考：https://docs.dify.ai/zh-hans/getting-started/install-self-hosted/docker-compose

1、进入 Dify  官网，如图点击进入 Github ，克隆或者下载代码

2、下载好后，Shift + 鼠标右键，打开 Powershell

3、在 Powershell 中，进入 Dify 源代码的 Docker 目录 ，复制环境配置文件

命:1：cd .\docker\

命令2：cp .env.example .env

4、这里就要启动 Docker，确定当前的 Docker  版本

根据你系统上的 Docker Compose 版本，选择合适的命令来启动容器。

你可以通过命令：docker compose version 检查版本

  •     如果版本是 Docker Compose V2，使用以下命令：docker compose up -d
  •     如果版本是 Docker Compose V1，使用以下命令：docker-compose up -d

5、这里是 V2 版本，使用 docker compose up -d 命令来启动容器

运行命令后，开始会拉取数据，然后会看到类似以下的输出，显示所有容器的状态和端口映射：

6、运行完之后，输入 命令可以看到运行的服务

命令：docker compose ps

7、docker 界面也运行正常

8、在浏览器上，输入 http://localhost/install ，这时候也会正常显示设置管理员账号界面

输入信息，配置登录账号

9、在浏览器上，输入 http://localhost/signin，这时候也会正常显示登陆界面，登陆即可

10、登录之后，在工作室创建你的应用，开始玩转 Dify 吧

附录：一些报错问题处理

一、启动容器报错 Get "https://registry-1.docker.io/v2/": net/http: request canceled

Error response from daemon: Get "https://registry-1.docker.io/v2/": net/http: request canceled while waiting for connection (Client.Timeout exceeded while awaiting headers)

分析可能原因：

1）这个是因为源的问题，我们可以使用国内的镜像源。具体操作为：找到C:\Users\Administrator.docker\daemon.json（或者C:\Users\你的用户名.docker\daemon.json）文件

（如果.docker文件下没有daemon.json文件，就自己手动新增）

2）然后添加以下内容：

{
    "registry-mirrors": [
            "https://docker.211678.top",
            "https://docker.1panel.live",
            "https://hub.rat.dev",
            "https://docker.m.daocloud.io",
            "https://do.nark.eu.org",
            "https://dockerpull.com",
            "https://dockerproxy.cn",
            "https://docker.awsl9527.cn"
      ]
}

3）保存后重启docker，重启操作为在打开docker Desktop的前提下，点击电脑右小角的小图标，点击“Restart ”，版本不同可能显示不同。

二、docker compose up -d 的时候，docker-db-1 总是重启 Restarting，无法正常 Running

此时 http://localhost/install 界面也一直在转圈，网页一直加载中

docker-db-1 相关日志如下：

running bootstrap script ... 2024-10-14T04:20:59.355405500Z The files belonging to this database system will be owned by user "postgres".
2024-10-14 12:20:59 This user must also own the server process.
2024-10-14 12:20:59 
2024-10-14 12:20:59 The database cluster will be initialized with locale "en_US.utf8".
2024-10-14 12:20:59 The default database encoding has accordingly been set to "UTF8".
2024-10-14 12:20:59 The default text search configuration will be set to "english".
2024-10-14 12:20:59 
2024-10-14 12:20:59 Data page checksums are disabled.
2024-10-14 12:20:59 
2024-10-14 12:20:59 fixing permissions on existing directory /var/lib/postgresql/data/pgdata ... ok
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:19:58 2024-10-14 04:19:58.620 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:19:58 child process exited with exit code 1
2024-10-14 12:19:58 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:20:59 creating subdirectories ... ok
2024-10-14 12:20:59 selecting dynamic shared memory implementation ... posix
2024-10-14 12:20:59 selecting default max_connections ... 20
2024-10-14 12:21:00 selecting default shared_buffers ... 400kB
2024-10-14 12:21:00 selecting default time zone ... UTC
2024-10-14 12:21:00 creating configuration files ... ok
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] FATAL:  data directory "/var/lib/postgresql/data/pgdata" has invalid permissions
2024-10-14 12:21:00 2024-10-14 04:21:00.539 UTC [63] DETAIL:  Permissions should be u=rwx (0700) or u=rwx,g=rx (0750).
2024-10-14 12:21:00 child process exited with exit code 1
2024-10-14 12:21:00 initdb: removing contents of data directory "/var/lib/postgresql/data/pgdata"
2024-10-14 12:21:00 running bootstrap script ...

解决方式之一如下

1、在 dify/docker 文件夹下找到 docker-compose.yaml

2、找到文件夹中的 volumes/db/data ，替换为 postgres-data，如下图

（不同版本，内容可能有些不一样）

3、最后在末尾，添加上 postgres-data

4、保存上面修改，然后在 powershell down 一下 容器

命令：docker compose down -v

5、之后，再次重新启动一下容器

命令：docker compose up

6、docker-db-1 运行正常了

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/982204.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

Redis的持久化-RDBAOF

Redis的持久化-RDBAOF

文章目录 一、 RDB1. 触发机制2. 流程说明3. RDB 文件的处理4. RDB 的优缺点 二、AOF1. 使用 AOF2. 命令写⼊3. 文件同步4. 重写机制5 启动时数据恢复 一、 RDB RDB 持久化是把当前进程数据生成快照保存到硬盘的过程，触发 RDB 持久化过程分为手动触发和自动触发。 …
阅读更多...
常见网络协议考察知识点

常见网络协议考察知识点

说说http,https协议； HTTPS（Secure Hypertext Transfer Protocol）安全超文本传输协议： 它是一个安全通信通道，它基于HTTP开发，用于在客户计算机和服务器之间交换信息，它使用安全套接字层(SSL)…
阅读更多...
上海市闵行区数据局调研云轴科技ZStack，共探数智化转型新路径

上海市闵行区数据局调研云轴科技ZStack，共探数智化转型新路径

为进一步深化人工智能、大模型技术的应用，推动区域数字经济高质量发展，2025年2月27日，上海市闵行区数据局局长吴畯率队赴上海云轴科技股份有限公司（以下简称“云轴科技ZStack”）开展专题调研。此次调研旨在深入了解企业…
阅读更多...
数据结构秘籍（四） 堆 （详细包含用途、分类、存储、操作等）

数据结构秘籍（四） 堆 （详细包含用途、分类、存储、操作等）

1 引言 什么是堆？ 堆是一种满足以下条件的树：（树这一篇可以参考我的文章数据结构秘籍（三）树 （含二叉树的分类、存储和定义）-CSDN博客） 堆中的每一个结点值都大于等于&#xff08…
阅读更多...
MySQL增量更新数据：高效同步策略与PanguSync实战指南

MySQL增量更新数据：高效同步策略与PanguSync实战指南

Mysql增量更新数据软件下载https://pan.baidu.com/s/1WesHaKGO7uQMhPNE-BTDmg?pwdabcd#list/path%2F 在数据驱动的商业环境中，实时数据同步已成为企业数字化转型的关键。本文将深入探讨MySQL增量更新的核心技术，并详细解析如何通过PanguSync工具实现高…
阅读更多...
【Wireshark 02】抓包过滤方法

【Wireshark 02】抓包过滤方法

一、官方教程 Wireshark 官网文档 ： Wireshark User’s Guide 二、显示过滤器 2.1、 “数据包列表”窗格的弹出过滤菜单 例如，源ip地址作为过滤选项，右击源ip->prepare as filter-> 选中 点击选中完，显示过滤器&#…
阅读更多...
开发环境搭建-02.后端环境搭建-熟悉项目结构

开发环境搭建-02.后端环境搭建-熟悉项目结构

一.后端环境搭建
阅读更多...
run方法执行过程分析

run方法执行过程分析

文章目录 run方法核心流程SpringApplicationRunListener监听器监听器的配置与加载SpringApplicationRunListener源码解析实现类EventPublishingRunListener 初始化ApplicationArguments初始化ConfigurableEnvironment获取或创建环境配置环境 打印BannerSpring应用上下文的创建S…
阅读更多...
前端知识一

前端知识一

（ref函数）1.为什么vue3中使用ref来创建响应式数据，而不是直接声明一个变量 import { ref } from "vue";const count ref(0); // 创建一个响应式的计数器，初始值为0function increment() {count.value; // 增加计数器的…
阅读更多...
STM32---FreeRTOS中断管理试验

STM32---FreeRTOS中断管理试验

一、实验 实验目的：学会使用FreeRTOS的中断管理 创建两个定时器，一个优先级为4，另一个优先级为6；注意：系统所管理的优先级范围 ：5~15 现象：两个定时器每1s，打印一段字符串&#x…
阅读更多...
数据结构知识学习小结

数据结构知识学习小结

一、动态内存分配基本步骤 1、内存分配简单示例： 个人对于示例的理解： 定义一个整型的指针变量p（着重认为它是一个“变量”我觉得可能会更好理解），这个变量用来存地址的，而不是“值”，malloc函…
阅读更多...
swift4-汇编分析枚举内存布局

swift4-汇编分析枚举内存布局

一、枚举的内存原理 1.1 常规case enum TestEnum { case test1, test2, test3 } var t TestEnum.test1 t .test2 t .test3枚举是常规的case的情况-是采取一个字节来存枚举变量通过拿到枚举的内存地址，看地址里面存的枚举值情况窥探枚举内存存储情况 var t Te…
阅读更多...
Anolis服务器Arm64架构服务器配置（其他版本服务器解决方式思路一质）

Anolis服务器Arm64架构服务器配置（其他版本服务器解决方式思路一质）

Anolis服务器Arm64架构服务器配置 1.nginx配置1.1.尝试安装nginx1.2.资源准备1.2.1.查看服务器系统版本：1.2.2.下载依赖包：1.3.正式安装nginx1.3.1.下载nginx并上传服务器1.3.2.开始安装nginx1.4.防火墙配置1.4.1.直接关闭防火墙：不推荐，但省事1.4.2.命令介绍1.4.3.配置开启…
阅读更多...
threejs:着色器onBeforeCompile给导入的模型添加光带扫描效果

threejs:着色器onBeforeCompile给导入的模型添加光带扫描效果

模型材质属性丢失 上一篇博客我们学习了用着色器给模型添加光带扫描效果，今天来学习给导入的模型添加光带扫描效果，目标是给如下图的立筒仓加光带扫描。 首先我们试试原来的方法还是否有效。 import * as THREE from three;// 引入gltf模型加载库GLTFL…
阅读更多...
MySQL零基础教程16—表连接进阶

MySQL零基础教程16—表连接进阶

复习表别名 之前已经学习过，查询的时候可以使用as来对检索的列进行重命名，这样可以让sql更加简介，增强易读性（as可以省略） 此外，使用表别名还可以支持在一条select语句中，一个表是被多次使用 …
阅读更多...
K8s控制器Deployment详解

K8s控制器Deployment详解

回顾 ReplicaSet 控制器,该控制器是用来维护集群中运行的 Pod 数量的，但是往往在实际操作的时候，我们反而不会去直接使用 RS，而是会使用更上层的控制器，比如说 Deployment。 Deployment 一个非常重要的功能就是实现了 Pod 的滚动…
阅读更多...
rabbitmq-amqp事务消息+消费失败重试机制+prefetch限流

rabbitmq-amqp事务消息+消费失败重试机制+prefetch限流

1. 安装和配置 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> </dependency><dependency> <groupId>com.fasterxml.jackson.core</groupId> <arti…
阅读更多...
探秘基带算法：从原理到5G时代的通信变革【八】QAM 调制 / 解调

探秘基带算法：从原理到5G时代的通信变革【八】QAM 调制 / 解调

文章目录 2.7 QAM 调制 / 解调2.7.1 概述2.7.2 星座图星座图的结构与性能发射端的信息编码与接收端的解码差分编码的分类与实现差分编码的模4格雷加法器公式16QAM星座图与映射关系 2.7.3 信号表达式正交振幅调制的基本原理与系统分析相位误差对QAM性能的影响多电平正交振幅调制…
阅读更多...
idea生成自定义Maven原型(archetype)项目工程模板

idea生成自定义Maven原型(archetype)项目工程模板

一、什么是Maven原型&#xff08;Maven archetype&#xff09; 引自官网的介绍如下&#xff1a; Maven原型插件官网地址 这里采用DeepSeek助手翻译如下&#xff1a; Maven 原型 什么是原型&#xff1f; 简而言之&#xff0c;原型是一个 Maven 项目模板工具包。原型被定义为一…
阅读更多...
决策树（Decision Tree）基础知识

决策树（Decision Tree）基础知识

目录 一、回忆1、*机器学习的三要素&#xff1a;1&#xff09;*函数族2&#xff09;*目标函数2.1&#xff09;*模型的其他复杂度参数 3&#xff09;*优化算法 2、*前处理/后处理1&#xff09;前处理&#xff1a;特征工程2&#xff09;后处理&#xff1a;模型选择和模型评估 3、…
阅读更多...
最新文章

Copyright @ 2022~2023