Dify源码本地部署启动

背景

Dify是一个开源LLM应用程序开发平台。Dify的直观界面结合了人工智能工作流、RAG管道、代理功能、模型管理、可观察性功能等，让您快速从原型到生产。

Dify提供在线试用功能，可以直接在线体验其功能。同时也支持docker部署，源码部署等方式。源码部署可以查看Dify的实现细节，并进行定制化改造。本次记录源码部署遇到的问题和解决方案。

前置准备

由于是源码部署，还要对Dify进行改造，所以在Windows系统进行部署。本次部署使用win11系统。

Dify官网建议源码在linux系统下启动，所以需要在Windows下安装WSL2，启动linux子系统。本次安装WSL2使用的是Ubuntu 20.04.6系统。

同时需要在Windows系统安装Docker Desktop。点击下载

上面下载链接国内可能打不开，如果打不开需要自己找Docker Desktop安装包进行安装。本次使用的是4.31.1版本Docker Desktop。下载后正常安装Docker Desktop即可。然后注册账号进行登录。后续需要在Docker Desktop上拉取镜像。

部署过程

1. 拉取源码

在Windows系统，拉取源码即可:

git clone https://github.com/langgenius/dify.git

2. 拉取必要镜像

首先，打开拉取的Dify源码代码，在docker文件夹中，打开docker-compose.middleware.yaml文件，看里面定义的镜像已经版本。
包括:

  • image: postgres:15-alpine
  • image: redis:6-alpine
  • image: semitechnologies/weaviate(此处注意，官网定义的版本在Docker Desktop中不能拉取到，所以把版本去掉了，拉取最新版本镜像)
  • image: langgenius/dify-sandbox:0.2.1
  • image: ubuntu/squid:latest

在Docker Desktop中搜索上面镜像，点击pull进行拉取(不要使用Docker Desktop启动镜像)，如下图所示:

在这里插入图片描述

3. 启动容器

通过WSL2系统进入到下载的Dify源码文件夹中，进入docker 文件夹，使用以下命令启动容器:

docker compose -f docker-compose.middleware.yaml up -d

注:Windows系统安装了Docker Desktop后，WSL2系统也可以使用docker命令。

这里遇到一个坑，安装官网操作，上述命令应该能正常启动docker容器。但是在实际操作中postgres容器启动报错。报错信息是:

initdb: error: could not change permissions of directory "/var/lib/postgresql/data/pgdata"

没有操作/var/lib/postgresql/data/pgdata的权限。通过查看docker-compose.middleware.yaml中的定义，如下图:
在这里插入图片描述
在PGDATA和volumes中定义了此路径。

这里的解决方案是绕了一个弯解决此问题，因为我是用源码启动进行Dify源码的学习，所以数据是否要挂载出来并没有太大影响，所以我选择不进行此路径的挂载。同时，PGDATA的系统变量我也不再进行设置，而是使用它的默认值。

这里，我用Docker Desktop来启动postgresql镜像，并没有使用docker compose来启动。

首先，把WSL中使用docker compose启动的postgresql容器stop，然后将其rm删掉。因为这个容器一直报错一直重启，无法正常使用。然后在Windows的Docker Desktop下，启动postgresql镜像，并按照docker-compose.middleware.yaml中的配置来设置启动参数(volumes和PGDATA除外)，如下图所示:
在这里插入图片描述

这样可以正常启动postgres容器，且在WSL2中也可以正常使用。

4. 启动后台服务

后台服务包括一个api service，一个Worker Asynchronous Queue Consumption Service。需要启动这两个服务。

首先需要在WSL2中安装Anaconda，安装方式此处不再进行赘述。
同时需要创建虚拟空间，如下命令所示:

conda create --name dify python=3.10

同时切换到此虚拟环境:

conda activate dify

然后进行以下操作:

  1. 在WSL2中进入Dify源码的api文件夹下，配置.env文件:
cp .env.example .env
  1. 生成SECRET_KEY：
openssl rand -base64 42

  1. 把生成的key复制到.env文件里的SECRET_KEY后面。

  2. 安装api服务需要的python依赖:

pip install -r requirements.txt
  1. 初始化postgres表数据:
flask db upgrade

**注意:**执行到这里时，出现了报错，具体报错博主没有进行记录。大概错误也是少python包。根据报错提示，pip install对应的包，再执行此命令，就可以成功。

  1. 启动api服务:
flask run --host 0.0.0.0 --port=5001 --debug

输入以下字样代表成功:

  • Debug mode: on INFO:werkzeug:WARNING: This is a development server. Do not use it in a production deployment. Use a production WSGI server
    instead. * Running on all addresses (0.0.0.0) * Running on
    http://127.0.0.1:5001 INFO:werkzeug:Press CTRL+C to quit
    INFO:werkzeug: * Restarting with stat WARNING:werkzeug: * Debugger is
    active! INFO:werkzeug: * Debugger PIN: 695-801-919
  1. 启动Worker service服务

重新打开一个WSL2终端，切换到dify虚拟环境，在cd到Dify源码的api文件夹下，执行下面命令:

celery -A app.celery worker -P solo --without-gossip --without-mingle -Q dataset,generation,mail --loglevel INFO

输出以下字样代表启动成功:

-------------- celery@TAKATOST.lan v5.2.7 (dawn-chorus)
— ***** -----
– ******* ---- macOS-10.16-x86_64-i386-64bit 2023-07-31 12:58:08

  • *** — * —
  • ** ---------- [config]
  • ** ---------- .> app: app:0x7fb568572a10
  • ** ---------- .> transport: redis://😗*@localhost:6379/1
  • ** ---------- .> results: postgresql://postgres:**@localhost:5432/dify
  • *** — * — .> concurrency: 1 (gevent)
    – ******* ---- .> task events: OFF (enable -E to monitor tasks in this worker)
    — ***** ----- -------------- [queues]
    .> dataset exchange=dataset(direct) key=dataset
    .> generation exchange=generation(direct) key=generation
    .> mail exchange=mail(direct) key=mail

[tasks] .
tasks.add_document_to_index_task.add_document_to_index_task .
tasks.clean_dataset_task.clean_dataset_task .
tasks.clean_document_task.clean_document_task .
tasks.clean_notion_document_task.clean_notion_document_task .
tasks.create_segment_to_index_task.create_segment_to_index_task .
tasks.deal_dataset_vector_index_task.deal_dataset_vector_index_task
. tasks.document_indexing_sync_task.document_indexing_sync_task .
tasks.document_indexing_task.document_indexing_task .
tasks.document_indexing_update_task.document_indexing_update_task .
tasks.enable_segment_to_index_task.enable_segment_to_index_task .
tasks.generate_conversation_summary_task.generate_conversation_summary_task
. tasks.mail_invite_member_task.send_invite_member_mail_task .
tasks.remove_document_from_index_task.remove_document_from_index_task
. tasks.remove_segment_from_index_task.remove_segment_from_index_task
. tasks.update_segment_index_task.update_segment_index_task .
tasks.update_segment_keyword_index_task.update_segment_keyword_index_task

[2023-07-31 12:58:08,831: INFO/MainProcess] Connected to
redis://:@localhost:6379/1 [2023-07-31 12:58:08,840:
INFO/MainProcess] mingle: searching for neighbors [2023-07-31
12:58:09,873: INFO/MainProcess] mingle: all alone [2023-07-31
12:58:09,886: INFO/MainProcess] pidbox: Connected to
redis://:@localhost:6379/1. [2023-07-31 12:58:09,890:
INFO/MainProcess] celery@TAKATOST.lan ready.

5. 启动前台服务

重新打开一个WSL2终端，进入Dify源码的web文件夹下，进行以下操作:

  1. 安装node以及npm。
    需要Node.js v18.x (LTS) 以上和 NPM version 8.x.x以上。
    安装命令如下:
# installs nvm (Node Version Manager)
curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.7/install.sh | bash

# download and install Node.js (you may need to restart the terminal)
nvm install 18

# verifies the right Node.js version is in the environment
node -v # should print `v18.20.3`

# verifies the right NPM version is in the environment
npm -v # should print `10.7.0`
  1. 下载前端依赖包:
npm install
  1. 复制web文件夹下的.env.example文件，并将复制的文件重命名为.env.local。里面内容无需改动。
  2. 构建前端代码:
npm run build
  1. 启动前端服务:
npm run start

当出现以下字样时，代表启动成功:

ready - started server on 0.0.0.0:3000, url: http://localhost:3000
warn - You have enabled experimental feature (appDir) in
next.config.js. warn - Experimental features are not covered by
semver, and may cause unexpected or broken application behavior. Use
at your own risk. info - Thank you for testing appDir please leave
your feedback at https://nextjs.link/app-feedback

6. 访问系统，初始化账号

访问 http://127.0.0.1:3000 地址，出现登录界面或注册账号界面，代表启动成功。
首先注册账号，此处遇到的坑是密码如果带 * 号或者括号等特殊字符，可以注册成功，但是登录不进去，会有问题。所以设置密码时，只设置字母大小写+数字的密码才行。

最后

本文部署过程参考官方文档。并对官方文档中没有写明的坑进行了补充。可以结合官方文档和本文进行本地化源码部署。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/712697.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

【Vue】Pinia管理用户数据

【Vue】Pinia管理用户数据

Pinia管理用户数据 基本思想：Pinia负责用户数据相关的state和action，组件中只负责触发action函数并传递参数 步骤1：创建userStore 1-创建store/userStore.js import { loginAPI } from /apis/user export const useUserStore defineStore(…
阅读更多...
ARP协议相关

ARP协议相关

把ip地址解析成mac地址这里的mac地址就是路由器的mac地址 免费ARP 源ip和目的ip都是一样的，那怎么让其他人更新arp表呢？？ 是因为目标mac是全f，是一个广播报文 如果冲突就是ip一样但是mac又不一样 代理ARP pc1和pc4是在同一个子网…
阅读更多...
算法训练营第六十天（延长12天添加图论) | LeetCode 647 回文子串、LeetCode 516 最长回文子序列

算法训练营第六十天（延长12天添加图论) | LeetCode 647 回文子串、LeetCode 516 最长回文子序列

LeetCode 67 回文子串 思路很简单&#xff0c;每一个dp[i]等于dp[i-1]加上当前字符向前直到0各个长度字符串回文串个数即可 代码如下&#xff1a; class Solution {public boolean isValid(String s) {int l 0, r s.length() - 1;while (l < r) {if (s.charAt(l) ! s.ch…
阅读更多...
谷歌企业开发者账号注册的常见问题及解决方法

谷歌企业开发者账号注册的常见问题及解决方法

今天跟大家分享一下注册谷歌开发者企业号的一些注意事项和干货&#xff0c;少走一些弯路。 首先&#xff0c;各位开发者朋友应该都知道&#xff0c;谷歌平台上有两种类型开发者账号&#xff1a;个人开发者账号和企业开发者账号。个人账号上架周期长&#xff0c;需要14天的封测&…
阅读更多...
C#传值参数 -1值类型 -2引用类型

C#传值参数 -1值类型 -2引用类型

传值参数 -1值类型 -2引用类型 using System; using System.Collections.Generic; using System.Linq; using System.Text; using System.Threading.Tasks; //传值参数-1、值类型 2、引用类型 namespace PamatetersExample {class Program{static void Main(string[] args){St…
阅读更多...
2 选频网络

2 选频网络

目录 选频网络 什么是选频网络 选频网络的分类 串联谐振回路 等效电路 阻抗特性 品质因素 电压谐振 广义失谐系数 谐振曲线&#xff08;幅频曲线&#xff09; 通频带 相频曲线 考虑信号源内阻与负载电阻 并联谐振回路 等效电路 导纳特性 品质因素 电流谐振…
阅读更多...
C++11 move左值转化为右值

C++11 move左值转化为右值

单纯的左值只能用左值引用和右值只能用右值引用有些局限&#xff0c;在一些情况下&#xff0c;我们也需要对左值去调用右值引用&#xff0c;从而实现将左值里的内容转移到右值中 标准定义&#xff1a; 功能就是将一个左值强制转化为右值&#xff0c;然后实现移动语义 注意&…
阅读更多...
2024年7款硬盘恢复软件：即刻恢复硬盘删除的文件！

2024年7款硬盘恢复软件：即刻恢复硬盘删除的文件！

当文件被删除后&#xff0c;它并不是立即从硬盘中消失&#xff0c;而是被标记为“已删除”&#xff0c;等待垃圾回收处理。因此&#xff0c;在文件被删除后&#xff0c;有几种方法可以尝试恢复删除的数据。 以下是7款常用的数据恢复软件&#xff0c;以及它们的详细介绍&#xf…
阅读更多...
Reactor 网络模型、Java代码实例

Reactor 网络模型、Java代码实例

文章目录 1. 概述2. Reactor 单线程模型2.1 ByteBufferUtil2.2 服务端代码2.3 客户端2.4 运行截图 3. Reactor多线程模型3.1 服务端代码3.2 运行截图 4. 主从 Reactor多线程模型4.1 服务端代码4.2 运行截图 参考文献 1. 概述 在 I/O 多路复用的场景下&#xff0c;当有数据处于…
阅读更多...
apt和apt-get有什么区别?内含常用命令以及软件源配置

apt和apt-get有什么区别?内含常用命令以及软件源配置

有时候我们上网找与Linux相关的资料的时候&#xff0c;经常会需要安装一些软件包&#xff0c;找到的一些文章会贴出命令我们直接去命令行里执行就能一键下载安装&#xff0c;然后这些命令中逃不开的就是apt和apt-get。 那么apt和apt-get有什么区别呢&#xff1f; 首先我们先了…
阅读更多...
类别不平衡

类别不平衡

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 目录 一、介绍1、过采样2、欠采样 二、过采样1、SMOTE&#xff08;常用&#xff09;1、算法流程2、算法实现3、参数介绍 2、ADASYN&#xff08;不常用&#xff09;1、算法流程…
阅读更多...
snap nextcloud 通过不被信任的域名访问

snap nextcloud 通过不被信任的域名访问

安装向导 — Nextcloud latest 管理手册 latest 文档 find / -name config.php trusted_domains >array (0 > localhost,1 > server1.example.com,2 > 192.168.1.50,3 > [fe80::1:50], ), vim /var/snap/nextcloud/42567/nextcloud/config/config.php vim /va…
阅读更多...
Java--多维数组

Java--多维数组

1.多维数组可以看成是数组的数组&#xff0c;比如二维数组就是一个特殊的一维数组&#xff0c;其每一个元素都是一个一维数组 2.二维数组 下列数组啊可看成一个两行五列的数组 int a[][] new int[2][5]; 3.输出二维数组的第一个数组中具体元素&#xff0c;通过调用打…
阅读更多...
Makefile-快速掌握

Makefile-快速掌握

引用 本文完全参照大佬的文档写的&#xff0c;写这篇文章只是为了梳理一下知识 https://github.com/marmotedu/geekbang-go/blob/master/makefile/Makefile%E5%9F%BA%E7%A1%80%E7%9F%A5%E8%AF%86.md 介绍 Makefile是一个工程文件的编译规则&#xff0c;描述了整个工程的编译…
阅读更多...
港风归来‖王晶监制首部民俗电影《民间憋宝传说》定档6月18日

港风归来‖王晶监制首部民俗电影《民间憋宝传说》定档6月18日

随着暑期档的临近&#xff0c;本月即将上映一部备受期待的电影《民间憋宝传说》&#xff0c;本片被视为香港著名导演王晶的强势回归&#xff0c;重新捍卫属于他的“商业片之王”的宝座&#xff0c;无疑为这部电影增添了浓厚的情感色彩与期待值。 一&#xff1a;港风再现 王晶&…
阅读更多...
Linxu开机出现 Generating “/run/initramfs/rdsosreport.txt“解决方案

Linxu开机出现 Generating “/run/initramfs/rdsosreport.txt“解决方案

Linxu开机出现 Generating "/run/initramfs/rdsosreport.txt"解决方案 解决&#xff1a; 一、找这个-root结尾的文件也不一样。 大家可以用ls /dev/mapper查看到自己装的镜像对应的以-root结尾的文件是哪个。 二、所以我们运行的是&#xff1a;xfs_repair /dev/map…
阅读更多...
java：spring使用【XXXPostProcessor】添加bean定义，修改bean定义、代理bean

java：spring使用【XXXPostProcessor】添加bean定义，修改bean定义、代理bean

# 项目代码资源&#xff1a; 可能还在审核中&#xff0c;请等待。。。 https://download.csdn.net/download/chenhz2284/89433361 # 项目代码 【pom.xml】 <dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-start…
阅读更多...
Bytebase 2.19.0 - 支持 DynamoDB

Bytebase 2.19.0 - 支持 DynamoDB

Bytebase 2.19.0 支持 DynamoDB 支持独立的 SQL 审核工单。 支持为工单事件配置 Slack 私信通知。 file 支持 PostgreSQL 的 DML 变更事前备份。 为 SQL Server 添加 SQL 审核规则&#xff1a;禁止冗余索引。 重大变更 创建多数据库工单时&#xff0c;不同数据库会共享同…
阅读更多...
网络安全知识全景地图V1.0 - 20240616更新

网络安全知识全景地图V1.0 - 20240616更新

网络安全领域的知识全景涵盖了从基础概念到高级技术的广泛内容。博主基于自身十年多的工作经验结合CISSP认证官方教材按照不同的主题和层次梳理出如下高层次的概览地图&#xff0c;可以帮助个人和组织理解网络安全领域的主题。 1.1. 基础理论 1.1.1. 网络安全概述 网络安全的…
阅读更多...
区块链中的gas与转账收款相关概念

区块链中的gas与转账收款相关概念

区块链是一个经济系统 计算与存储系统都是稀缺的&#xff0c;区块链的工作需要消耗资源共识、trustless需要矿工的工作&#xff0c;而矿工需要激励Transaction的执行有成本&#xff08;gas&#xff09;,gas费成为矿工的奖励ether是这个经济生态系统的通行货币 关心的问题 合…
阅读更多...
最新文章

Copyright @ 2022~2023