DB-GPT系列(二):DB-GPT部署(镜像一键部署、源码部署)

一、简介

DB-GPT 是一个开源项目,其将大语言模型 LLM 与数据库紧密结合。该项目主要致力于探索如何让预训练的大规模语言模型(例如 GPT)能够直接与数据库进行交互,从而生成更为准确且信息丰富的回答。

DB-GPT部署后能否直接使用以下六大应用场景:

  • Chat Excel(Excel对话):可以围绕某个Excel数据文件进行快速分析,允许用户上传数据文件并直接对其进行分析;
  • Chat Dashboard(仪表盘对话):可以围绕某个数据库,针对某个问题进行多维度分析与可视化展示;
  • Chat Data(数据对话):可以连接本地各种不同类型关系型数据库,并围绕数据库中的某个库进行跨表问答;
  • Chat DB(数据库对话):通过对话,进行问询式SQL代码创建;(但是不运行)
  • Chat Normal(原生对话):与原生大模型进行对话
  • Chat Knowledge(知识库对话):借助RAG实现私有知识库问答,用户可以自定义传输企业业务说明文档、专家文档或数据字典等信息,并围绕相关问题进行问答,从而辅助用户快速了解企业业务,或辅助进行业务决策等;

除此之外,还能进行promopt管理、知识库应用、自定义智能体应用、Text2SQL微调等高阶应用

DB-GPT有多种部署方式,包括镜像一键部署、源码部署、Docker部署、小程序云部署等,可以适应于不同场景应用需求。下面介绍镜像一键部署、源码部署两种最方便的部署方式。

二、AutoDL镜像一键部署

1、登录AutoDL,选择DB-GPT镜像创建服务器实例

进入AutoDL官网AutoDL算力云 | 弹性、好用、省钱。租GPU就上AutoDL,进行注册登录,和充值

进入网址CodeWithGPU | 能复现才是好算法,codewithgpu.com是AutoDL公司对应的镜像仓库网站,放心使用。选择镜像版本,目前支持的DB-GPT最新版本是v0.5.10,点击AutoDL创建实例

然后自动跳转到AutoDL购买算力的页面,选择一个“RTX 4090”的型号即可满足DB-GPT的算力使用需求,选择好后点击立即创建

创建完成后如下图所示

2、登录服务器实例主机

复制登录指令和密码。例如我复制出来的登录指令复制出来是

ssh -p 45084 root@connect.nmb1.seetacloud.com

ssh登录的地址是connect.nmb1.seetacloud.com

用户名是root

端口是45084

找一个远程服务器连接工具,例如xshell、finalshell、MobaXterm都可以,输入对应的ssh地址、用户名、端口、密码即可登录主机。

下面是MobaXterm连接界面的图示。

登录主机后如下所示

3、启动DB-GPT服务

输入conda activate dbgpt命令,切换dbgpt运行环境

conda create -n dbgpt_env python=3.10
conda activate dbgpt_env

# 安装依赖的包,需要等待几分钟
pip install -e ".[default]"

输入 cd /root/DB-GPT/命令,进入DB-GPT目录

输入bash ./scripts/examples/load_examples.sh创建一些示例数据

输入dbgpt start webserver --port 6006启动DB-GPT服务,启动完后如下图所示。保留该界面不要关闭。如果关系DB-GPT服务也会终止。

4、本地浏览器访问DB-GPT

在AutoDL的容器示例内,选择对应实例的自定义服务,下载桌面工具。

该工具的作用是将远程服务器运行的服务映射到本地。

下载解压后直接运行AutoDL.exe文件

输入之前复制的SSH指令、SSH密码,然后点击开始代理

点击下面出现的地址进行跳转访问

现在就可以使用DB-GPT了

三、阿里云ECS源码部署(CPU版)

前面AutoDL部署的DB-GPT部署,最新仅支持v0.5.10

下面通过源码部署,可以支持最新版本的DB-GPT

1、开通阿里云ECS服务器

进入阿里云官网阿里云-计算,为了无法计算的价值

在顶部栏目中找到”产品-计算-云服务器ECS“

碰上阿里云有云服务器ECS的免费试用活动,个人有3个月300元的免费额度。

因为我们本次部署是使用在线大模型,所以不需要依赖GPU环境。

CPU的话建议4C以上,内存的话建议8G以上,这个配置部署DB-GPT运行起来比较流畅。

其他选项的话,除了镜像选择Ubuntu以外,其他按默认选择即可。

2、连接ECS服务器

进入ECS控制台,可以在右上角点击“控制台”,或者在搜索框里面输入ECS搜索进入。

进入对应的ECS服务器实例界面,在操作中点击“远程连接”即可

3、下载DB-GPT源码

输入以下命令安装git和下载DB-GPT源码

# 安装git
sudo apt update
sudo apt install git


git clone https://github.com/eosphoros-ai/DB-GPT.git
# 进入DB-GPT目录
cd /DB-GPT

4、Miniconda环境安装

输入以下命令安装Miniconda环境

mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm ~/miniconda3/miniconda.sh

更详细的可以参见Miniconda安装教程:https://docs.anaconda.com/miniconda/

5、创建Python虚拟环境

conda create -n dbgpt_env python=3.10
conda activate dbgpt_env

# 安装依赖的包,需要等待几分钟
pip install -e ".[default]"

6、修改DB-GPT配置文件

配置模板文件.env.template为配置正式文件.env

cp .env.template .env

添加大模型API的接口参数,下面以智谱清言为例:

LLM_MODEL=zhipu_proxyllm
PROXY_SERVER_URL=https://open.bigmodel.cn/api/paas/v4/chat/completions
ZHIPU_MODEL_VERSION=glm-4
ZHIPU_PROXY_API_KEY=YOUR_API_KEY

7、安装在线大模型对应的python包

安装对应在线大模型的python包

#通义千问
pip install dashscope
# 智谱
pip install zhipuai

8、ECS服务器增加安全组访问规则

9、运行DB-GPT服务

python dbgpt/app/dbgpt_server.py

10、打开浏览器访问

本地浏览器打开网址http://ECS服务器公网网址:5670,访问DB-GPT网页应用

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/907008.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

升序数组两两不相等

题目:给定一个排好升序的数组A[1],A[2],… A[n],其元素的值两两都不相等。请设计一个高效算法,找出其中所有A[]i的下标,并分析其复杂度。 算法分析:一个升序且值都不相等的数组,如果第一个数大于右下标&…

基于vue框架的的乐守护儿童成长记录系统b65tg(程序+源码+数据库+调试部署+开发环境)系统界面在最后面。

系统程序文件列表 项目功能:用户,成长指标,疫苗接种,学业档案,课外活动,旅游经历,交流论坛 开题报告内容 基于Vue框架的乐守护儿童成长记录系统开题报告 一、研究背景与意义 随着科技的飞速发展和家庭对子女成长关注度的不断提升,如何科学、系统地记…

VSCode 设置环境变量(WSL 2)

环境:openEuler、Windows 11、WSL 2、python 3.12.3 背景:使用vscode连接Windows 的Linux子系统,开发python项目,获取环境变量失败 时间:20241029 说明:使用os.environ获取不到变量,设置/etc…

使用Git LFS管理大型文件

💓 博客主页:瑕疵的CSDN主页 📝 Gitee主页:瑕疵的gitee主页 ⏩ 文章专栏:《热点资讯》 使用Git LFS管理大型文件 引言 Git LFS 简介 安装 Git LFS 安装 Git 安装 Git LFS 配置 Git LFS 初始化 Git 仓库 指定需要使用…

RHCE的练习(10)

实验1:反向解析 准备工作 [rootserver ~]# setenforce 0[rootserver ~]# systemctl stop firewalld# 服务端安装bind软件 [rootserver ~]# dnf install bind -y DNS配置 第一步:服务端操作,编辑bind主配置文件 [rootbogon ~]# cat /e…

Redis-结构化value对象的类型

文章目录 一、Redis的结构化value对象类型的介绍二、Redis的这些结构化value对象类型的通用操作查看指定key的数据类型查看所有的key判断指定key是否存在为已存在的key进行重命名为指定key设置存活时间pexpire与expire 查看指定Key的存活时间为指定key设置成永久存活 三、Redis…

产品结构设计(六):结构设计全过程

参考引用 产品结构设计实例教程 1. ID 图及 PCB 堆叠分析 1.1 产品说明及相关资料 1、新产品开发指令单 2、ID 图 3、产品功能规格书 1.2 ID 图分析 ID(Industrial Design,工业设计)是以工业产品为主要对象,综合运用工学、…

Apache Dubbo (RPC框架)

本文参考官方文档:Apache Dubbo 1. Dubbo 简介与核心功能 Apache Dubbo 是一个高性能、轻量级的开源Java RPC框架,用于快速开发高性能的服务。它提供了服务的注册、发现、调用、监控等核心功能,以及负载均衡、流量控制、服务降级等高级功能。…

webGlL变量的声明与使用

抢先观看&#xff1a; 变量的声明格式&#xff1a;<存储限定符><类型限定符><变量名> 存储限定符&#xff1a;const, attribute, uniform, varying, buffer。 类型限定符&#xff1a;void, bool, int, float, double, vec2, vec3, vec4, mat2, mat3, mat4, s…

免费送源码:Java+CSS+springboot Springboot高校医务室管理系统 计算机毕业设计原创定制

摘 要 科技进步的飞速发展引起人们日常生活的巨大变化&#xff0c;电子信息技术的飞速发展使得电子信息技术的各个领域的应用水平得到普及和应用。信息时代的到来已成为不可阻挡的时尚潮流&#xff0c;人类发展的历史正进入一个新时代。在现实运用中&#xff0c;应用软件的工作…

CDN加速实战:使用七牛云CDN加速阿里云OSS资源访问

今天是双11搞活动,在阿里云1元注册了个域名,想着在学CDN,想使用CDN做个加速项目,但是阿里的要收费,上网查了下七牛云的不收费,想着将七牛云的CDN结合阿里的DNS做个访问加速,刚好看到了阿里的一个文章,照着改了改,实践成功了。 阿里文章:使用CDN加速OSS资源访问_对象…

SpringMVC执行流程(视图阶段JSP、前后端分离阶段)、面试题

目录 1.SpringMVC执行流程分为以下两种 2.非前后端分离的SpringMVC的执行流程 3.前后端分离的项目SpringMVC执行流程 4. 面试题 1.SpringMVC执行流程分为以下两种 2.非前后端分离的SpringMVC的执行流程 流程图&#xff1a; 更加生动的描述&#xff1a; DisPatcherServlet…

笔记本电脑买i7还是i9?i7和i9处理器区别详细介绍

i7和i9处理器都是英特尔&#xff08;Intel&#xff09;公司生产的高性能处理器&#xff0c;但它们有一些显著的区别。为了帮助你做出明智的选择&#xff0c;下面我们详细介绍一下i7和i9处理器的区别&#xff0c;以及如何根据你的需求来选择合适的处理器。 一、i7处理器的特点…

51c大模型~合集12

我自己的原文哦~ https://blog.51cto.com/whaosoft/11564858 #ProCo 无限contrastive pairs的长尾对比学习 , 个人主页&#xff1a;https://andy-du20.github.io 本文介绍清华大学的一篇关于长尾视觉识别的论文: Probabilistic Contrastive Learning for Long-Tailed Visua…

【数据结构篇】探索堆的算法的巧妙

须知 &#x1f4ac; 欢迎讨论&#xff1a;如果你在学习过程中有任何问题或想法&#xff0c;欢迎在评论区留言&#xff0c;我们一起交流学习。你的支持是我继续创作的动力&#xff01; &#x1f44d; 点赞、收藏与分享&#xff1a;觉得这篇文章对你有帮助吗&#xff1f;别忘了点…

智能家居10G雷达感应开关模块,飞睿智能uA级别低功耗、超高灵敏度,瞬间响应快

在当今科技飞速发展的时代&#xff0c;智能家居已经逐渐成为人们生活中不可或缺的一部分。从智能灯光控制到智能家电的联动&#xff0c;每一个细节都在为我们的生活带来便利和舒适。而在众多智能家居产品中&#xff0c;10G 雷达感应开关模块以其独特的优势&#xff0c;正逐渐成…

如何使用VBA识别Excel中的“单元格中的图片”(2/2)

Excel 365升级了新功能&#xff0c;支持两种不同的插入图片方式&#xff1a; 放置在单元格中&#xff08;Place in cell&#xff09;&#xff0c;新功能&#xff0c;此操作插入的图片下文中简称为单元格中的图片。放置在单元格上&#xff08;Place over cell&#xff09;&…

Nature|用于无线监测颅内信号的植入式柔性超声波传感器(柔性传感/健康监测/植入式电子/水凝胶)

华中科技大学臧剑锋(Jianfeng Zang)、华中科技大学同济医学院附属协和医院姜晓兵(Xiaobing Jiang)和新加坡南洋理工大学陈晓东(Xiaodong Chen)团队,在《Nature》上发布了一篇题为“Injectable ultrasonic sensor for wireless monitoring of intracranial signals”的论…

FlaskFastAPIgunicornunicorn并发调用

Flask VS. FastAPI Flask和FastAPI是Python中两种流行的Web框架&#xff0c;它们各自具有不同的特点和适用场景。以下是它们之间的一些主要区别&#xff1a; 1. 框架类型 Flask&#xff1a;Flask是一个轻量级的微框架&#xff0c;适合构建小型到中型的Web应用。它灵活且易于扩展…

像`npm i`作为`npm install`的简写一样,使用`pdm i`作为`pdm install`的简写

只需安装插件pdm-plugin-i即可&#xff1a; pdm plugin add pdm-plugin-i 然后就可以愉快地pdm i了&#xff0c;例如&#xff1a; git clone https://github.com/waketzheng/fast-dev-cli cd fast-dev-cli python -m pip install --user pipx pipx install pdm pdm plugin a…