【Apache Doris】Manager极致丝滑地运维管理

【Apache Doris】Manager极致丝滑地运维管理

  • 1.标准VS可视化运维管理
  • 2. 环境信息
    • 2.1.硬件信息
    • 2.2.软件信息
  • 3.前置准备
    • 3.1.安装包准备
    • 3.2.文档手册准备
  • 4.集群初始化
    • 4.1.系统参数预设
    • 4.2.Manager部署
    • 4.3.新集群部署
    • 4.4 监控告警
      • 4.4.1 监控
      • 4.4.2 告警
  • 5. 集群升级
    • 5.1 新包准备
    • 5.2 一键升级
    • 5.3 结果验收
  • 6. 集群扩所容
    • 6.1 一键扩容
    • 6.2 一键缩容
  • 7. 多集群管理
    • 7.1 新建/接管集群
    • 7.2 环境配置
    • 7.3 节点配置
  • 8. 总结

1.标准VS可视化运维管理

在这里插入图片描述
标准化运维管理,首先得自己手动在集群的每台节点上去分发包、并解压;然后分别对FE和BE进行配置初始化(FE主要修改IP和JAVA目录,BE主要修改IP、JAVA目录和存储路径配置)。

做完上面的包分发及配置初始化后,还需分别到对应节点去启动FE、BE和Broker进程,如果节点较多需要考虑写脚本分发命令或借助外部运维平台简化。其中BE和Broker可以直接把进程全部拉起,然后通过Client逐个Add加入集群即可,但FE集群有类似Zookeeper的选举机制,所以非第一个FE节点第一次启动时、还得注意加–helper命令。

初始化完集群后,如果想做可视化监控得另外集成Prometheus和Grafana,如果要做告警管理可能还得另外部署夜莺N9E。这一套组合拳下来,运维管理体系算是基本完成了,但是天都夜màma了。

在这里插入图片描述

可视化运维管理(Cluster Manager for Apache Doris,简称 Doris Manager,再简称 Manager),它让使用者有了更多的时间钓鱼、消化饼 and 早点回家。

Manager能够快速拉起一套又一套的Doris/SelectDB集群,集成了监控告警、集群巡检和WebUI等模块,提供了集群启停、扩缩容和升级等常规运维操作可视化的快捷入口,能够极大地提高运维管理效率,且使用起来也非常顺畅。

接下来一起来纵享Manager的丝滑体验吧!

2. 环境信息

2.1.硬件信息

  • 内存:48C
  • CPU:256G
  • CPU架构:X86_64

2.2.软件信息

  • Doris: 2.0.2
  • SelectDB:2.0.2
  • Manager:23.10.3
  • 系统:CentOS

3.前置准备

官方专项微信群公告中应有尽有,还没有进群的小伙伴们可私a拉你!

3.1.安装包准备

  1. manager下载地址https://selectdb-doris-1308700295.cos.ap-beijing.myqcloud.com/doris-manager/release/23.10.3/doris-manager-23.10.3-x64-bin.tar.gz
  2. doris/selected安装包下载地址
    • doris: https://doris.apache.org/zh-CN/download/
    • selectdb: https://cn.selectdb.com/download/core

本次新建集群以selectdb为例,接管集群以doris为例。

3.2.文档手册准备

1. 部署手册
https://selectdb.feishu.cn/docx/AJNcdaDuboVfJTx1KVBc6Adwnpe?from=from_copylin
2. 使用指南
https://selectdb.feishu.cn/docx/QSt5dexQTorAkNxLaRCcMNncnmc?from=from_copylin
3. FAQ 文档
https://selectdb.feishu.cn/docx/AdaudiDKQovS7SxQwhucrUg7nPd?from=from_copylink
4. WebUI文档
https://cn.selectdb.com/docs/enterprise/enterprise-core-guide/selectdb-webui-guide
5. 问题收集与反馈
https://selectdb.feishu.cn/share/base/form/shrcnose8DHPBSoCX68hMU5nPOb

4.集群初始化

4.1.系统参数预设

  1. 交换分区(swap)未关闭,请打开终端窗口, 输入以下命令以禁用交换分区:
sudo swapoff -a
  1. 最大打开文件数小于65535,请打开终端窗口,输入以下命令:
sudo vim /etc/security/limits.conf
* soft nofile 65535
* hard nofile 65535
sudo sysctl -p
  1. 虚拟内存区域数量不符合要求,请打开终端窗口,输入以下命令:
sudo sysctl -w vm.max_map_count=2000000
  1. 机器时钟一致(各节点之间的时差默认需小于5秒)

4.2.Manager部署

1)创建一个用于Manager的目录

mkdir manager
cd manager

2)上传准备的Manager和SelectDB包

在这里插入图片描述

3) 解压Manager包

tar -zxvf doris-manager-23.10.3-x64-bin.tar.gz

在这里插入图片描述

Manager安装包目录说明

    deps // Doris Manager 管控依赖组件
       alertmanager // 告警工具
       grafana // 监控看板工具
	   jdk // jdk依赖包
       prometheus // 监控指标存储工具
dorisctrl // Doris Manager 管控组件
       bin  // 启停脚本
       conf // 配置文件
       lib  // 服务二进制
webserver // Doris Manager Web 服务组件,这是网页入口服务,需要手工启动
       bin  // 启停脚本
       conf  // 配置文件
       config-tool  // Doris Manager 服务管理工具
       inspection  // 巡检脚本
       lib  // 服务二进制
       static  // 前端静态文件

4)配置web服务(可选)

不配置时,默认会将web服务的元数据存放在一个h2内置小数据库。

vim webserver/conf/manager.conf 

manager.conf如下:

# Doris Manager Web服务组件监听的端口
MANAGER_PORT=8004

# 服务依赖的数据库类型: mysql或者h2。默认为h2。
DB_TYPE=mysql

# 如果数据库类型为h2,默认的数据存储路径为webserver目录下的data路径,
# 用户也可以指定自定义的绝对路径
DATA_PATH=

# 如果数据库类型为mysql,配置mysql数据库的访问地址
DB_HOST=127.0.0.0

# 配置mysql数据库的访问端口
DB_PORT=3306

# 配置mysql数据库的访问用户
DB_USER=root

# 配置mysql数据库的访问用户密码
DB_PASS=root

# 配置mysql数据库的访问Database名称,需要提前创建
DB_DBNAME=manager

5)启动web服务

sh ./webserver/bin/start.sh 

由于本次是用Mysql作为Manager元数据库,当服务正常启动后、对应的db下也会自动初始化相关表。

在这里插入图片描述

同时会起相应的进程doris-manager.jar。

在这里插入图片描述

6.)访问web服务

直接通过浏览器输入URL——http://{Web服务机器IP}:{Web服务端口},比如http://127.0.0.0:8004

在这里插入图片描述

7)初始化Manager管理员账号密码
在这里插入图片描述

8)配置服务组件部署信息

根据自己环境填写,如果暂时用不到监控告警模块可以选择[关闭];填写后点击【启动Doris Manager】。当前没有开启监控告警服务,后续可以重新打开。
在这里插入图片描述

9)部署服务组件
点击【启动Doris Manager】后 ,提示正在启动 Doris Manager。
在这里插入图片描述

启动成功后,提示用户进入 Doris Manager,即Managerbu部署完成 :

在这里插入图片描述

4.3.新集群部署

1)新建集群

填写自定义的集群名称、选择部署版本(会根据填写的包路径自动识别)以及数据库root用户密码后,点击【下一步】。

在这里插入图片描述

2)节点配置

根据集群节点信息填写后点击【部署集群】即可。

在这里插入图片描述

3)开始部署

在这里插入图片描述

部署成功后,提示用户进入集群:

在这里插入图片描述

进入集群,如下所示,即新集群部署完成:

在这里插入图片描述

4.4 监控告警

由于Manager部署流程中关闭了监控告警服务、故不会在左侧栏显示监控告警的入口,如下可重新开启监控告警。

在这里插入图片描述

4.4.1 监控

Manager 监控模块集成了丰富的监控指标,相较于自己搭建Prometheus和Grafana去做监控指标可视化,大开方便之门。

在这里插入图片描述

4.4.2 告警

Manager 告警模块支持邮箱、企业微信、飞书和钉钉群等方式发送告警通知,不会让你错过任何一条异常告警信息,非常贴心。

在这里插入图片描述

至此,集群初始化完成。通过Manager来体验下常用的集群升级、集群扩所容以及多集群管理场景吧。

5. 集群升级

5.1 新包准备

准备好新版本的包与之前的包放在同一级目录下。
在这里插入图片描述

5.2 一键升级

Manager中选择【集群升级】。
在这里插入图片描述

选择目标版本,这里用的是SelectDB 2.0.3 rc04作为升级的目标版本,之后直接点点即可。

在这里插入图片描述

5.3 结果验收

点击右上角可查看当前的版本,核验无误【立即验收】。
在这里插入图片描述

6. 集群扩所容

6.1 一键扩容

以BE为例,选择【BE扩容】。

在这里插入图片描述

可以单独扩容一个节点、也可以选择【批量添加节点】,之后直接点点即可。

在这里插入图片描述

扩容结果查看。

在这里插入图片描述

6.2 一键缩容

以刚刚扩容的BE为例,选择【BE缩容】。
在这里插入图片描述
确定需要下线缩容的BE节点【选择下线】,之后直接点点即可。

在这里插入图片描述

缩容结果查看。

在这里插入图片描述

7. 多集群管理

Manager支持同时管理多套集群。在已有一套集群的情况下,可以继续新建集群或者接管现有集群。本次以接管集群为例,接管现有的Doris 2.0.2集群。

7.1 新建/接管集群

在这里插入图片描述

7.2 环境配置

自定义集群名称,选择【接管现有集群】。

在这里插入图片描述

7.3 节点配置

填写FE的IP/HTTP端口/JDBC端口以及节点用户名/密码/SSH端口后,Manager会自动识别待接管集群的FE和BE节点信息。

在这里插入图片描述

之后直接点【接管集群】即可自动接管完成。

在这里插入图片描述

8. 总结

一个字总结:丝滑!
两个字总结:极致丝滑!!

【Apache Doris】Manager极致丝滑地运维管理 分享至此结束,体验过程中若遇到问题欢迎留言交流

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/191411.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

大数据Doris(二十九):数据导入(Insert Into)

文章目录 数据导入(Insert Into) 一、​​​​​​​创建导入

Windows开启SQL Server服及1433端口

需求:Windows开启SQL Server服务及1433端口 目前端口没有启动 解决: 打开SQL Server配置管理器(winR) 各个sqlserver版本在textbox中输入对应的命令如下: SQLServerManager15.msc(对于 SQL Server 2019 &am…

Linux7设置ssh秘钥登录并关闭密码登录

说明:场景为windows使用WinScp远程登录linux服务 winscp安装教程:winscp安装及关联putty使用_putty.exe没有找到_cherishSpring的博客-CSDN博客 1.在window上生成公钥和秘钥,操作方式参考以下文章第3点: git关联云效使用教程_云…

【经验分享】开发问题记录总结(持续更新)

目录 工具开发 界面类继承某自定义界面类时,出现布局混乱或者所有控件集中在左上角? 在继承自定义界面之后,以诸如 on_xxx_clicked() 模式设计的槽函数失效了? 使用pugi接口取出文本数据后,为什么该变量无法进行字符串比较&…

深信服超融合一体机提示:内存ECC

PS:此事件分享主要来源于季度巡检时发现的超融合一体机红灯闪烁异常,接入IPMI端口查看日志发现持续提示内存ECC; 因为是只有3.05这一天发现了有这个告警的提示,所以当时清除了日志以后重启了BMC服务就解决了;但是如果清…

Echarts 最简单创建柱状图

设置容器 <div ref"myChart" style"width: 500px; height: 500px;"> </div>mounted() {//document渲染完成this.draw()}draw() {const myChart this.$echarts.init(this.$refs.myChart)//初始化对象myChart.setOption({ //参数配置项title: …

如何在gitlab上使用hooks

参考链接&#xff1a;gitlab git hooks 1. Git Hook 介绍 与许多其他版本控制系统一样&#xff0c;Git 有一种方法可以在发生某些重要操作时&#xff0c;触发自定义脚本&#xff0c;即 Git Hook&#xff08;Git 钩子&#xff09;。 当我们初始化一个项目之后&#xff0c;.git…

windows本地dockr的clickhouse链接本地mysql服务,连接不上

不想看过成的&#xff0c;解决办法在最后面 报错信息&#xff1a; SQL 错误 [1000] [08000]: Poco::Exception. Code: 1000, e.code() 0, Exception: Connections to all replicas failed: test1localhost:3306 as user root (version 21.12.3.32 (official build)) , serve…

基于深度学习的图像超分辨率应用

引言 在使用图片浏览软件显示图片时&#xff0c;为了凸显某个部位&#xff0c;你会放大图片&#xff0c;为了显示整体&#xff0c;你会缩小图片。 你的原始图片大小是固定的&#xff0c;但图像浏览软件既可以最大化到整个屏幕&#xff0c;也可以只占一个区域&#xff0c;这些…

一文带你了解机器翻译的前世今生

引言 我们都知道谷歌翻译&#xff0c;这个网站可以像变魔术一样在100 种不同的人类语言之间进行翻译。它甚至可以在我们的手机和智能手表上使用&#xff1a; 谷歌翻译背后的技术被称为机器翻译。它的出现改变了世界交流方式。 事实证明&#xff0c;在过去几年中&#xff0c;深…

【C/C++】如何不使用 sizeof 求数据类型占用的字节数

实现代码&#xff1a; #include <stdio.h>#define GET_TYPE_SIZE(TYPE) ((char *)(&TYPE 1) - (char *) & TYPE)int main(void) {char a a;short b 0;int c 0;long d 0;long long e 0;float f 0.0;double g 0.0;long double h 0.0;char* i NULL;print…

微机原理_5

一、单项选择题(本大题共15小题,每小题3分,共45分。在每小题给出的四个备选项中,选出一个正确的答案,请将选定的答案填涂在答题纸的相应位置上。) 8086微处理器CLK引脚输入时钟信号是由(提供。 A. 8284 B. 8288 C.8287 D. 8289 2.下面4个寄存器中,不能作为间接寻址的寄存器是(…

香港站群服务器中1C/2C/4C/8C 的概念及区别

​  在选择香港站群服务器时&#xff0c;经常会看到1C、2C、4C和8C等不同的IP段。这些IP段代表了不同的子网掩码长度&#xff0c;也反映了服务器的IP地址数量和丰富性。 让我们来了解一下什么是IP段。IP段是指一组连续的IP地址&#xff0c;其中每个地址的前三个数字相同&…

10_7iic整体框架流程

在内核中 这边把iic整个流程分成了 4层 iic_dtiver at24_iic_eeprom 也就是我们的自己的驱动 i2c-core.c 核心层 i2c/busses/i2c-s3c2410.c 控制器层 平台总线驱动层,或者也是图中的设备树 硬件描述 我们假设 板子上有三个iic控制器 0 1 2 这里在控制器0 上挂载了gt24c02的eep…

Telesquare TLR-2005Ksh 路由器 RCE漏洞复现

0x01 产品简介 Telesquare Tlr-2005Ksh是韩国Telesquare公司的一款 Sk 电讯 Lte 路由器。 0x02 漏洞概述 Telesquare TLR-2005Ksh存在安全漏洞&#xff0c;未经授权的攻击者可通过setSyncTimeHost执行任意命令获取服务器权限。 0x03 复现环境 FOFA&#xff1a;app"TELE…

SCI一区级 | Matlab实现GWO-CNN-LSTM-selfAttention多变量多步时间序列预测

SCI一区级 | Matlab实现GWO-CNN-LSTM-selfAttention多变量多步时间序列预测 目录 SCI一区级 | Matlab实现GWO-CNN-LSTM-selfAttention多变量多步时间序列预测预测效果基本介绍程序设计参考资料 预测效果 基本介绍 1.Matlab实现GWO-CNN-LSTM-selfAttention灰狼算法优化卷积长短…

USB总线-Linux内核USB3.0 Hub驱动分析(十四)

1.概述 USB Hub提供了连接USB主机和USB设备的电气接口。USB Hub拥有一个上行口&#xff0c;至少一个下行口&#xff0c;上行口连接上一级的Hub的下行口或者USB主机&#xff0c;连接主机的为Root Hub&#xff0c;下行口连接下一级Hub的上行口或者USB设备。经过Hub的扩展&#x…

一、Spring_IOCDI(1)

&#x1f33b;&#x1f33b; 目录 一、前提介绍1.1 为什么要学?1.2 学什么?1.3 怎么学? 二、Spring相关概念2.1 初始Spring2.1.1 Spring家族2.1.2 了解 Spring 发展史 2.2 Spring系统架构2.2.1 系统架构图2.2.2 课程学习路线 2.3 Spring核心概念2.3.1 目前项目中的问题2.3.2…

C#,《小白学程序》第二十三课:大数的除法(BigInteger Divide)

1 文本格式 /// <summary> /// 比较a&#xff0c;b的大小&#xff0c;返回1&#xff0c;0&#xff0c;-1 /// 数据从低位&#xff08;右&#xff09;往高位&#xff08;左&#xff09;存储; /// </summary> /// <param name"a"></param> ///…

【古诗生成AI实战】之四——模型包装器与模型的训练

在上一篇博客中&#xff0c;我们已经利用任务加载器task成功地从数据集文件中加载了文本数据&#xff0c;并通过预处理器processor构建了词典和编码器。在这一过程中&#xff0c;我们还完成了词向量的提取。 接下来的步骤涉及到定义模型、加载数据&#xff0c;并开始训练过程。…