【运维】StarRocks数据迁移到新集群（针对于集群互通、不互通的情况）

文章目录

  • 一. 迁移整体思路
    • 1. 对于新旧集群互通的情况
    • 2. 对于新旧集群不互通的情况
  • 二、迁移过程（两个集群互通的情况）
    • 1. 备份过程
      • 1.1. 通过mysqlclient与starrocks进行关联
      • 1.2. 创建仓库与minio建立联系
      • 1.3. 备份数据到minio
    • 2. 迁移过程
      • 2.1. 通过mysqlclient与starrocks进行关联
      • 2.2. 在新集群中创建仓库
      • 2.3. 恢复数据到新集群
  • 二、迁移过程（两个集群不互通的情况）
    • 1. 集群A数据迁移到minioA
      • 1.1. 通过mysqlclient与starrocks进行关联
      • 1.2. 创建仓库与minioA建立联系
      • 1.3. 备份数据到minioA
    • 2. minioA数据迁移到minioB
      • 2.1. 下载minioA中的文件到本地
      • 2.2. 将文件上传到minioB
    • 3.minioB数据迁移到集群B
      • 3.1. 通过mysqlclient与starrocks进行关联
      • 3.2. 在新集群中创建仓库
      • 3.3. 恢复数据到新集群

一. 迁移整体思路

SR官网提供了分区、表和数据库级别的数据迁移策略，此方案通过数据库级别将数据迁移到新集群。

1. 对于新旧集群互通的情况

在这里插入图片描述

 

2. 对于新旧集群不互通的情况

在这里插入图片描述
 

二、迁移过程（两个集群互通的情况）

在这里插入图片描述

准备

规划

序号组件说明
1minio用于创建桶，将库备份放到minio的桶中
2集群A旧集群，用于将库迁移到minio中
3集群B新集群，从minio迁移数据到集群B

 
minio操作

# 1. 创建minio集群别名：用于后续操作；在任意minio节点
语法
/usr/local/minio/mc alias set ${minio_alias} ${minio_server} ${minio_user} ${minio_password}
实例
/usr/local/minio/mc alias set minio_data_starrocks http://server_minio:9019 admin Administrator123
 
 
 
# 2. minio集群创建桶star11：用于存储数据备份
语法：
/usr/local/minio/mc mb ${minio_alias}/${bucket_name}
实例：
/usr/local/minio/mc mb minio_data_starrocks/star11

 

1. 备份过程

集群A（旧集群）数据迁移到minio：3个FE( poc1、2、3), 3个BE（poc4、5、6）的 StarRocks。

1.1. 通过mysqlclient与starrocks进行关联

mysql -h${starrocks_leader_host} -P9030 -uroot -pstar_rocks;

 

1.2. 创建仓库与minio建立联系

-- 1.  创建仓库
语法：
CREATE REPOSITORY `${repo_name}`
WITH BROKER
ON LOCATION "s3a://${bucket_name}/backup"
PROPERTIES
(
"aws.s3.enable_ssl" = "false",
"aws.s3.access_key" = "${minio_username}",
"aws.s3.enable_path_style_access" = "true",
"aws.s3.secret_key" = "${minio_password}",
"aws.s3.endpoint" = "${minio_server}"
);
 
 
 
实例：
CREATE REPOSITORY `test_repo`
WITH BROKER
ON LOCATION "s3a://star11/backup"
PROPERTIES
(
"aws.s3.enable_ssl" = "false",
"aws.s3.access_key" = "admin",
"aws.s3.enable_path_style_access" = "true",
"aws.s3.secret_key" = "Administrator123",
"aws.s3.endpoint" = "minio_server:9009"
);
 
 
 
 
-- 2. 展示仓库
show REPOSITORY `test_repo`;
 
 
 
 
如果仓库创建失败，或重新创建同名仓库，则删除仓库命令如下
DROP REPOSITORY `test_repo`;
 
 
删除仓库时后记得手动在minio上的文件。

 

1.3. 备份数据到minio

备份语法：https://docs.starrocks.io/zh/docs/2.5/sql-reference/sql-statements/data-definition/BACKUP/

-- 1.备份命令
-- 以下示例在数据库 radar_test 中创建数据快照 sr_member_backup(命名随意) 并备份至仓库 test_repo 中。
 
 
BACKUP SNAPSHOT radar_test.radar_test_backup
TO test_repo
PROPERTIES ("type" = "full");
 
 
 
 
-- 2. 查看数据库radar_test备份过程：
show backup from radar_test \G;
 
*************************** 1. row ***************************
               JobId: 129388
        SnapshotName: radar_test_backup
              DbName: radar_test
               State: FINISHED
          BackupObjs: [radar_test.20230815_baseurl], [radar_test.20230815_baseurl.csv], [radar_test.dim_report_pro_detail], [radar_test.dim_report_pro_logs], [radar_test.dwd_qdas_monitor_donelog_test], [radar_test.dwd_thjl_d_xky], [radar_test.dwd_thjl_d_xky2], [radar_test.dwd_thjl_d_xky_20240125], [radar_test.ftp_baseurl], [radar_test.ods_pc_user_portrait_detail], [radar_test.ods_pc_user_portrait_detail2], [radar_test.ods_thjl_d], [radar_test.t], [radar_test.test2_100m_pc_user_portrait_detail], [radar_test.test2_10m_pc_user_portrait_detail], [radar_test.test2_1m_pc_user_portrait_detail], [radar_test.test2_join_id], [radar_test.test_100m_pc_user_portrait_detail], [radar_test.test_10m_pc_user_portrait_detail], [radar_test.test_1m_pc_user_portrait_detail]
          CreateTime: 2024-03-14 15:05:03
SnapshotFinishedTime: 2024-03-14 15:05:09
  UploadFinishedTime: 2024-03-14 15:16:36
        FinishedTime: 2024-03-14 15:16:45
     UnfinishedTasks:
            Progress:
          TaskErrMsg: [129534: S3: Fail to complete multipart upload for object starrocks-1/backup/__starrocks_repository_test_repo/__ss_radar_test_backup/__ss_content/__db_10228/__tbl_18770/__part_19744/__idx_18771/__19845/02000000006a04786743e0da3614f6285f61e260bcdfc887_0.dat.part, msg: The specified multipart upload does not exist. The upload ID may be invalid, or the upload may have been aborted or completed.]
              Status: [OK]
             Timeout: 86400
 
 
看到State为FINISHED，Status为OK说明备份完成
 
TaskErrMsg和Status：会显示任务过程中Task的一些错误信息，但只要State列不为CANCELLED，
就说明作业依然在继续，这些Task有可能会重试成功。当然，有些Task错误，也会直接导致作业失败。

 
在这里插入图片描述

当一次备份作业涉及到的表和数据都很多时，我们需要不时关注作业状态，若发现任务长时间没有进度或有其他问题，也可以将任务手动取消，取消语法为：

mysql> CANCEL BACKUP FROM db_name;

 

2. 迁移过程

迁移到集群B（新集群）:

2.1. 通过mysqlclient与starrocks进行关联

mysql -h ${clusterB_server} -P9031 -uroot -pstar_rocks

 

2.2. 在新集群中创建仓库

注意在新集群中使用相同仓库名和地址创建仓库，否则将无法查看先前备份的数据快照。

-- 1. 创建数据库 新集群中需要建库，迁移的表不需要创建。
create database radar_test;
 
 
 
-- 2. 创建与A集群相同的仓库
 
CREATE REPOSITORY `test_repo`
WITH BROKER
ON LOCATION "s3a://star11/backup"
PROPERTIES
(
"aws.s3.enable_ssl" = "false",
"aws.s3.access_key" = "admin",
"aws.s3.enable_path_style_access" = "true",
"aws.s3.secret_key" = "Administrator123",
"aws.s3.endpoint" = "${minio_server}:9019"
);
 
 
-- 3. 查看仓库
 
SHOW REPOSITORIES;
 
-- 如果创建仓库失败，或想重新创建。使用如下命令删除仓库
DROP REPOSITORY test_repo;

 

2.3. 恢复数据到新集群

-- 在（旧集群）A集群中执行
-- 1. 连接A集群
mysql -h${star_rocks_cluster_fe_leader} -P9030 -uroot  -pstar_rocks;
 
-- 查看备份快照信息，用于恢复使用
mysql> SHOW SNAPSHOT ON test_repo;
+-------------------+-------------------------+--------+
| Snapshot          | Timestamp               | Status |
+-------------------+-------------------------+--------+
| radar_test_backup | 2024-03-14-15-05-03-957 | OK     |
+-------------------+-------------------------+--------+
 
 
 
-- 在（新集群）B集群中执行
-- 2. 将仓库 test_repo 中的数据快照 radar_test_backup恢复到数据库中radar_test，恢复三个数据副本。
-- 语法
RESTORE SNAPSHOT ${clusterB_database}.${clusterA_Snapshot_name}
FROM test_repo
PROPERTIES (
    "backup_timestamp"="${clusterA_Snapshot_Timestamp}"
     ,"replication_num" = "3"
);
 
 
-- 执行实例
RESTORE SNAPSHOT radar_test_1.radar_test_backup
FROM test_repo
PROPERTIES (
    "backup_timestamp"="2024-03-14-15-05-03-957"
     ,"replication_num" = "3"
);
 
Query OK, 0 rows affected (1.77 sec)
 
 
 
-- 3. 查看备份进度
 
SHOW RESTORE from radar_test \G;
 
 
*************************** 1. row ***************************
               JobId: 10078
               Label: radar_test_backup
           Timestamp: 2024-03-14-15-05-03-957
              DbName: radar_test
               State: FINISHED
           AllowLoad: false
      ReplicationNum: 1
         RestoreObjs: ... 会展示所有表和分区
          CreateTime: 2024-03-15 11:28:04
    MetaPreparedTime: 2024-03-15 11:28:07
SnapshotFinishedTime: 2024-03-15 11:28:10
DownloadFinishedTime: 2024-03-15 11:28:43
        FinishedTime: 2024-03-15 11:30:03
     UnfinishedTasks:
            Progress:
          TaskErrMsg:
              Status: [OK]
             Timeout: 86400
 
如果State为FINISHED、Status为[OK]，则迁移数据到新集群完成。

 

二、迁移过程（两个集群不互通的情况）

在这里插入图片描述

规划

序号组件说明
1minioA用于创建桶，将库备份放到minioA的桶中
2集群A旧集群，用于将库迁移到minioA中
3minioBminioA的数据迁移到minioB中
4集群B新集群，从minioB迁移数据到集群B

minioA操作

一. minioA操作
# 1. 创建minioA集群别名：用于后续操作；在任意minio节点
语法
/usr/local/minio/mc alias set ${minio_alias} ${minio_server} ${minio_user} ${minio_password}
 
 
 
# 2. minioA集群创建桶star11：用于存储数据备份
语法：
/usr/local/minio/mc mb ${minio_alias}/${bucket_name}
实例：
/usr/local/minio/mc mb minio_data_starrocks/star11

 

1. 集群A数据迁移到minioA

集群A（旧集群）数据迁移到minio：3个FE( poc1、2、3), 3个BE（poc4、5、6）的 StarRocks。

 

1.1. 通过mysqlclient与starrocks进行关联

1.2. 创建仓库与minioA建立联系

1.3. 备份数据到minioA

如上过程参考：集群互通时的操作

 

2. minioA数据迁移到minioB

现在我们将minioA的文件下载到本地，然后从本地上传到minioB

 

2.1. 下载minioA中的文件到本地

# 将minioA中的桶star11的数据备份到/home/taiyi/minio-data目录
# 创建目录
mkdir -p /home/taiyi/minio-data/
# 备份到本地
语法
# /usr/local/minio/mc cp --recursive ${minioA_alias}/${bucket_name}/ ${local_dir}
实例
/usr/local/minio/mc cp --recursive minio_data_starrocks/star11/ /home/taiyi/minio-data/

 

2.2. 将文件上传到minioB

因为网络不互通，需要将文件从上述位置拷贝到minioB的客户端机器中，具体方法不再描述，用户自行操作。

现在

# 1. 设用户已将数据上传到minioB的客户机目录/home/taiyi/minio-data/下
 
 
# 2. 创建minioB集群别名：用于后续操作；在任意minioB的客户端节点
语法
/usr/local/minio/mc alias set ${minioB_alias} ${minioB_server} ${minioB_user} ${minioB_password}

 
 
 
# 3. minioB集群创建桶star11：用于上传数据备份
语法：
/usr/local/minio/mc mb ${minioB_alias}/${bucket_name}
实例：
/usr/local/minio/mc mb minio_data_starrocks_restore/star11
 
 
# 4. 将文件夹下/home/taiyi/minio-data/所有数据上传到minioB中star11的桶中
 
/usr/local/minio/mc cp --recursive  /home/taiyi/minio-data/ minio_data_starrocks_restore/star11/

 

3.minioB数据迁移到集群B

迁移到集群B（新集群）:

3.1. 通过mysqlclient与starrocks进行关联

3.2. 在新集群中创建仓库

3.3. 恢复数据到新集群

如上过程参考：集群互通时的操作

 
参考：
https://blog.csdn.net/ult_me/article/details/123235041

https://blog.csdn.net/gongxiucheng/article/details/132675927

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/461672.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

个人网站制作 Part 9 | Web开发项目

个人网站制作 Part 9 | Web开发项目

文章目录 个人网站制作 Part 9 | Web开发项目👩‍💻 基础Web开发练手项目系列：个人网站制作🚀 添加博客功能🔨使用Express和MongoDB🔧步骤 1: 创建博客模型🔧步骤 2: 创建博客路由 &#x1f528…
阅读更多...
边缘计算网关的工作原理及其在工业领域的应用价值-天拓四方

边缘计算网关的工作原理及其在工业领域的应用价值-天拓四方

随着物联网技术的快速发展，物联网时代已经悄然来临。在这个时代，数以亿计的设备相互连接，共享数据，共同构建智慧的世界。边缘计算网关通过将计算能力和数据存储推向网络的边缘，实现了对海量数据的实时处理，…
阅读更多...
VBA combox/listbox 控件响应鼠标滚轮事件

VBA combox/listbox 控件响应鼠标滚轮事件

在vba中，我们在用户窗体中如果添加有combox控件，或者是listbox控件。正常情况下，combox 和 listbox 是不响应鼠标滚轮事件的，且默认的VBA控件中，也没有提供响应鼠标滚轮事件的方法和入口。如此以来，我们在c…
阅读更多...
三维卡通数字人解决方案，支持unity和Maya

三维卡通数字人解决方案，支持unity和Maya

企业对于品牌形象和宣传手段的创新需求日益迫切，美摄科技凭借其在三维卡通数字人领域的深厚积累，推出了面向企业的三维卡通数字人解决方案，帮助企业轻松打造独具特色的虚拟形象，提升品牌影响力和市场竞争力。 美摄科技的三维卡通…
阅读更多...
AI技术崛起：数据可视化之路更近

AI技术崛起：数据可视化之路更近

在当今AI技术蓬勃发展的时代，数据可视化作为信息传达的重要手段，其门槛逐渐降低。然而，这并不意味着我们可以忽视学习数据可视化的重要性。即使不需要深入专业技术，对数据可视化的基础知识的了解也是至关重要的。那么，…
阅读更多...
应用程序开发教学：医保购药系统源码搭建实战

应用程序开发教学：医保购药系统源码搭建实战

医保购药系统作为医疗服务的重要组成部分，其开发不仅能够为患者提供更加便捷的购药服务，还能够提高医疗机构的管理效率。接下来，小编将为您讲解医保购药系统的源码搭建过程，介绍应用程序开发的基本步骤和技巧。 一、系统设计 我…
阅读更多...
01背包 与 emo题目背景（周超人的遗憾） 的爱恨情仇

01背包 与 emo题目背景（周超人的遗憾） 的爱恨情仇

本题背景有意思，大家当乐子看，目前没有找到题目原题，也没有写过完全是01背包模板的题目，该篇文章大家注意其01背包一维写法的模板就好，注意各个关键点 ✨欢迎来到脑子不好的小菜鸟的文章✨ 🎈创作不易&…
阅读更多...
Vue3-03_组件基础_上

Vue3-03_组件基础_上

单页面应用程序 什么是单页面应用程序 单页面应用程序（英文名：Single Page Application）简称 SPA，顾 名思义，指的是一个 Web 网站中只有唯一的一个 HTML 页面，所有的 功能与交互都在这唯一的一个页面内完…
阅读更多...
Square Pair

Square Pair

传送门 题意 思路 实际上我们要的 AiAj 肯定是 (ab)^2 所以我们只需要关注于 ai 这个数经过质因数分解 除掉平方数的结果 也就是Ai​ 除去完全平方数因子 每次我们对ai讨论只需要加上 cnt[a[i]] 即可 此外 0 需要特判 code
阅读更多...
mysql 排序底层原理解析

mysql 排序底层原理解析

前言 本章详细讲下排序，排序在我们业务开发非常常见，有对时间进行排序，又对城市进行排序的。不合适的排序，将对系统是灾难性的，这个不是危言耸听。可能有些人会想，对于排序mysql 是怎么实现的，…
阅读更多...
WWW2024 | PromptMM:Prompt-Tuning增强的知识蒸馏助力多模态推荐系统

WWW2024 | PromptMM:Prompt-Tuning增强的知识蒸馏助力多模态推荐系统

论文：https://arxiv.org/html/2402.17188v1 代码：https://github.com/HKUDS/PromptMM 研究动机 多模态推荐系统极大的便利了人们的生活,比如亚马逊和Netflix都是基于多模态内容进行推荐的。对于研究,人们也遵循工业界的趋势,进行modality-aware的用户…
阅读更多...
生成器建造者模式（Builder）——创建型模式

生成器建造者模式（Builder）——创建型模式

生成器/建造者模式——创建型模式 什么是生成器模式？ 生成器模式是一种创建型设计模式， 使你能够分步骤创建复杂对象。 该模式允许你使用相同的创建代码生成不同类型和形式的对象。 提炼两个关键点：Ⅰ.分步骤创建复杂对象。Ⅱ.相同创建代码…
阅读更多...
北斗卫星在桥隧坡安全监测领域的应用及前景展望

北斗卫星在桥隧坡安全监测领域的应用及前景展望

北斗卫星在桥隧坡安全监测领域的应用及前景展望 北斗卫星系统是中国独立研发的卫星导航定位系统，具有全球覆盖、高精度定位和海量数据传输等优势。随着卫星导航技术的快速发展，北斗卫星在桥隧坡安全监测领域正发挥着重要的作用，并为相关领域…
阅读更多...
python 目录和文件基本操作

python 目录和文件基本操作

目录操作 获取当前目录： import os dir_path os.getcwd() print("当前目录：", dir_path) 当前目录： D:\work\pycharm\object 创建目录： import osdir_path os.getcwd() print("当前目录：", d…
阅读更多...
【算法刷题 | 栈】3.16（有效的括号、删除字符串中的所有相邻重复项、逆波兰表达式求值）

【算法刷题 | 栈】3.16（有效的括号、删除字符串中的所有相邻重复项、逆波兰表达式求值）

文章目录 1.有效的括号1.1题目1.2解法：栈 2.删除字符串中的所有相邻重复项2.1题目2.2解法：栈 3.逆波兰表达式求值3.1题目3.2解法：栈 1.有效的括号 1.1题目 给定一个只包括 (，)，{，}，[&#xff…
阅读更多...
Midjourney绘图欣赏系列（十二）

Midjourney绘图欣赏系列（十二）

Midjourney介绍 Midjourney 是生成式人工智能的一个很好的例子，它根据文本提示创建图像。它与 Dall-E 和 Stable Diffusion 一起成为最流行的 AI 艺术创作工具之一。与竞争对手不同，Midjourney 是自筹资金且闭源的，因此确切了解其幕后内容尚不…
阅读更多...
element ui 中文离线文档(百度云盘下载)

element ui 中文离线文档(百度云盘下载)

一般内网开发上不了网，用离线版本比较方便，下载地址： https://download.csdn.net/download/li836779537/88355878?spm1001.2014.3001.5503 下载后里面有个 index.hrml 双击打开就可以用 效果如下：
阅读更多...
ADC架构III：Σ-Δ型ADC基础

ADC架构III：Σ-Δ型ADC基础

简介 Σ-Δ型ADC是现代语音频带、音频和高分辨率精密工业测量应用所青睐的转换器。高度数 字架构非常适合现代细线CMOS工艺，因而允许轻松添加数字功能，而又不会显著增加成 本。随着此转换器架构的广泛使用，了解其基本原理显得非常重要。 历…
阅读更多...
河南大学大数据平台技术实验报告二

河南大学大数据平台技术实验报告二

大数据平台技术课程实验报告 实验二：HDFS操作实践 姓名：杨馥瑞 学号：2212080042 专业：数据科学与大数据技术 年级：2022级 主讲教师：林英豪 实验时间：2024年3月15日3点 至 2024年3月15日4点40 …
阅读更多...
C#，入门教程(27)——应用程序（Application）的基础知识

C#，入门教程(27)——应用程序（Application）的基础知识

上一篇： C#，入门教程(26)——数据的基本概念与使用方法https://blog.csdn.net/beijinghorn/article/details/124952589 一、什么是应用程序 Application？ 应用程序是编程的结果。一般把代码经过编译（等）过程，最终形成的可执行 或 可再用 的文件称为应用程序。可执行文…
阅读更多...
最新文章

Copyright @ 2022~2023