HDFS HA 修改nameservice

本例中修改将原来的hdfs-ha 修改为 hdfs-ns

停止HDFS, 防止新的业务操作

等待停止结束

KDE中需要调整的配置项如下图所示

a.搜索栏找到fs.defaultFS,将hdfs://hdfs-ha改为hdfs://hdfs-ns

b.搜索栏找到dfs.nameservices,将hdfs-ha改为hdfs-ns

c.搜索栏找到dfs.internal.nameservices,将hdfs-ha改为hdfs-ns

d.找到自定义hdfs-site,批量修改添加

#记录以下值
dfs.client.failover.proxy.provider.hdfs-ha=org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider
dfs.ha.namenodes.hdfs-ha=hostgroup_1,hostgroup_5
dfs.namenode.http-address.hdfs-ha.hostgroup_1=kde-offline2.sdns.kscbigdata.cloud:50070
dfs.namenode.http-address.hdfs-ha.hostgroup_5=kde-offline1.sdns.kscbigdata.cloud:50070
dfs.namenode.https-address.hdfs-ha.hostgroup_1=kde-offline2.sdns.kscbigdata.cloud:50470
dfs.namenode.https-address.hdfs-ha.hostgroup_5=kde-offline1.sdns.kscbigdata.cloud:50470
dfs.namenode.rpc-address.hdfs-ha.hostgroup_1=kde-offline2.sdns.kscbigdata.cloud:8020
dfs.namenode.rpc-address.hdfs-ha.hostgroup_5=kde-offline1.sdns.kscbigdata.cloud:8020

#需要将变量中的hdfs-ha改为hdfs-ns,需要批量添加修改后的值
dfs.client.failover.proxy.provider.hdfs-ns=org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider
dfs.ha.namenodes.hdfs-ns=hostgroup_1,hostgroup_5
dfs.namenode.http-address.hdfs-ns.hostgroup_1=kde-offline2.sdns.kscbigdata.cloud:50070
dfs.namenode.http-address.hdfs-ns.hostgroup_5=kde-offline1.sdns.kscbigdata.cloud:50070
dfs.namenode.https-address.hdfs-ns.hostgroup_1=kde-offline2.sdns.kscbigdata.cloud:50470
dfs.namenode.https-address.hdfs-ns.hostgroup_5=kde-offline1.sdns.kscbigdata.cloud:50470
dfs.namenode.rpc-address.hdfs-ns.hostgroup_1=kde-offline2.sdns.kscbigdata.cloud:8020
dfs.namenode.rpc-address.hdfs-ns.hostgroup_5=kde-offline1.sdns.kscbigdata.cloud:8020

删除老配置

剩余以下配置

批量添加配置

保存配置

修改其它组件配置

hbase配置

搜索栏找到HBase root directory,将hdfs://hdfs-ha/apps/hbase/data改为/apps/hbase/data,去掉hdfs://hdfs-ha

hive配置

ranger配置

其它配置

在所有服务搜索原 集群nameserice 明确,确认全部都进行了替换

格式化zkfc

ssh kde-offline1
hdfs zkfc -formatZK
#两个节点都需要执行
ssh kde-offline2
hdfs zkfc -formatZK

输入: Y

另一个节点也需要执行

备份journal node数据目录

所有journal-node节点执行

cp -r /data/hadoop/hdfs/journalnode/hdfs-ha /data/hadoop/hdfs/journalnode/new-ha-name

重启 HDFS

重启其它组件

kde页面操作

修改HIVE元数据

#mysql -u hive -p${目标端hive用户密码} -h ${目标集群mysql masterIP} hive
#select * from DBS;
#确认hdfs地址为旧集群的条目id,进行修改
#update DBS set DB_LOCATION_URI="实际的hdfs地址" where DB_ID=需要修改的id;
#select * from SDS;
#update SDS set LOCATION = REPLACE(LOCATION,'源集群hdfs地址','目标集群hdfs地址');
例子:
update sds set LOCATION = REPLACE(LOCATION,'mycluster','hdfs-ha');

修改项目组客户端配置


通过grep -rn "{原nameservice名称}"  {客户端配置文件目录}  #找到所有需要修改的文件进行替换

hdfs验证

su - hdfs
hdfs fsck /

path '/' is HEALTHY 为正常

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/616849.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

DE2-115开发板基于verilog和nioⅡ的流水灯实现

目录 一、 内容概要二、 实现2.1 基于Nios II软核的流水灯2.1.1 准备工作2.1.2 工程搭建2.1.3 硬件代码设计Ⅰ 连接IP核Ⅱ 编写代码Ⅲ 各种配置 2.1.4 软件代码设计Ⅰ 环境构建Ⅱ 编写代码 2.1.5 代码下载Ⅰ 硬件下载Ⅱ 软件下载 2.1.6 运行结果 2.2 Verilog流水灯 三、 心得体…

5.10.4 Vision Transformer的条件位置编码(CPE)

用于视觉 Transformer 的条件位置编码(CPE)方案与之前预定义且独立于输入标记的固定或可学习位置编码不同,CPE 是动态生成的,并以输入标记的局部邻域为条件。 CPE 可以轻松泛化到比模型在训练期间见过的输入序列更长的输入序列。…

Mysql8.0修改配置文件my.ini的坑

出现的问题:一般直接双击打开my.ini文件默认会用系统自带的记事本打开,如果打开后修改了其中的内容并通过记事本直接保存的话,下次重启就会导致mysql无法启动。 原因是mysql会以ANSI编码读取my.ini文件。 解决办法:使用notepad打…

Imitation Learning学习记录(理论例程)

前言 最近还是衔接着之前的学习记录,这次打算开始学习模仿学习的相关原理,参考的开源资料为 TeaPearce/Counter-Strike_Behavioural_Cloning: IEEE CoG & NeurIPS workshop paper ‘Counter-Strike Deathmatch with Large-Scale Behavioural Clonin…

现代制造之3D打印技术进行零件加工

现代制造 有现代技术支撑的制造业,即无论是制造还是服务行业,添了现代两个字不过是因为有了现代科学技术的支撑,如发达的通信方式,不断发展的互联网,信息化程度加强了,因此可以为这两个行业增加了不少优势…

简单易懂的Java Queue入门教程!

哈喽,各位小伙伴们,你们好呀,我是喵手。运营社区:C站/掘金/腾讯云;欢迎大家常来逛逛 今天我要给大家分享一些自己日常学习到的一些知识点,并以文字的形式跟大家一起交流,互相学习,一…

600/天,海外项目值班,接不接?

朋友介绍了一个海外项目,广告系统短期维护,刚上线需要维护14天也就是2个星期,费用单价600/天,主要工作内容:北京晚上12点-早上8点值班,如果有问题及时响应并修复。 如果我年轻10岁,这个项目我倒…

【网站项目】SpringBoot803房屋租赁管理系统

🙊作者简介:拥有多年开发工作经验,分享技术代码帮助学生学习,独立完成自己的项目或者毕业设计。 代码可以私聊博主获取。🌹赠送计算机毕业设计600个选题excel文件,帮助大学选题。赠送开题报告模板&#xff…

C++入门指南(上)

目录 ​编辑 一、祖师爷画像 二、什么是C 三、C发展史 四、C在工作领域的应用 1. 操作系统以及大型系统软件开发 2. 服务器端开发 3. 游戏开发 4. 嵌入式和物联网领域 5. 数字图像处理 6. 人工智能 7. 分布式应用 五、如何快速上手C 一、祖师爷画像 本贾尼斯特劳斯…

docker修改默认安装路径

docker安装之后默认在 /etc/docker 在/etc/docker 文件下有一个daemon -json 没有就新增 {"registry-mirrors": ["https://kfwkfulq.mirror.aliyuncs.com","https://2lqq34jg.mirror.aliyuncs.com","https://pee6w651.mirror.aliyuncs.c…

续篇——源码部署LAMP环境上线项目——禅道项目

上篇:LNMP环境部署WordPress——使用源码包安装方式部署环境-CSDN博客 目录 一.前提准备 1. 名词区别 2. 下载项目软件包 3. 上传项目源码到虚拟机并解压 二.安装Apache 1. 环境清理 2.关闭Nginx 3. 下载Apache 4. 下载APR组件 4.1 安装apr 4.2 安装apr-util组件 5…

算法学习012-不同路径 c++动态规划算法实现 中小学算法思维学习 信奥算法解析

目录 C不同路径 一、题目要求 1、编程实现 2、输入输出 二、算法分析 三、程序编写 四、运行结果 五、考点分析 六、推荐资料 C不同路径 一、题目要求 1、编程实现 一个机器人位于一个 m x n 网格的左上角 (起始点在下图中标记为 “Start” &#xff09…

德国储能项目锂电池储能集装箱突发火灾:安全挑战再引关注

2024年4月27日,德国尼尔莫尔商业区的一起锂电池储能集装箱火灾事件引起了全球关注。这起事故不仅导致两名消防员在救援过程中受伤,更暴露了储能系统在安全领域亟待解决的重要问题。 根据德国消防队的出警记录,火灾发生在晚上9点前不久。消防人…

在Linux操作系统中LVM逻辑券管理指令

1.PV物理券相关指令 1.查看机器中的PV pvscan 命令 这个叫做/dev/sda2 的PV,被加入到了名叫centos的卷组中,并且这个券组的大小是小于19.51GB 2.创建物理券 pvcreate 磁盘/分区名称 pvcreate /dev/sdc 3.删除物理券 pvremove 磁盘/分区名称 2.…

5.10.3 使用 Transformer 进行端到端对象检测(DETR)

框架的主要成分称为 DEtection TRansformer 或 DETR,是基于集合的全局损失,它通过二分匹配强制进行独特的预测,以及 Transformer 编码器-解码器架构。 DETR 会推理对象与全局图像上下文的关系,以直接并行输出最终的预测集。 1. …

欢乐钓鱼大师自动钓鱼,游戏辅助!

在探索《欢乐钓鱼大师》的世界时,一项备受关注的功能是陀螺仪模式。这是一种利用手机陀螺仪传感器来增强游戏体验的功能,通过模拟真实的钓鱼动作,让玩家更深入地沉浸在游戏的世界中,感受到更加逼真的钓鱼体验。在本篇攻略中&#…

【全开源】JAVA同城组局同城找搭子系统源码支持微信小程序微信公众号H5 APP

让你周末不孤单 发布活动:用户可以发布自己想要进行的活动,包括活动类型、时间、地点等信息,方便其他用户查找和参与。搜索搭档:用户可以根据活动类型、时间、地点等信息,搜索附近的搭档,快速找到志同道合…

Github 2024-05-12 php开源项目日报 Top10

根据Github Trendings的统计,今日(2024-05-12统计)共有10个项目上榜。根据开发语言中项目的数量,汇总情况如下: 开发语言项目数量PHP项目10Filament: 加速Laravel开发的完美起点 创建周期:1410 天开发语言:PHP协议类型:MIT LicenseStar数量:12228 个Fork数量:1990 次关…

工程师工具箱系列(2)hasor

文章目录 工程师工具箱系列(2)hasor简介特点环境准备引入依赖数据库脚本文件配置Hasor配置 运行测试小结 工程师工具箱系列(2)hasor 简介 Hasor有着自己的独立的生命周期与Spring的不同,是一套完整的体系,提供了注入DataQL、Dataway、hasor-web等等&am…

半小时搞懂STM32面经知识点——IIC

1.IIC 1.1什么是IIC? 同步半双工通信协议,适用于小数据和短距离传输。 1.2 IIC需要几条线? IIC总共有2条通信总线(SDA,SCL),SCL为时钟同步线,用于主机和从机间数据同步操作;SDA为…