今天同事想在hive里用中文做为分区字段。如果用中文做分区字段的话,就需要更改Hive元
数据库。结果发生了生产事故。导致无法删除表和删除分区。记一下。
修改hive元数据库的编码方式为utf后可以支持中文,执行以下语句:
alter table PARTITIONS default character set utf8;
alter table PARTITION_KEY_VALS default character set utf8;
alter table SDS default character set utf8;
alter table PARTITIONS modify column PART_name varchar(190) character set utf8;
alter table PARTITION_KEY_VALS modify column PART_KEY_VAL varchar(256) character set utf8;
alter table SDS modify column LOCATION varchar(4000) character set utf8;
以上操作是没问题的,
当然,按照习惯执行前手动备份一下表。防止出现意外可以回滚。
就是因为这个步骤,导致了我对表进行操作的时候,报错
message:One or more instances could not be deleted
Error while processing statement: FAILED:
Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. MetaException(message:One or more instances could not be deleted)
这可是生产,可给我吓尿了。赶紧看看啥问题。
我以为是表出现问题了。就对表进行了修复
msck repair table table_name;
毛用都没有,现在每过一分钟我都紧张一分钟。跟我之前删服务器的感觉差不多。
冷静一下。可能处理的方向不对。现在最重要就得看看日志。
让我see 一 see
我擦,备份的时候连带着约束也备份过来了。
好嘛,删除约束试试
我备份了3张表。那么删除3张表的约束。我这里只展示1张表的处理,其他两张表处理方式都一样。
1、找到约束。
show create table PARTITIONS_bak20230313;
CREATE TABLE `PARTITIONS_bak20230313` (
`PART_ID` bigint(20) NOT NULL,
`CREATE_TIME` int(11) NOT NULL,
`LAST_ACCESS_TIME` int(11) NOT NULL,
`PART_NAME` varchar(767) CHARACTER SET latin1 COLLATE latin1_bin DEFAULT NULL,
`SD_ID` bigint(20) DEFAULT NULL,
`TBL_ID` bigint(20) DEFAULT NULL,
PRIMARY KEY (`PART_ID`),
UNIQUE KEY `UNIQUEPARTITION` (`PART_NAME`,`TBL_ID`),
KEY `PARTITIONS_N49` (`TBL_ID`),
KEY `PARTITIONS_N50` (`SD_ID`),
CONSTRAINT `PARTITIONS_bak20230313_ibfk_1` FOREIGN KEY (`TBL_ID`) REFERENCES `TBLS` (`TBL_ID`),
CONSTRAINT `PARTITIONS_bak20230313_ibfk_2` FOREIGN KEY (`SD_ID`) REFERENCES `SDS` (`SD_ID`)
) ENGINE=InnoDB DEFAULT CHARSET=latin1
由此可以看到。约束key PARTITIONS_bak20230313_ibfk_1和 PARTITIONS_bak20230313_ibfk_2
注意,操作元数据一定要注意。可别给执行错了。
alter table PARTITIONS_bak20230313 DROP FOREIGN KEY PARTITIONS_bak20230313_ibfk_1;
alter table PARTITIONS_bak20230313 DROP FOREIGN KEY PARTITIONS_bak20230313_ibfk_2;
删除约束后,再试试hive的DDL操作
阿西八,这备份整的。吓我一身冷汗。
来点赞,压压惊~