MySQL备份文件导入GreatSQL MGR环境为什么出现大量报错?

原创
04/11 14:22
阅读数 1.2K

MySQL备份文件导入GreatSQL MGR环境为什么出现大量报错?

  1. 问题信息

1.1 问题描述

客户计划将数据库由 MySQL 迁移到 GreatSQL,为客户安装好3节点 GreatSQL MGR 环境后,客户将使用mysqldump从MySQL8中导出的数据导入到GreatSQL中,导入过程中,出现大量报错信息 ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.

客户问:备份文件能正常导入 MySQL 数据库,为什么导入 GreatSQL 会有这么多报错信息?

我回复客户:MGR 环境有一些使用限制,我先检查下导入数据。

  1. 问题分析及处理

MGR 要求表是 InnoDB 类型 ,首先检查了表的存储引擎。

2.1 检查存储引擎

greatsql> SELECT TABLE_TYPE,ENGINE,count(*) FROM
information_schema.tables WHERE table_schema='jcdb' GROUP BY TABLE_TYPE,ENGINE;
+------------+--------+----------+
| TABLE_TYPE | ENGINE | count(*) |
+------------+--------+----------+
| BASE TABLE | InnoDB |     1355 |
| BASE TABLE | MyISAM |        1 |
| BASE TABLE | MEMORY |        1 |
| VIEW       | NULL   |        3 |
+------------+--------+----------+
4 rows in set (0.02 sec)

检查发现导入的数据存在 MyISAM 和 MEMORY 存储引擎。在MGR环境,能创建非 InnoDB 存储引擎的表,但插入数据时会报错。

greatsql> CREATE TABLE t0(id int primary key) ENGINE=MEMORY;
Query OK, 0 rows affected (0.03 sec)

greatsql> INSERT INTO  t0 SELECT 1;
ERROR 3098 (HY000): The table does not comply with the requirements by an external plugin.

2.2 表主键检查

MGR要求表有主键,检查数据库中的表,是不是都有主键。检查发现有一部分表没有设置主键。

greatsql> SELECT count(table_name)
FROM information_schema.tables 
WHERE table_schema = 'jcdb' 
AND table_name NOT IN (
    SELECT table_name 
    FROM information_schema.table_constraints 
    WHERE constraint_type = 'PRIMARY KEY'
);
+-------------------+
| count(table_name) |
+-------------------+
|                67 |
+-------------------+
1 row in set (0.10 sec)

2.3 问题处理

1、对于非InnoDB 存储引擎的表,修改建表语句,将存储引擎修改为InnoDB

$ grep MyISAM jcdb.sql 
) ENGINE = MyISAM AUTO_INCREMENT = 1 CHARACTER SET = utf8mb4 COLLATE = utf8mb4_0900_ai_ci COMMENT = '系统日志表' ROW_FORMAT = DYNAMIC;
$ sed -i 's/ENGINE = MyISAM/ENGINE = InnoDB/g' jcdb.sql
$ grep MyISAM jcsh.sql 

2、对于没有主键的表通过设置系统变量``sql_generate_invisible_primary_key =on` 解决

从 8.0.30开始,当sql_generate_invisible_primary_key=ON时 ,创建InnoDB表时,如果没有显式指定主键的情况下,GreatSQL支持生成不可见主键,即 GreatSQL服务会自动添加一个生成的不可见主键(GIPK)到表中。

另外:从 8.0.13开始,新增sql_require_primary_key参数(建议全局设置选项 sql_require_primary_key=ON),其默认值为OFF,设置为ON时,建表时需要显示指定主键。

-- 主键相关的参数
greatsql> SHOW variables LIKE '%primary%';
+------------------------------------+-------+
| Variable_name                      | Value |
+------------------------------------+-------+
| sql_generate_invisible_primary_key | OFF   |
| sql_require_primary_key            | OFF   |
+------------------------------------+-------+
2 rows in set (0.00 sec)

greatsql> SET  sql_require_primary_key=on;
Query OK, 0 rows affected (0.00 sec)

greatsql> CREATE TABLE t01(id int) ;
ERROR 3750 (HY000): Unable to create or change a table without a primary key, when the system variable 'sql_require_primary_key' is set. Add a primary key to the table or unset this variable to avoid this message. Note that tables without a primary key can cause performance problems in row-based replication, so please consult your DBA before changing this setting.

greatsql> SET sql_require_primary_key=OFF;

greatsql> SET sql_generate_invisible_primary_key=ON;
Query OK, 0 rows affected (0.00 sec)

greatsql> CREATE TABLE auto_1 (c1 VARCHAR(50), c2 INT);
Query OK, 0 rows affected (0.26 sec)

greatsql> SHOW CREATE TABLE auto_1\G;
*************************** 1. row ***************************
       Table: auto_1
Create Table: CREATE TABLE `auto_1` (
  `my_row_id` bigint unsigned NOT NULL AUTO_INCREMENT /*!80023 INVISIBLE */,
  `c1` varchar(50) DEFAULT NULL,
  `c2` int DEFAULT NULL,
  PRIMARY KEY (`my_row_id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci
1 row in set (0.00 sec)

ERROR: 
No query specified

greatsql> INSERT INTO  auto_1(c1,c2) VALUES('aaa',1);
Query OK, 1 row affected (0.04 sec)

greatsql> INSERT INTO auto_1(c1,c2) VALUES('aabb',10);
Query OK, 1 row affected (0.03 sec)

greatsql> SELECT * FROM auto_1;
+------+------+
| c1   | c2   |
+------+------+
| aaa  |    1 |
| aabb |   10 |
+------+------+
2 rows in set (0.00 sec)
-- 默认情况下,SELECT 的时候不会显示不可见主键

将 mysqldump 文件的非 InnoDB 存储引擎表修改为 InnoDB 存储引擎,并且设置sql_generate_invisible_primary_key=ON后,重新导入数据,数据可以正常导入到新的数据库中。

3.MGR使用限制

3.1 MGR基础要求

1、InnoDB Storage Engine.

表必须使用InnoDB存储引擎。

2、Primary Keys.

每个表必须有一个已定义的主键,或与主键等价的非空唯一键。

3、Network Performance.

网络延迟和网络带宽都会影响组复制的性能和稳定性。

3.2 MGR数据库实例配置要求

运行MGR的实例必须满足以下要求:

1、Unique Server Identifier.

同一个复制组,server_id唯一

2、Binary Log Active.

打开log_bin: 启用二进制日志,MySQL 8.0默认设置

3、Replica Updates

设置log_replica_updates=ON (from MySQL 8.0.26) or log_slave_updates=ON(before MySQL 8.0.26)MySQL 8.0默认设置

4、Binary Log Row Format.

二进制日志行格式为row模式: binlog_format=row MySQL 8.0默认设置

5、Binary Log Checksums Off

关闭二进制日志校验和:

binlog_checksum=NONE,MySQL 8.0.20

binlog_checksum=CRC32,MySQL 8.0.21+ 默认设置

6、Global Transaction Identifiers On

开启全局事务标识符: 设置gtid_mode=ONenforce_gtid_consistency=ON

7、Replication Information Repositories

复制信息存储库设置: 设置master_info_repository=TABLErelay_log_info_repository=TABLE,这个设置在MySQL 8是默认设置。

8、Transaction Write Set Extraction

事务写集提取transaction_write_set_extraction=XXHASH64在MySQL中 从MySQL 8.0.26开始,这个设置是默认的。

9、Default Table Encryption

默认表加密:default_table_encryption=OFF,在所有组成员上设置相同的值。默认值为OFF

10、 Lower Case Table Names

表名大小写设置:lower_case_table_names=1,表名不区分大小写,对所有组成员使用相同的值。 不同的平台有不同的默认值

  • Default Value (macOS)=2

  • Default Value (Unix)=0

  • Default Value (Windows)=1

11、Binary Log Dependency Tracking

binlog_transaction_dependency_tracking=WRITESET

12、Multithreaded Appliers

启用多线程复制,组复制成员可以配置为 多线程复制,使事务可以并行应用。从MySQL 8.0.27开始,所有的副本都是 默认配置为多线程。

4.参考文章


Enjoy GreatSQL :)

关于 GreatSQL

GreatSQL是适用于金融级应用的国内自主开源数据库,具备高性能、高可靠、高易用性、高安全等多个核心特性,可以作为MySQL或Percona Server的可选替换,用于线上生产环境,且完全免费并兼容MySQL或Percona Server。

相关链接: GreatSQL社区 Gitee GitHub Bilibili

GreatSQL社区:

image

社区有奖建议反馈: https://greatsql.cn/thread-54-1-1.html

社区博客有奖征稿详情: https://greatsql.cn/thread-100-1-1.html

(对文章有疑问或者有独到见解都可以去社区官网提出或分享哦~)

技术交流群:

微信&QQ群:

QQ群:533341697

微信群:添加GreatSQL社区助手(微信号:wanlidbc )好友,待社区助手拉您进群。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
0 评论
1 收藏
0
分享
返回顶部
顶部