insert优化
批量插入
-
手动提交事务
主键顺序插入(将在主键优化中介绍)
大批量插入数据
如果一次性需要插入大批量地数据,使用insert语句插入性能较低,此时使用MySQL数据库提供地load指令进行插入
下图第三条语句表示讲/root/sql.log通过load插入到表tb_user中,每个字段用‘,’分割,每行数据用‘\n’分割
主键优化
数据组织方式
在InnoDB存储引擎中,表数据都是根据主键顺序组织存放地,这种存储方式的表称为索引组织表
页分裂
页可以为空,也可以填充一半,也可以填充100%。每个页中包含了2-N行数据(如果一行数据过大,会溢出),会根据主键排列。
-
主键顺序插入
根据主键依次插入到页中,每个页之家有一个双向指针,不会出现页分裂
-
主键乱序插入
-
如下图两个页中已经插满数据
-
当我们再插入一个id为50的行数据时,由于第一个页和第二个页中已经插满了数据,此时会开启一个新的数据页
-
此时id为50的数据不会立即插入到第三个页中,会先找到第一个数据页50%的位置,然后将后面的数据移动到第三个页中,然后再将id为50的数据插入到第三个页中
-
最后这三个页中的链表指针会改变指向,如下图:
这就是页分裂现象。
-
页合并
当删除一行记录后,实际上记录并没有被物理删除,只是记录被标记为删除并且它的空间变得允许被其他记录声明使用。
当页中删除的记录达到MERGE_THRESHOLD(合并页的阈值,可以自己设置,在创建表或者创建索引时指定,默认为页的50%),InnoDB会开始寻找最靠近的页(前或后)看看是否可以将这两个页合并以优化空间使用
- 如下图,删除id为13、14、15、16的行数据,删除的记录达到了页的50%,这时就会进行页合并
- 下图为页合并后的:
- 当再插入id为20的数据时,会直接插入到第三个页中
主键设计原则
-
满足业务需求的情况下,尽量降低主键的长度
-
插入数据时,尽量选择顺序插入,选择使用主键自增
-
尽量不要使用UUID做主键或者其他自然主键,如身份证号
-
业务操作时,避免对主键的修改
order by优化
-
Using filesort:通过表的索引或全盘扫描,读取满足条件的数据行,然后在排序缓冲区sort buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序都叫FileSort排序
-
Using index:通过有序索引顺序扫描直接返回有序数据,这种情况即为using index,不需要额外排序,操作效率高
如下图,不同的排序方式叶子节点是不同的:
注意以上建立索引后的排序方式使用Using index的前提是覆盖索引(不需要回表查询),如果不是则使用排序方式是Using filesort。
注意事项:
-
根据排序字段建立合适的索引,多字段排序时,也遵循最左前缀法则
-
尽量使用覆盖索引
-
多字段排序,一个升序一个降序,此时需要注意联合索引在创建时的规则(ASC/DESC)
-
如果不可避免地出现filesort,大数据量排序时,可以适当增大排序缓冲区大小sort_buffer_size(默认256K)
group by优化
原理与order by优化类似,这里不再过多介绍
-
在分组操作时,可以通过索引来提高效率
-
分组操作时,索引的使用也是满足最左前缀法则的。
limit优化
一个常见又非常头疼的问题就是limit 2000000,10 ,此时需要MySQL排序前2000010记录,仅返回2000000-2000010的记录,其他记录丢弃,查询排序的代价非常大。
优化思路:一般分页查询时,通过创建覆盖索引能够比较好地提高性能,可以通过覆盖索引加子查询进行优化
count优化
-
MyISAM引擎把一个表的总行数存在了磁盘上,因此执行count(*)的时候会直接返回这个数,效率很高(仅限没有where条件)
-
InnoDB引擎就麻烦了,它执行count(*)的时候,需要把数据一行一行地从引擎里面读出来,然后累积计数
优化思路:自己记数
count的几种用法
-
count()是一个聚合函数,对于返回的结果集,一行一行地判断,如果count函数的参数不是NULL,累计值就加1,否则不加,最后返回累计值
-
用法:
-
count(*):InnoDB引擎并不会把全部字段取出来,而是专门做了优化,不取值,服务层直接按行进行累加
-
count(主键):InnoDB引擎会遍历整张表,把每一行的主键di值取出来,返回给服务层。服务层拿到主键后,直接进行累加(主键不可能为null)
-
count(字段):没有not null约束:InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,服务层判断是否为null,不为null,记数累加;有not null约束:InnoDB引擎会遍历整张表把每一行的字段值都取出来,返回给服务层,直接进行累加
-
count(1):InnoDB引擎会遍历整张表,但不取值。服务层对于返回的每一行,放一个数字“1”进去,直接按行进行累加,当然“1”也可以改成其他的数字,比如-1,2
-
效率排序:count(字段)<count(主键 id)<count(1)≈count(*),所以尽量使用count(*)
-
update优化
InnoDB的行锁是针对索引加的锁,不是针对行记录加的锁,并且该索引不能失效,否则会从行锁升级为表锁。所以update尽可能根据索引更新数据