所有博客大纲
后端学习大纲
MySQL学习大纲
1.MyISAM索引:
1.1.B+树索引适用存储引擎:
- 1.B+树索引适用存储引擎如下表所示:
- 2.即使多个存储引擎都支持同一种类型的B+树索引,但它们的实现原理也是不同的
- Innodb和MyISAM默认的索引是B+树索引
- 而Memory默认的索引是Hash索引
- 3.MyISAM引擎使用 B+Tree 作为索引结构,叶子节点的data域存放的是 数据记录的地址
1.2.MyISAM中B+树索引的原理:
a.MyISAM 中没有聚簇索引
- 1.在InnoDB 中索引即数据,也就是聚簇索引的那棵 B+ 树的叶子节点中已经把所有完整的用户记录都包含了
- 2.在MyISAM 的索引方案虽然也使用树形结构,但是却将索引和数据分开存储,可以理解为 MyISAM 中没有聚簇索引
- 将表中的记录
按照记录的插入顺序单独存储在一个文件中
,称之为数据文件。这个文件并不划分为若干个数据页,有多少记录就往这个文件中塞多少记录就可以了。由于在插入数据的时候并没有刻意按照主键大小排序,所以我们并不能在这些数据上使用二分法进行查找
- 使用 MyISAM 存储引擎的表会把索引信息另外存储到.MYI格式的文件中,称为索引文件
- MyISAM 会单独为表的主键创建一个索引,只不过在索引的叶子节点中存储的不是完整的用户记录,而是
主键值+数据记录地址的组合
- 将表中的记录
- 3.这里设表一共有三列,假设我们以 Col1 为主键,上图是一个 MylSAM 表的主索引 (Primary key) 示意。可以看出
MylSAM 的索引文件仅仅保存数据记录的地址
。在 MyISAM 中,主键索引和二级索引 (Secondary key) 在结构上没有任何区别,只是主键索引要求 key 是唯一的,而二级索引的 key 可以重复
2.2.以 Col2 上建立一个二级索引,则此索引的结构如下图所示:
- 同样也是一棵 B+ 树,data 域保存数据记录的地址。因此,
MyISAM 中索引检索的算法为
:首先按照 B+ 树搜索算法搜索索引,如果指定的Key 存在,则取出其 data 域的值,然后以 data 域的值为地址,读取相应数据记录。
2.3.MyISAM 与 InnoDB 对比
MyISAM 的索引方式都是“非聚簇”的,与 InnoDB 包含 1 个聚簇索引是不同的。
a.两种引擎中索引的区别:
- 在 InnoDB 存储引擎中,我们只需要根据主键值对聚簇索引进行一次查找就能找到对应的记录,而
在 MyISAM 中却需要进行一次回表操作
,意味着 MyISAM 中建立的索引相当于全部都是二级索引
- InnoDB 的数据文件本身就是索引文件,而 MyISAM 索引文件和数据文件是分离的,索引文件仅保存数据记录的地址。
- InnoDB 的非聚簇索引 data 域存储相应记录主键的值,而 MyISAM 索引记录的是地址 。换句话说,InnoDB 的所有非聚簇索引都引用主键作为 data 域。
- MyISAM 的回表操作是十分快速的,因为是拿着地址偏移量直接到文件中取数据的,反观 InnoDB 是通过获取主键之后再去聚簇索引里找记录,虽然说也不慢,但还是比不上直接用地址去访问。
- InnoDB 要求表必须有主键(MyISAM可以没有)。如果没有显式指定,则 MySQL系统会自动选择一个可以非空且唯一标识数据记录的列作为主键。如果不存在这种列,则 MySQL 自动为 InnoDB 表生成一个隐含字段作为主键,这个字段长度为 6 个字节,类型为长整型。
b.总结:
了解不同存储引擎的索引实现方式对于正确使用和优化索引都非常有帮助
- 举例 1:知道了 InnoDB 的索引实现后,就很容易明白
为什么不建议使用过长的字段作为主键
,因为所有二级索引都引用主键索引,过长的主键索引会令二级索引变得过大 - 举例 2:
用非单调的字段作为主键在 InnoDB 中不是个好主意
,因为 InnoDB 数据文件本身是一棵 B+ 树,非单调的主键会造成在插入新记录时,数据文件为了维持 B+ 树的特性而频繁的分裂调整,十分低效,而使用自增字段作为主键则是一个很好的选择
2.MySQL 数据结构选择的合理性
MySQL选择使用的数据结构参考标准:磁盘的 I/O 操作次数
- 1.从 MySQL的角度讲,不得不考虑一个现实问题就是磁盘 I/O。如果我们能让索引的数据结构尽量减少硬盘的 I/O 操作,所消耗的时间也就越小。可以说,磁盘的 I/O 操作次数对索引的使用效率至关重要
- 2.查找都是索引操作,一般来说索引非常大,尤其是关系型数据库,
当数据量比较大的时候索引的大小有可能几个 G 甚至更多
,为了减少索引在内存的占用,数据库索引是存储在外部磁盘上的
,当我们利用索引查询的时候,不可能把整个索引全部加载到内存,只能逐一加载,那么 MySQL 衡量查询效率的标准就是磁盘 I/O 次数
2.1.全表遍历
- 1.全表遍历就是一个全表扫描的过程,就是根据双向链表把磁盘上的数据页加载到缓存页里去,然后在缓存页内部查找那条数据。
- 2.当数据量大的时候,全表遍历性能非常低,时间特别长,应该尽量避免全表遍历
2.2.Hash 结构:
a.Hash介绍:
- 1.Hash 本身是一个函数,又被称为散列函数,它可以帮助我们大幅提升检索数据的效率。Hash 算法是通过某种确定性的算法(比如MD5、SHA1、SHA2、SHA3)将输入转变为输出。
相同的输入永远可以得到相同的输出
,假设输入内容有微小偏差,在输出中通常会有不同的结果 - 2.举例:如果你想要验证两个文件是否相同,那么你不需要把两份文件直接拿来比对 , 只需要让对方把 Hash 函数计算得到的结果告诉你即可,然后在本地同样对文件进行 Hash 函数的运算,最后通过
比较这两个 Hash 函数的结果是否相同
,就可以知道这两个文件是否相同
b.加速查找速度的数据结构,常见的有两类:
- 1.树,例如平衡二叉搜索树,查询/插入/修改/删除的平均时间复杂度都是 O(log2n);
- 2.哈希。例如 HashMap,查询/插入/修改/删除的平均时间复杂度都是 O(1);
(3)采用 Hash 进行检索效率非常高,基本上一次检索就可以找到数据,而 B+ 树需要自顶向下依次查找,多次访问节点才能找到数据,中间需要多次 I/O 操作,从效率来说 Hash 比 B+ 树更快。
- 4.在哈希的方式下,一个元素 k 处于 h(k) 中,即利用哈希函数 h,根据关键字 k 计算出槽的位置。函数 h 将关键字域映射到哈希表 T[o…m - 1] 的槽位上。
(4)上图中哈希函数 h 有可能将两个不同的关键字映射到相同的位置,这叫做碰撞/冲突 ,在数据库中一般采用链接法来解决。在链接法中,将散列到同一槽位的元素放在一个链表中,如下图所示:
(5)实验:体会数组和 hash 表的查找方面的效率区别:
// 时间复杂度为 O(n)
@Test
public void test1() {
int[] arr = new int[100000];
for (int i = 0; i < arr.length; i++) {
arr[i] = i + 1;
}
long start = System.currentTimeMillis();
for (int j = 1; j <= 100000; j++) {
int temp = j;
for (int i = 0; i < arr.length; i++) {
if (temp == arr[i]) {
break;
}
}
}
long end = System.currentTimeMillis();
System.out.println("time: " + (end - start)); //time: 2100 ms
}
@Test
public void test2() {
HashSet<Integer> set = new HashSet<>(100000);
for (int i = 0; i < 100000; i++) {
set.add(i + 1);
}
long start = System.currentTimeMillis();
for (int j = 1; j <= 100000; j++) {
int temp = j;
boolean contains = set.contains(temp);
}
long end = System.currentTimeMillis();
System.out.println("time: " + (end - start)); //time: 6
}
(6)Hash 结构效率高,那为什么索引结构要设计成树型呢?
① Hash索引仅能满足 (=)、(<>) 和 IN 查询。如果进行范围查询,哈希型的索引,时间复杂度会退化为O(n);而树型的“有序”特性,依然能够保持 O(log2n) 的高效率。
② Hash 索引还有一个缺陷,数据的存储是没有顺序的,在ORDER BY的情况下,使用Hash索引还需要对数据重新排序。I
③ 对于联合索引的情况,Hash 值是将联合索引键合并后一起来计算的,无法对单独的一个键或者几个索引键进行查询。
④ 对于等值查询来说,通常 Hash 索引的效率更高,不过也存在一种情况,就是索引列的重复值如果很多,效率就会降低。这是因为遇到Hash 冲突时,需要遍历桶中的行指针来进行比较,找到查询的关键字,非常耗时。所以,Hash 索引通常不会用到重复值多的列上,比如列为性别、年龄的情况等。
(7)Hash 索引适用存储引擎如表所示:
索引 \ 存储引擎 MyISAM InnoDB Memory
Hash 索引 不支持 不支持 支持
(8)Hash 索引的适用性
① Hash 索引存在着很多限制,相比之下在数据库中 B+ 树索引的使用面会更广,不过也有一些场景采用 Hash 索引效率更高,比如在键值型 (Key-Value) 数据库中,Redis 存储的核心就是 Hash 表。
② MySQL 中的 Memory 存储引擎支持 Hash 存储,如果我们需要用到查询的临时表时,就可以选择 Memory 存储引擎,把某个字段设置为Hash 索引,比如字符串类型的字段,进行 Hash 计算之后长度可以缩短到几个字节。当字段的重复度低,而且经常需要进行等值查询的时候,采用 Hash 索引是个不错的选择。
③ 另外,InnoDB 本身不支持 Hash 索引,但是提供自适应 Hash 索引 (Adaptive Hash lndex)。什么情况下才会使用自适应 Hash 索引呢?如果某个数据经常被访问,当满足一定条件的时候,就会将这个数据页的地址存放到 Hash 表中。这样下次查询的时候,就可以直接找到这个页面的所在位置。这样让 B+ 树也具备了 Hash 索引的优点。
采用自适应 Hash 索引目的是方便根据 SQL 的查询条件加速定位到叶子节点,特别是当 B+ 树比较深的时候,通过自适应 Hash 索引可以明显提高数据的检索效率。我们可以通过 innodb_adaptive_hash_index 变量来查看是否开启了自适应 Hash,比如:
show variables like '%adaptive_hash_index';
7.3.二叉搜索树
如果我们利用二叉树作为索引结构,那么磁盘的 I/O 次数和索引树的高度是相关的。
(1)二叉搜索树的特点
① 一个节点只能有两个子节点,也就是一个节点度不能超过 2;
② 左子节点 < 本节点、右子节点 >= 本节点,比我大的向右,比我小的向左;
(2)查找规则
我们先来看下最基础的二叉搜索树 (Binary Search Tree),搜索某个节点和插入节点的规则一样,我们假设搜索插入的数值为 key:
① 如果 key 大于根节点,则在右子树中进行查找;
② 如果 key 小于根节点,则在左子树中进行查找;
③ 如果 key 等于根节点,也就是找到了这个节点,返回根节点即可。
(3)举个例子,我们对数列 (34,22,89,5,23,77,91)创造出来的二分查找树如下图所示:
但是存在特殊的情况,就是有时候二叉树的深度非常大。比如我们给出的数据顺序是 (5, 22, 23, 34, 77, 89, 91),创造出来的二分搜索树如下图所示:
上面第二棵树也属于二分查找树,但是性能上已经退化成了一条链表,查找数据的时间复杂度变成了 O(n)。你能看出来第一个树的深度是 3,也就是说最多只需 3 次比较,就可以找到节点,而第二个树的深度是 7,最多需要 7 次比较才能找到节点。
(4)为了提高查询效率,就需要 减少磁盘 I/O 数 。为了减少磁盘 I/O 的次数,就需要尽量降低树的高度,需要把原来“瘦高”的树结构变的“矮胖”,树的每层的分叉越多越好。
7.4.AVL 树
(1)为了解决上面二叉查找树退化成链表的问题,人们提出了平衡二叉搜索树 (Balanced Binary Tree),又称为 AVL树(有别于 AVL 算法),它在二叉搜索树的基础上增加了约束,具有以下性质:
它是一棵空树或它的左右两个子树的高度差的绝对值不超过 1,并且左右两个子树都是一棵平衡二叉树。
(2)这里说一下,常见的平衡二叉树有很多种,包括了平衡二叉搜索树、红黑树、数堆、伸展树。平衡二叉搜索树是最早提出来的平衡二叉搜索树,当我们提到平衡二叉树时一般指的就是平衡二叉搜索树。事实上,第一棵树就属于平衡二叉搜索树,搜索时间复杂度就是 O(log2n)。
(3)数据查询的时间主要依赖于磁盘 I/O 的次数,如果我们采用二叉树的形式,即使通过平衡二叉搜索树进行了改进,树的深度也是O(log2n),当 n 比较大时,深度也是比较高的,比如下图的情况:
(4)每访问一次节点就需要进行一次磁盘 I/O 操作,对于上面的树来说,我们需要进行 5 次 I/O 操作。虽然平衡二叉树的效率高,但是树的深度也同样高,这就意味着磁盘 I/O 操作次数多,会影响整体数据查询的效率。针对同样的数据,如果我们把二叉树改成 M 叉树 (M>2) 呢?当 M = 3 时,同样的 31 个节点可以由下面的三叉树来进行存储:
你能看到此时树的高度降低了,当数据量 N 大的时候,以及树的分叉数 M 大的时候,M 叉树的高度会远小于二叉树的高度 (M >2)。所以,我们需要把树从“瘦高"变“矮胖”。
7.5.B-Tree
(1)B树的英文是 Balance Tree,也就是多路平衡查找树。简写为 B-Tree(注意横杠表示这两个单词连起来的意思,不是减号)。它的高度远小于平衡二叉树的高度。B 树的结构如下图所示:
B 树作为多路平衡查找树,它的每一个节点最多可以包括 M 个子节点,M 称为 B 树的阶。每个磁盘块中包括了关键字和子节点的指针。如果一个磁盘块中包括了 x 个关键字,那么指针数就是 x + 1。对于一个 100 阶的 B 树来说,如果有 3 层的话最多可以存储约 100 万的索引数据。对于大量的索引数据来说,采用 B 树的结构是非常适合的,因为树的高度要远小于二叉树的高度。
(2)一个 M 阶的 B 树 (M > 2) 有以下的特性:
① B 树在插入和删除节点的时候如果导致树不平衡,就通过自动调整节点的位置来保持树的自平衡。
② 关键字集合分布在整棵树中,即叶子节点和非叶子节点都存放数据。搜索有可能在非叶子节点结束。
③ 其搜索性能等价于在关键字全集内做一次二分查找。
7.6.B+Tree:
a.B+ 树概述:
- 1.B+ 树也是一种多路搜索树,基于B树做出了改进,主流的 DBMS 都支持 B+ 树的索引方式,比如 MySQL。相比于 B-Tree,B+Tree 适合文件索引系统。
- 2.MySQL官网说明:
b.B+ 树和 B 树的差异:
- 1.在 B+ 树中,有 k 个孩子的节点就有 k 个关键字。也就是孩子数量 = 关键字数,而在 B 树中,孩子数量 = 关键字数 +1。
- 2.在 B+ 树中,非叶子节点的关键字也会同时存在在子节点中,并且是在子节点中所有关键字的最大(或最小)。
- 3.在 B+ 树中,非叶子节点仅用于索引,不保存数据记录,跟记录有关的信息都放在叶子节点中。而在 B 树中, 非叶子节点既保存索引,也保存数据记录 。
- 4.所有关键字都在叶子节点出现,叶子节点构成一个有序链表,而且叶子节点本身按照关键字的大小从小到大顺序链接。
案例说明:
- 下图就是一棵 B+ 树,阶数为 3,根节点中的关键字 1、18、35 分别是子节点 (1,8,14),(18,24,31) 和 (35,41,53) 中的最小值。每一层父节点的关键字都会出现在下一层的子节点的关键字中,因此在叶子节点中包括了所有的关键字信息,并且每一个叶子节点都有一个指向下一个节点的指针,这样就形成了一个链表
比如,我们想要查找关键字16,B+ 树会自顶向下逐层进行查找:
- ① 与根节点的关键字 (1, 18, 35) 进行比较,16 在 1 和 18 之间,得到指针 P1(指向磁盘块 2)
- ② 找到磁盘块 2,关键字为 (1, 8, 14),因为 16 大于 14,所以得到指针 P3(指向磁盘块 7)
- ③ 找到磁盘块 7,关键字为(14, 16, 17),然后我们找到了关键字 16,所以可以找到关键字 16 所对应的数据。
- 5.整个过程一共进行了 3 次 I/O 操作,看起来 B+ 树和 B 树的查询过程差不多,但是 B+ 树和 B 树有个根本的差异在于,B+ 树的中间节点并不直接存储数据。这样的好处都有什么呢?
- B+ 树查询效率更稳定。因为 B+ 树每次只有访问到叶子节点才能找到对应的数据,而在 B 树中,非叶子节点也会存储数据,这样就会造成查询效率不稳定的情况,有时候访问到了非叶子节点就可以找到关键字,而有时需要访问到叶子节点才能找到关键字。
- B+ 树的查询效率更高。这是因为通常 B+ 树比 B 树更矮胖(阶数更大,深度更低),查询所需要的磁盘 I/O 也会更少。同样的磁盘页大小,B+ 树可以存储更多的节点关键字。
- 不仅是对单个关键字的查询上,在查询范围上,B+ 树的效率也比 B 树高。这是因为所有关键字都出现在 B+ 树的叶子节点中,叶子节点之间会有指针,数据又是递增的,这使得我们范围查找可以通过指针连接查找。而在B树中则需要通过中序遍历才能完成查询范围的查找,效率要低很多。
B 树和 B+ 树都可以作为索引的数据结构,在 MySQL 中采用的是 B+ 树。但 B 树和 B+树各有自己的应用场景,不能说 B+ 树完全比 B 树好,反之亦然。
c.思考题
- 1.思考题 1:为了减少 I/O,索引树会一次性加载吗?
- 数据库索引是存储在磁盘上的,如果数据量很大,必然导致索引的大小也会很大,超过几个G
- 当我们利用索引查询时候,是不可能将全部几个 G 的索引都加载进内存的,我们能做的只能是逐一加载每一个磁盘页,因为磁盘页对应着索引树的节点。
- 2.思考题 2:B+树的存储能力如何?为何说一般查找行记录,最多只需1~3次磁盘 I/O?
- InnoDB 存储引擎中页的大小为 16KB,一般表的主键类型为 INT(占用 4 个字节)或 BIGINT(占用8个字节),指针类型也一般为 4 或 8 个字节,也就是说一个页(B+Tree 中的一个节点)中大概存储 16KB / (8B+8B) = 1K 个键值(因为是估值,为方便计算,这里的 K 取值为103。也就是说一个深度为 3 的 B+Tree 索引可以维护 103 * 103 * 103 = 10 亿条记录。(这里假定一个数据页也存储 103 条行记录数据了)
- 实际情况中每个节点可能不能填充满,因此在数据库中,B+Tree 的高度一般都在 2 ~ 4 层。MySQL 的 InnoDB 存储引擎在设计时是将根节点常驻内存的,也就是说查找某一键值的行记录时最多只需要 1 ~ 3 次磁盘 I/O 操作。
- 思考题 3:为什么说 B+ 树比 B- 树更适合实际应用中操作系统的文件索引和数据库索引?
- B+ 树的磁盘读写代价更低
- B+ 树的内部结点并没有指向关键字具体信息的指针。因此其内部结点相对 B 树更小。如果把所有同一内部结点的关键字存放在同一盘块中,那么盘块所能容纳的关键字数量也越多。一次性读入内存中的需要查找的关键字也就越多。相对来说 I/O 读写次数也就降低了。
- B+ 树的查询效率更加稳定:由于非终结点并不是最终指向文件内容的结点,而只是叶子结点中关键字的索引。所以任何关键字的查找必须走一条从根结点到叶子结点的路。所有关键字查询的路径长度相同,导致每一个数据的查询效率相当。
- 4.思考题 4:Hash 索引与 B+ 树索引的区别是什么?
- 我们之前讲到过 B+ 树索引的结构,Hash 索引结构和 B+ 树的不同,因此在索引使用上也会有差别。
- Hash 索引不能进行范围查询,而 B+ 树可以。这是因为 Hash 索引指向的数据是无序的,而 B+ 树的叶子节点是个有序的链表。
- Hash索引不支持联合索引的最左侧原则(即联合索引的部分索引无法使用),而 B+ 树可以。对于联合索引来说,Hash 索引在计算Hash 值的时候是将索引键合并后再一起计算 Hash 值,所以不会针对每个索引单独计算 Hash 值。因此如果用到联合索引的一个或者几个索引时,联合索引无法被利用。
- Hash 索引不支持 ORDER BY 排序,因为 Hash 索引指向的数据是无序的,因此无法起到排序优化的作用,而 B+ 树索引数据是有序的,可以起到对该字段 ORDER BY 排序优化的作用。同理,我们也无法用 Hash 索引进行模糊查询,而 B+ 树使用LIKE进行模糊查询的时候,LIKE 后面后模糊查询(比如 % 结尾)的话就可以起到优化作用。
- InnoDB 不支持 Hash 索引,而支持 B+ 树索引。
- 思考题 5:Hash 索引与 B+ 树索引是在建索引的时候手动指定的吗?
- 如果使用的是 MySQL 的话,我们需要了解 MysQL 的存储引擎都支持哪些索引结构,如下图所示(参考来源官方文档)。如果是其他的 DBMS,可以参考相关的 DBMS 文档。
- 可以看到,针对 InnoDB 和 MylSAM 存储引擎,都会默认采用 B+ 树索引,无法使用 Hash 索引。InnoDB 提供的自适应 Hash 是不需要手动指定的。如果是 Memory/Heap 和 NDB 存储引擎,是可以进行选择 Hash 索引的
7.7.R-Tree:
a.R树说名:
- 1.R-Tree 在 MySQL 很少使用,仅支持 geometry 数据类型,支持该类型的存储引擎只有 myisam、bdb、 innodb、ndb、archive 这几种。
- 2.举个 R 树在现实领域中能够解决的例子:
- 查找 20 英里以内所有的餐厅。如果没有 R 树你会怎么解决?一般情况下我们会把餐厅的坐标 (x,y) 分为两个字段存放在数据库中,一个字段记录经度,另一个字段记录纬度。这样的话我们就需要遍历所有的餐厅获取其位置信息,然后计算是否满足要求。如果一个地区有 100 家餐厅的话,我们就要进行 100 次位置计算操作了,如果应用到谷歌、百度地图这种超大数据库中,这种方法便必定不可行了。
- 3.R 树就很好的解决了这种高维空间搜索问题 。它把 B 树的思想很好的扩展到了多维空间,采用了 B 树分割空间的思想,并在添加、删除操作时采用合并、分解结点的方法,保证树的平衡性。因此,R 树就是一棵用来 存储高维数据的平衡树 。相对于 B-Tree,R-Tree 的优势在于范围查找
7.8.小结:
a.小结说明:
- 1.使用索引可以帮助我们从海量的数据中快速定位想要查找的数据,不过索引也存在一些不足,比如占用存储空间、降低数据库写操作的性能等,如果有多个索引还会增加索引选择的时间。当我们使用索引时,需要平衡索引的利(提升查询效率)和弊(维护索引所需的代价)。
- 2.在实际工作中,我们还需要基于需求和数据本身的分布情况来确定是否使用索引,尽管索引不是万能的,但数据量大的时候不使用索引是不可想象的,毕竟索引的本质,是帮助我们提升数据检索的效率。
b.算法的时间复杂度
- 1.同一问题可用不同算法解决,而一个算法的质量优劣将影响到算法乃至程序的效率。算法分析的目的在于选择合适算法和改进算法。