MySQL排序原理与优化方法(9/16)

order by排序优化

MySQL排序策略

内存临时表 or 磁盘临时表?

**内存临时表排序:**在MySQL中,使用InnoDB引擎执行排序操作时,当处理的数据量较小,可以在内存中完成排序时,MySQL会优先使用内存进行排序操作。在这种情况下,MySQL会创建一个临时内存表来存储排序结果,这样可以快速地对数据进行排序,提高查询效率。

**磁盘临时表排序:**如果排序操作需要处理的数据量超过了内存的限制,或者无法在内存中完成排序,MySQL会将数据溢写到磁盘上的临时表中进行排序。这种情况下,MySQL会创建一个磁盘临时表,并可能涉及到磁盘I/O操作,这会增加排序操作的时间。磁盘临时表的排序过程与内存临时表有所不同,可能会采用优先队列排序算法,减少了对临时文件的依赖。

MySQL有几个系统变量会影响排序操作是否使用内存临时表,例如sort_buffer_sizejoin_buffer_size

  • sort_buffer_size指定了MySQL在排序操作中使用的内存缓冲区大小。如果排序操作需要的内存超过这个值,MySQL会使用磁盘临时表。
  • join_buffer_size用于连接操作的内存缓冲区大小,但在某些情况下,也可以用于排序操作。

MySQL的查询优化器会根据查询的复杂性、数据量和可用内存等因素来决定是否使用内存临时表进行排序。优化器会估算使用内存临时表和磁盘临时表的代价,并选择成本更低的方案。

全字段排序 or rowid排序?

  1. 全字段排序

    • 当使用order by对查询结果进行排序时,MySQL会使用sort_buffer进行内存排序。
    • 如果排序数据量小于sort_buffer_size参数设置的内存大小,则排序在内存中完成;如果数据量过大,则需要使用外部排序,可能涉及到磁盘临时文件。
  2. rowid排序

    • 当查询的单行数据量max_length_for_sort_data,MySQL会采用rowid排序算法,只将排序用的字段和主键id放入sort_buffer中进行排序,能够减少内存使用。
    • 排序完成后,根据排序结果中的主键id回到原表中取出完整的行数据返回给客户端。这里因为涉及到回表过程,性能会下降。
常用优化方法
  1. 使用合适的索引

    • 创建合适的索引可以极大地提高排序速度。因为索引本身已经按照特定的顺序存储了数据。如果查询经常根据特定字段进行排序,考虑在这些字段上创建索引。
    • 如果查询中的order by子句与某个索引的顺序一致,MySQL可以利用这个索引来避免额外的排序操作。
    例如,如果有一个索引是(a, b),那么ORDER BY a, b与索引顺序一致,而ORDER BY b, a则不一致。
    
    • 使用覆盖索引,即一个包含所有查询字段的索引,这样可以避免回表查询,减少磁盘I/O操作。
    • 尽量避免查询条件无法有效利用索引而导致的全表扫描,因为这会增加排序的数据量。
  2. 减少排序数据量

    • 仅选择需要的字段,使用LIMIT子句来限制结果集的大小,避免不必要的数据传输和处理。
  3. 调整sort_buffer_size

    • 增加sort_buffer_size参数的值可以增加MySQL在排序过程中使用的内存量,有助于减少磁盘I/O操作,尤其是在处理大量数据时。
  4. 调整max_length_for_sort_data参数

    • 如果预期排序的数据行长度较大,可以通过调整max_length_for_sort_data参数来控制MySQL使用rowid排序还是全字段排序。
    • max_length_for_sort_data指定了单个数据行的最大长度(以字节为单位),如果单行数据的长度超过这个值,会转而使用rowid排序。
  5. 避免不必要的排序操作

    • 如果数据已经是排序好的,或者可以通过索引直接获取有序的数据,那么可以避免使用order by子句。
  6. 分析执行计划

    • 使用EXPLAIN命令来分析查询的执行计划,查看是否可以进行优化。

    • 使用OPTIMIZER_TRACE方法来进行分析,但可能会导致日志膨胀。

作者与版本更新计划

感谢您的阅读与支持!本文是《MySQL实战与优化》专栏中的一篇精选文章,该专栏共包含16篇文章,旨在为您提供实战中可直接应用的宝贵知识。

关注公众号【数舟】,获取作者最新动态,公众号后台回复【mysql2024】,即可免费领取这份包含16篇文章的完整的PDF专栏!

目前版本为v1.0,更新时间2024年4月10日。后续此文档更新与版本发布会同步到知识星球【数舟】中。

知识整理与创作不易,感谢大家理解与支持!

加入知识星球,您将获得更多独家内容、专栏更新以及与行业内专家和同行的互动交流机会。我们在知识星球等您,一起探索MySQL的深层次世界!

星球内目前包含300+精品文章,内容涵盖大数据、MySQL、运维、Python、调优、经验分享、数据分析等方向内容,会根据大家的学习需求更新更多方向的内容。

🔗 立即扫描下方二维码,加入知识星球,与行业精英共同成长,开启您的专属学习之旅!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/538174.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

【LeetCode】动态规划类题目详解

所有题目均来自于LeetCode,刷题代码使用的Python3版本 动态规划 问题分类 如果某一个问题有重叠的子问题,则使用动态规划进行求解是最有效的。 动态规划中每一个状态一定是由上一个状态推导出来的,这一点区别于贪心算法 动态规划五部曲 确…

Qt控件---按钮类型

文章目录 QPushButton(普通按钮)QRadioButton(单选按钮)按钮分组 QCheckBox(复选按钮) QPushButton(普通按钮) 属性说明text按钮中的⽂本icon按钮中的图标iconSize按钮中图标的尺寸…

每日Bug汇总--Day05

Bug汇总—Day05 一、项目运行报错 二、项目运行Bug 1、**问题描述:**前端将从后台查询的数据作为参数进行get请求,参数为空 原因分析: 这种写法可能只支全局的参数调用方法的传参响应 代码实现 if (this.jishiName) {this.$http({url…

K8S node节点配置

1.开始操作之前要先关闭防火墙,SELinux,swap分区 关闭防火墙 sudo systemctl stop firewalld关闭SELinux sudo setenforce 0 # 临时关闭 sudo sed -i s/^SELINUXenforcing$/SELINUXper…

数据结构-----Lambda表达式

文章目录 1 背景1.1 Lambda表达式的语法1.2 函数式接口 2 Lambda表达式的基本使用2.1 语法精简 3 变量捕获3.1 匿名内部类3.2 匿名内部类的变量捕获3.3 Lambda的变量捕获 4 Lambda在集合当中的使用4.1 Collection接口4.2 List接口4.3 Map接口 HashMap 的 forEach() 5 总结 1 背…

56、巴利亚多利德大学、马德里卡洛斯三世研究所:EEG-Inception-多时间尺度与空间卷积巧妙交叉堆叠,终达SOTA!

本次讲解一下于2020年发表在IEEE TRANSACTIONS ON NEURAL SYSTEMS AND REHABILITATION ENGINEERING上的专门处理EEG信号的EEG-Inception模型,该模型与EEGNet、EEG-ITNet、EEGNex、EEGFBCNet等模型均是专门处理EEG的SOTA。 我看到有很多同学刚入门,不太会…

C++学习知识

C知识小菜单: 备赛蓝桥杯过程中的一些小知识积累,持续更新中! 文章目录 C知识小菜单:1.小数取整:2.小数点后保留几位:3.数字占几位字符:4. 求x 的 y 次幂(次方)5. 求平方…

Spring Security——13,认证成功失败注销成功处理器

认证成功&&失败&&注销成功处理器 说明:一、认证成功处理器1.1 自定义成功处理器1.2 配置自定义成功处理器 二、认证失败处理器2.1 自定义失败处理器2.2 配置自定义失败处理器 三、登出成功处理器3.1 自定义登出处理器3.2 配置登出处理器 四、完结撒…

NineData创始人CEO叶正盛受邀参加『数据技术嘉年华』的技术大会

4月13日,NineData 创始人&CEO叶正盛受邀参加第13届『数据技术嘉年华』的技术大会。将和数据领域的技术爱好者一起相聚,并分享《NineData在10000公里跨云数据库间实时数据复制技术原理与实践》主题内容。 分享嘉宾 叶正盛,NineData CEO …

node后端上传文件到本地指定文件夹

实现 第一步,引入依赖 const fs require(fs) const multer require(multer) 第二步,先设置一个上传守卫,用于初步拦截异常请求 /*** 上传守卫* param req* param res* param next*/ function uploadFile (req, res, next) {// dest 值…

【刷题】图论——最小生成树:Prim、Kruskal【模板】

假设有n个点m条边。 Prim适用于邻接矩阵存的稠密图,时间复杂度是 O ( n 2 ) O(n^2) O(n2),可用堆优化成 O ( n l o g n ) O(nlogn) O(nlogn)。 Kruskal适用于稀疏图,n个点m条边,时间复杂度是 m l o g ( m ) mlog(m) mlog(m)。 Pr…

小鸡宝宝考考你每匹斑马身上的条纹都不相同吗?蚂蚁庄园4.13答案

蚂蚁庄园是一款爱心公益游戏,用户可以通过喂养小鸡,产生鸡蛋,并通过捐赠鸡蛋参与公益项目。用户每日完成答题就可以领取鸡饲料,使用鸡饲料喂鸡之后,会可以获得鸡蛋,可以通过鸡蛋来进行爱心捐赠。其中&#…

数学基础:深度学习的语言

数学基础:深度学习的语言 概述 在深度学习的世界里,数学不仅仅是一套工具,它是构建、理解和优化深度学习模型的基石。从向量空间的概念到复杂的优化算法,数学的每一个分支都在深度学习的发展中扮演着关键角色。本文的目标是通过深…

2024-4-5修改vscode的代理

今天在vs code 上面配置go环境的时候出现了以下的报错: 2024-04-05 16:18:00.786 [info] Installing golang.org/x/tools/goplslatest FAILED 2024-04-05 16:18:00.786 [info] { “code”: 1, “killed”: false, “signal”: null, “cmd”: “E:\Go\bin\go.exe in…

如果你想在Nomad Web中操作Excel数据

大家好,才是真的好。 没有意外,我猜你也会想在Nomad Web中操作Excel数据,毕竟你在Notes客户机中就是这样操作的。 不过,一个运行在浏览器中,一个运行在Notes客户机(操作系统)中。因此&#xf…

个人博客项目笔记_05

1. ThreadLocal内存泄漏 ThreadLocal 内存泄漏是指由于没有及时清理 ThreadLocal 实例所存储的数据,导致这些数据在线程池或长时间运行的应用中累积过多,最终导致内存占用过高的情况。 内存泄漏通常发生在以下情况下: 线程池场景下的 ThreadL…

【力扣题】关于单链表和数组习题

🌈 个人主页:白子寰 🔥 分类专栏:python从入门到精通,魔法指针,进阶C,C语言,C语言题集,C语言实现游戏👈 希望得到您的订阅和支持~ 💡 坚持创作博文…

蓝桥杯-单片机基础20——第14届省赛真题代码详解

网上传言说14届最难,实际做下来感觉确实是这样的 本试题,需要将矩阵键盘短接,J3的555定时器输出口与P34短接 1.比赛题目 2.编程的大致思路 首先,完成基础代码与数码管的不同窗口,定义大部分要用到的变量&#xff0c…

Qt/QML编程之路:HVAC control(51)

空调控制是智能座舱的重要组成部分。传统汽车里,空调控制一般通过机械按钮实现,比如内循环、空调on/off开关、空调风量调节、专门的前挡风玻璃吹风加热等,出风口可以手动调节。 过去很多年一直是机械按键,随着新能源汽车的大势所趋,空调控制方式也逐渐被颠覆。 现在这些控…

【自然语言】使用词袋模型,TF-IDF模型和Word2Vec模型进行文本向量化

一、任务目标 python代码写将 HarryPorter 电子书作为语料库,分别使用词袋模型,TF-IDF模型和Word2Vec模型进行文本向量化。 1. 首先将数据预处理,Word2Vec 训练时要求考虑每个单词前后的五个词汇,地址为 作为其上下文 &#xf…