Heim  >  Artikel  >  Datenbank  >  Eingehende Analyse der LIMIT-Anweisung in MySQL

Eingehende Analyse der LIMIT-Anweisung in MySQL

青灯夜游
青灯夜游nach vorne
2021-10-13 19:02:022647Durchsuche

In diesem Artikel lernen Sie die LIMIT-Anweisung in MySQL kennen und sprechen über eine Frage: Ist die LIMIT-Anweisung von MySQL so schlecht? Hoffe, es hilft allen!

Eingehende Analyse der LIMIT-Anweisung in MySQL

Kürzlich haben viele Freunde in der Q&A-Gruppe Kindern eine Frage zu LIMIT gestellt. Lassen Sie mich diese Frage kurz beschreiben.

Frage

Damit sich die Geschichte reibungslos entwickeln kann, müssen wir zunächst eine Tabelle haben:

CREATE TABLE t (
    id INT UNSIGNED NOT NULL AUTO_INCREMENT,
    key1 VARCHAR(100),
    common_field VARCHAR(100),
    PRIMARY KEY (id),
    KEY idx_key1 (key1)
) Engine=InnoDB CHARSET=utf8;

Tabelle t enthält 3 Spalten, die ID-Spalte ist der Primärschlüssel und die Spalte key1 ist die sekundäre Indexspalte. Die Tabelle enthält 10.000 Datensätze. [Verwandte Empfehlungen: MySQL-Video-Tutorial]

Wenn wir die folgende Anweisung ausführen, verwenden wir den Sekundärindex idx_key1:

mysql>  EXPLAIN SELECT * FROM t ORDER BY key1 LIMIT 1;
+----+-------------+-------+------------+-------+---------------+----------+---------+------+------+----------+-------+
| id | select_type | table | partitions | type  | possible_keys | key      | key_len | ref  | rows | filtered | Extra |
+----+-------------+-------+------------+-------+---------------+----------+---------+------+------+----------+-------+
|  1 | SIMPLE      | t     | NULL       | index | NULL          | idx_key1 | 303     | NULL |    1 |   100.00 | NULL  |
+----+-------------+-------+------------+-------+---------------+----------+---------+------+------+----------+-------+
1 row in set, 1 warning (0.00 sec)

Das ist leicht zu verstehen, da im Sekundärindex idx_key1 die Spalte key1 geordnet ist. Die Abfrage besteht darin, den ersten nach der Spalte „key1“ sortierten Datensatz abzurufen. Dann muss MySQL nur den ersten sekundären Indexdatensatz von idx_key1 abrufen und dann direkt zur Tabelle zurückkehren, um den vollständigen Datensatz zu erhalten.

Aber wenn wir LIMIT 1 in der obigen Anweisung durch LIMIT 5000, 1 ersetzen, müssen wir einen vollständigen Tabellenscan und eine Dateisortierung durchführen. Der Ausführungsplan ist wie folgt : LIMIT 1换成LIMIT 5000, 1,则却需要进行全表扫描,并进行filesort,执行计划如下:

mysql>  EXPLAIN SELECT * FROM t ORDER BY key1 LIMIT 5000, 1;
+----+-------------+-------+------------+------+---------------+------+---------+------+------+----------+----------------+
| id | select_type | table | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra          |
+----+-------------+-------+------------+------+---------------+------+---------+------+------+----------+----------------+
|  1 | SIMPLE      | t     | NULL       | ALL  | NULL          | NULL | NULL    | NULL | 9966 |   100.00 | Using filesort |
+----+-------------+-------+------------+------+---------------+------+---------+------+------+----------+----------------+
1 row in set, 1 warning (0.00 sec)

有的同学就很不理解了:LIMIT 5000, 1也可以使用二级索引idx_key1呀,我们可以先扫描到第5001条二级索引记录,对第5001条二级索引记录进行回表操作不就好了么,这样的代价肯定比全表扫描+filesort强呀。

很遗憾的告诉各位,由于MySQL实现上的缺陷,不会出现上述的理想情况,它只会笨笨的去执行全表扫描+filesort,下边我们唠叨一下到底是咋回事儿。

server层和存储引擎层

大家都知道,MySQL内部其实是分为server层和存储引擎层的:

  • server层负责处理一些通用的事情,诸如连接管理、SQL语法解析、分析执行计划之类的东西

  • 存储引擎层负责具体的数据存储,诸如数据是存储到文件上还是内存里,具体的存储格式是什么样的之类的。我们现在基本都使用InnoDB存储引擎,其他存储引擎使用的非常少了,所以我们也就不涉及其他存储引擎了。

MySQL中一条SQL语句的执行是通过server层和存储引擎层的多次交互才能得到最终结果的。比方说下边这个查询:

SELECT * FROM t WHERE key1 > &#39;a&#39; AND key1 < &#39;b&#39; AND common_field != &#39;a&#39;;

server层会分析到上述语句可以使用下边两种方案执行:

  • 方案一:使用全表扫描

  • 方案二:使用二级索引idx_key1,此时需要扫描key1列值在('a', 'b')之间的全部二级索引记录,并且每条二级索引记录都需要进行回表操作。

server层会分析上述两个方案哪个成本更低,然后选取成本更低的那个方案作为执行计划。然后就调用存储引擎提供的接口来真正的执行查询了。

这里假设采用方案二,也就是使用二级索引idx_key1执行上述查询。那么server层和存储引擎层的对话可以如下所示:

Eingehende Analyse der LIMIT-Anweisung in MySQL

server层:“hey,麻烦去查查idx_key1二级索引的('a', 'b')区间的第一条记录,然后把回表后把完整的记录返给我哈”

InnoDB:“收到,这就去查”,然后InnoDB就通过idx_key1二级索引对应的B+树,快速定位到扫描区间('a', 'b')的第一条二级索引记录,然后进行回表,得到完整的聚簇索引记录返回给server层。

Eingehende Analyse der LIMIT-Anweisung in MySQL

server层收到完整的聚簇索引记录后,继续判断common_field!='a'

SELECT * FROM t ORDER BY key1 LIMIT 5000, 1;

Einige Schüler verstehen nicht: LIMIT 5000, 1 Sie können auch den Sekundärindex idx_key1 verwenden. Wir können zuerst den 5001. Sekundärindexdatensatz scannen und dann den 5001. Sekundärindexdatensatz scannen. Wäre es nicht schön, die Tabelle aufzuzeichnen und an die Tabelle zurückzugeben? Diese Kosten sind definitiv günstiger als der vollständige Tabellenscan + Dateisortierung.

Ich muss Ihnen leider mitteilen, dass die oben beschriebene ideale Situation nicht eintreten wird. Es wird nur dummerweise ein vollständiger Tabellenscan + Dateisortierung durchgeführt.


Serverschicht und Speicher-Engine-Schicht

Wie wir alle wissen, ist MySQL tatsächlich in Serverschicht und Speicher-Engine-Schicht unterteilt:

  • 🎜server Die Die Speicher-Engine-Schicht ist für die Verwaltung einiger allgemeiner Dinge verantwortlich, z. B. für die Verbindungsverwaltung, das Parsen der SQL-Syntax und die Analyse des Ausführungsplans. Die Speicher-Engine-Schicht ist für die spezifische Datenspeicherung verantwortlich, z. B. für die Speicherung der Daten in Dateien oder im Speicher , was ist das spezifische Speicherformat? Wir verwenden derzeit grundsätzlich die InnoDB-Speicher-Engine, und andere Speicher-Engines werden selten verwendet, sodass wir nicht auf andere Speicher-Engines eingehen. 🎜
🎜Die Ausführung einer SQL-Anweisung in MySQL erfordert mehrere Interaktionen zwischen der Serverschicht und der Speicher-Engine-Schicht, um das Endergebnis zu erhalten. Zum Beispiel die folgende Abfrage: 🎜
SELECT * FROM t, (SELECT id FROM t ORDER BY key1 LIMIT 5000, 1) AS d
    WHERE t.id = d.id;
🎜Die Serverschicht analysiert, dass die obige Anweisung mit den folgenden zwei Optionen ausgeführt werden kann: 🎜
  • 🎜Option 1: Vollständigen Tabellenscan verwenden 🎜
  • 🎜Option 2: Verwenden Sie den sekundären Index idx_key1. Zu diesem Zeitpunkt müssen Sie alle sekundären Indexdatensätze mit dem Schlüssel1-Spaltenwert zwischen ('a', 'b') scannen, und jeder sekundäre Indexdatensatz muss an den zurückgegeben werden Tisch. 🎜
🎜Die Serverschicht analysiert, welche der beiden oben genannten Optionen kostengünstiger ist, und wählt dann die kostengünstigere Option als Ausführungsplan aus. Anschließend wird die von der Speicher-Engine bereitgestellte Schnittstelle aufgerufen, um die Abfrage tatsächlich auszuführen. 🎜🎜Hier wird davon ausgegangen, dass Option 2 übernommen wird, nämlich die Verwendung des Sekundärindex idx_key1 zum Ausführen der obigen Abfrage. Dann kann die Konversation zwischen der Serverschicht und der Speicher-Engine-Schicht wie folgt aussehen: 🎜🎜Eingehende Analyse der LIMIT-Anweisung in MySQL🎜🎜Serverschicht: „Hey, bitte überprüfen Sie den ersten Datensatz im ('a', 'b')-Intervall des idx_key1-Sekundärindex und geben Sie ihn dann an zurück Senden Sie mir den vollständigen Datensatz zurück Anschließend wird der erste sekundäre Indexdatensatz an die Tabelle zurückgegeben und der vollständige Clustered-Indexdatensatz wird an die Serverschicht zurückgegeben. 🎜🎜Eingehende Analyse der LIMIT-Anweisung in MySQL🎜🎜Server Nachdem die Ebene den vollständigen Clustered-Index-Datensatz empfangen hat, ermittelt sie weiterhin, ob die Bedingung common_field!='a' wahr ist. Wenn sie nicht wahr ist, wird der Datensatz verworfen, andernfalls wird der Datensatz an gesendet der Kunde. Sagen Sie dann zur Speicher-Engine: „Bitte geben Sie mir den nächsten Datensatz.“ 🎜🎜🎜Tipps: 🎜🎜Wenn Sie den Datensatz hier an den lokalen Netzwerkpuffer senden, wird die Puffergröße standardmäßig gesteuert 16 KB Größe. Warten Sie, bis der Puffer voll ist, bevor Sie das Netzwerkpaket tatsächlich an den Client senden. 🎜🎜🎜InnoDB: „Empfangen, jetzt prüfen“. InnoDB findet den nächsten sekundären Indexdatensatz im Intervall ('a', 'b') von idx_key1 basierend auf dem next_record-Attribut des Datensatzes, führt dann einen Tabellenrückgabevorgang durch und gibt den vollständigen Clustered-Index-Datensatz an die Serverschicht zurück. 🎜

小贴士:

不论是聚簇索引记录还是二级索引记录,都包含一个称作next_record的属性,各个记录根据next_record连成了一个链表,并且链表中的记录是按照键值排序的(对于聚簇索引来说,键值指的是主键的值,对于二级索引记录来说,键值指的是二级索引列的值)。

Eingehende Analyse der LIMIT-Anweisung in MySQL

server层收到完整的聚簇索引记录后,继续判断common_field!='a'条件是否成立,如果不成立则舍弃该记录,否则将该记录发送到客户端。然后对存储引擎说:“请把下一条记录给我哈”

... 然后就不停的重复上述过程。

直到:

Eingehende Analyse der LIMIT-Anweisung in MySQL

也就是直到InnoDB发现根据二级索引记录的next_record获取到的下一条二级索引记录不在('a', 'b')区间中,就跟server层说:“好了,('a', 'b')区间没有下一条记录了”

server层收到InnoDB说的没有下一条记录的消息,就结束查询。

现在大家就知道了server层和存储引擎层的基本交互过程了。

那LIMIT是什么鬼?

说出来大家可能有点儿惊讶,MySQL是在server层准备向客户端发送记录的时候才会去处理LIMIT子句中的内容。拿下边这个语句举例子:

SELECT * FROM t ORDER BY key1 LIMIT 5000, 1;

如果使用idx_key1执行上述查询,那么MySQL会这样处理:

  • server层向InnoDB要第1条记录,InnoDB从idx_key1中获取到第一条二级索引记录,然后进行回表操作得到完整的聚簇索引记录,然后返回给server层。server层准备将其发送给客户端,此时发现还有个LIMIT 5000, 1的要求,意味着符合条件的记录中的第5001条才可以真正发送给客户端,所以在这里先做个统计,我们假设server层维护了一个称作limit_count的变量用于统计已经跳过了多少条记录,此时就应该将limit_count设置为1。

  • server层再向InnoDB要下一条记录,InnoDB再根据二级索引记录的next_record属性找到下一条二级索引记录,再次进行回表得到完整的聚簇索引记录返回给server层。server层在将其发送给客户端的时候发现limit_count才是1,所以就放弃发送到客户端的操作,将limit_count加1,此时limit_count变为了2。

  • ... 重复上述操作

  • 直到limit_count等于5000的时候,server层才会真正的将InnoDB返回的完整聚簇索引记录发送给客户端。

从上述过程中我们可以看到,由于MySQL中是在实际向客户端发送记录前才会去判断LIMIT子句是否符合要求,所以如果使用二级索引执行上述查询的话,意味着要进行5001次回表操作。server层在进行执行计划分析的时候会觉得执行这么多次回表的成本太大了,还不如直接全表扫描+filesort快呢,所以就选择了后者执行查询。

怎么办?

由于MySQL实现LIMIT子句的局限性,在处理诸如LIMIT 5000, 1这样的语句时就无法通过使用二级索引来加快查询速度了么?其实也不是,只要把上述语句改写成:

SELECT * FROM t, (SELECT id FROM t ORDER BY key1 LIMIT 5000, 1) AS d
    WHERE t.id = d.id;

这样,SELECT id FROM t ORDER BY key1 LIMIT 5000, 1作为一个子查询单独存在,由于该子查询的查询列表只有一个id列,MySQL可以通过仅扫描二级索引idx_key1执行该子查询,然后再根据子查询中获得到的主键值去表t中进行查找。

这样就省去了前5000条记录的回表操作,从而大大提升了查询效率!

吐个槽

设计MySQL的大叔啥时候能改改LIMIT子句的这种超笨的实现呢?还得用户手动想欺骗优化器的方案才能提升查询效率~

更多编程相关知识,请访问:编程视频!!

Das obige ist der detaillierte Inhalt vonEingehende Analyse der LIMIT-Anweisung in MySQL. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Dieser Artikel ist reproduziert unter:juejin.cn. Bei Verstößen wenden Sie sich bitte an admin@php.cn löschen
Vorheriger Artikel:Was macht die Werkbank?Nächster Artikel:Was macht die Werkbank?