>  기사  >  데이터 베이스  >  MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

PHPz
PHPz앞으로
2023-06-05 17:30:501270검색

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

0 스토리지 엔진 소개

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
myisam 스토리지: 테이블의 트랜잭션 요구 사항이 높지 않고 주로 쿼리 및 추가용인 경우 bbs의 게시 테이블과 같은 myisam 스토리지 엔진 사용을 고려합니다. reply 테이블

  • 은 정기적으로 조각 모음을 수행해야 합니다(삭제된 데이터가 여전히 존재하기 때문에): optimize table table_name;optimize table table_name;
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

InnoDB存储:对事务要求高,保存的数据都是重要数据,我们建议使用INN0DB,比如订单表,账号表.

面试问MyISAM和INNODB的区别

  • 1.事务安全

  • 2.查询和添加速度

  • 3.支持全文索引

  • 4.锁机制

  • 5.外键MyISAM不支持外键,INNODB 支持外键.

Mermory存储:比如我们数据变化频繁,不需要入库,同时又频繁的查询和修改,我们考虑使用memory

查看mysql以提供什么存储引擎show engines;

查看mysql当前默认的存储引擎show variables like '%storage_engine%';

1 SQL性能分析

SQL性能下降原因

  • 1、查询语句写的烂

  • 2、索引失效(数据变更)

  • 3、关联查询太多join(设计缺陷或不得已的需求)

  • 4、服务器调优及各个参数设置(缓冲、线程数等)

通常SQL调优过程

  • 观察,至少跑1天,看看生产的慢SQL情况。

  • 开启慢查询日志,设置阙值,比如超过5秒钟的就是慢SQL,并将它抓取出来。

  • explain + 慢SQL分析。

  • show profile。

  • 运维经理 or DBA,进行SQL数据库服务器的参数调优。

总结

  • 1、慢查询的开启并捕获

  • 2、explain + 慢SQL分析

  • 3、show profile查询SQL在Mysql服务器里面的执行细节和生命周期情况

  • 4、SQL数据库服务器的参数调优

2 常见通用的JOIN查询

SQL执行加载顺序

手写顺序

SELECT DISTINCT
    <select_list>
FROM
    <left_table> <join_type>
JOIN <right_table> on <join_codition> //join_codition:比如员工的部门ID和部门表的主键id相同

WHERE
    <where_condition>
GROUP BY
    <group_by_list>
HAVING
    <having_condition>
ORDER BY
    <order_by_condition>
LIMIT
    <limit_number>

MySQL机读顺序

1 FROM <left_table>
2 ON <join_condition>
3 <join_type> JOIN <right_table>
4 WHERE <where_condition>
5 GROUP BY <group_by_list>
6 HAVING <having_condition>
7 SELECT
8 DISTINCT <select_list>
9 ORDER BY <order_by_condition>
10 LIMIT <limit_number>

总结

  • 运行顺序一上一下
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

七种JOIN写法

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
创建表插入数据(左右主外键相连):

CREATE TABLE tbl_dept(
	id INT(11) NOT NULL AUTO_INCREMENT,
	deptName VARCHAR(30) DEFAULT NULL,
	locAdd VARCHAR(40) DEFAULT NULL,
	PRIMARY KEY(id)
)ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;
//设置存储引擎,主键自动增长和默认文本字符集
CREATE TABLE tbl_emp (
	id INT(11) NOT NULL AUTO_INCREMENT,
	NAME VARCHAR(20) DEFAULT NULL,
	deptId INT(11) DEFAULT NULL,
	PRIMARY KEY (id),
	KEY fk_dept_Id (deptId)
	#CONSTRAINT &#39;fk_dept_Id&#39; foreign key (&#39;deptId&#39;) references &#39;tbl_dept&#39;(&#39;Id&#39;)
)ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;

INSERT INTO tbl_dept(deptName,locAdd) VALUES(&#39;RD&#39;,11);
INSERT INTO tbl_dept(deptName,locAdd) VALUES(&#39;HR&#39;,12);
INSERT INTO tbl_dept(deptName,locAdd) VALUES(&#39;MK&#39;,13);
INSERT INTO tbl_dept(deptName,locAdd) VALUES(&#39;MIS&#39;,14);
INSERT INTO tbl_dept(deptName,locAdd) VALUES(&#39;FD&#39;,15);

INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;z3&#39;,1);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;z4&#39;,1);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;z5&#39;,1);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;w5&#39;,2);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;w6&#39;,2);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;s7&#39;,3);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;s8&#39;,4);
INSERT INTO tbl_emp(NAME,deptId) VALUES(&#39;s9&#39;,51);
#查询执行后结果
mysql> select * from tbl_dept;
+----+----------+--------+
| id | deptName | locAdd |
+----+----------+--------+
|  1 | RD       | 11     |
|  2 | HR       | 12     |
|  3 | MK       | 13     |
|  4 | MIS      | 14     |
|  5 | FD       | 15     |
+----+----------+--------+
5 rows in set (0.00 sec)

mysql> select * from tbl_emp;
+----+------+--------+
| id | NAME | deptId |
+----+------+--------+
|  1 | z3   |      1 |
|  2 | z4   |      1 |
|  3 | z5   |      1 |
|  4 | w5   |      2 |
|  5 | w6   |      2 |
|  6 | s7   |      3 |
|  7 | s8   |      4 |
|  8 | s9   |     51 |
+----+------+--------+
8 rows in set (0.00 sec)

1、inner join:只有 deptId 和 id 的共有部分
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

2、left join(全A):前七条共有数据;第八条a表独有数据,b表补null
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

3、right join(全B):前七条共有数据;第八条b表独有数据,a表补null
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
4、左join独A:表A独有部分
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
5、右join独B:表B独有部分
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
6、full join:MySQL不支持full join,用全a+全b,union去重中间部分

  • union关键字可以合并去重MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘, 마스터-슬레이브 복제 지식

🎜🎜InnoDB 스토리지🎜: 트랜잭션용 요구사항이 높고 저장된 데이터는 모두 주문 테이블, 계정 테이블 등 INN0DB를 사용하는 것이 좋습니다. 🎜🎜🎜MyISAM과 INNODB🎜의 차이점에 대한 인터뷰: 🎜🎜🎜🎜1. 🎜🎜 2. 쿼리 및 속도 추가🎜🎜🎜3. 전체 텍스트 인덱스 지원🎜🎜🎜4. 잠금 메커니즘🎜🎜🎜5. 외래 키를 지원하지 않는 INNODB는 외래 키를 지원합니다.🎜🎜🎜메모리 저장🎜: 예를 들어 데이터는 자주 변경되며 동시에 데이터베이스에 저장할 필요가 없습니다. mysql이 제공할 수 있는 스토리지 엔진이 무엇인지 알아보기 위해 메모리🎜🎜🎜 사용을 고려합니다. :엔진 표시;🎜🎜🎜mysql의 현재 기본 스토리지 엔진 보기🎜:' %storage_engine%';🎜🎜1 SQL 성능 분석🎜🎜🎜SQL 성능 저하 이유🎜:🎜🎜🎜🎜1. 잘못 작성된 쿼리문🎜🎜🎜2. )🎜🎜🎜3. 관련 쿼리에 조인이 너무 많습니다(설계 결함 또는 최후의 수단 요구 사항) 🎜🎜🎜4. 서버 튜닝 및 다양한 매개변수 설정(버퍼링, 스레드 수 등) 🎜 🎜🎜일반적인 SQL 튜닝 프로세스🎜: 🎜🎜🎜🎜관찰하세요. 적어도 하루 동안 실행하여 프로덕션에서 느린 SQL 상황을 확인하세요. 🎜🎜🎜느린 쿼리 로그를 활성화하고 임계값을 설정합니다. 예를 들어 5초를 초과하면 느린 SQL로 캡처하고 캡처합니다. 🎜🎜🎜설명 + 느린 SQL 분석. 🎜🎜🎜프로필 표시. 🎜🎜🎜운영 및 유지 관리 관리자 또는 DBA는 SQL 데이터베이스 서버의 매개변수 튜닝을 수행합니다. 🎜🎜🎜요약🎜: 🎜🎜🎜🎜1. 느린 쿼리 열기 및 캡처🎜🎜🎜2. 설명 + 느린 SQL 분석🎜🎜🎜3. MySQL 서버에서 SQL의 실행 세부 사항 및 라이프 사이클을 쿼리합니다🎜🎜🎜4. SQL 데이터베이스 서버의 매개변수 튜닝🎜🎜2 일반 및 일반 JOIN 쿼리🎜🎜SQL 실행 로딩 순서 🎜🎜🎜손으로 쓴 순서🎜:🎜
#建表
CREATE TABLE articles(
	id INT UNSIGNED ATUO_INCREMENT NOT NULL PRIMARY KEY,
	title VARCHAR(200),
	body TEXT,
	FULLTEXT(title,body)
)engine=myisam charset utf8;	#指定引擎
#使用
select * from articles where match(title,body) against(&#39;英文内容&#39;); #只针对英语内容生效

#说明
#1、在mysql中fultext索引只针对 myisam 生效
#2、mysq1自己提供的flltext只针对英文生效->sphinx (coreseek)技术处理中文工
#3、使用方法是match(字段名...) against(‘关键字&#39;)
#4、全文索引一个叫停止词,因为在一个文本中创建索引是一个无穷大的数,因此对一些常用词和字符就不会创建,这些词称为停止词
🎜🎜MySQL 기계가 읽을 수 있는 순서🎜:🎜
select * from user where name=&#39;&#39;;
//经常查name字段,为其建索引
create index idx_user_name on user(name);
🎜🎜Summary🎜:🎜🎜🎜🎜순서 1위, 1위 실행🎜SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 MySQL의 마스터-슬레이브 복제에 대한 지식은 무엇입니까🎜 🎜7가지 유형 JOIN 작성 방법🎜🎜MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 , 마스터-슬레이브 복제 지식은 무엇입니까?🎜 데이터를 삽입할 테이블 생성(왼쪽 및 오른쪽 기본 외래 키가 연결됨): 🎜
select * from user where name=&#39;&#39; and email=&#39;&#39;;
//经常查name和email字段,为其建索引
create index idx_user_name on user(name, email);
🎜🎜1. 내부 조인🎜: only the deptId와 id의 공통 부분🎜SQL 최적화, 인덱스 최적화, MySQL의 잠금 메커니즘 및 마스터-슬레이브 복제🎜🎜🎜2 , 왼쪽 조인🎜(모두 A): 처음 7개 항목은 데이터를 공유합니다. 8번째 항목은 테이블 a에 고유한 데이터가 있고 테이블 b는 null🎜으로 채워집니다. MySQL의 SQL 최적화 및 인덱싱 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?🎜🎜4. 왼쪽 조인 고유 A🎜: 테이블 A🎜의 고유 부분MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘, 마스터-슬레이브 복제 지식🎜🎜5. 고유 B🎜에 오른쪽 조인: 테이블 B🎜SQL 최적화, 인덱스 최적화, MySQL의 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까 🎜🎜6. 전체 조인🎜: MySQL은 전체 조인을 지원하지 않습니다. all b, 중간 부분 중복 제거를 위한 유니온🎜🎜🎜🎜union 키워드 병합 및 중복 제거 가능🎜

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
7、A、B各自独有集合
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

3 索引介绍

3.1 索引是什么

MySQL官方对索引的定义为:索引(Index)是帮助MySQL高效获取数据的数据结构(索引的本质是数据结构,排序+查询两种功能)。

索引的目的在于提高查询效率,可以类比字典。

如果要查“mysql”这个单词,我们肯定需要定位到m字母,然后从下往下找到y字母,再找到剩下的sql。

如果没有索引,那么你可能需要逐个逐个寻找,如果我想找到Java开头的单词呢?或者Oracle开头的单词呢?

是不是觉得如果没有索引,这个事情根本无法完成?

索引可以理解为排好序的快速查找数据结构

下图就是一种可能的索引方式示例:
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
假如:找4号这本书,扫码得到对应的编号为91,91比34大往右边找,91比89大往右边找,然后找到(比较三次后就可以找到,然后检索出对应的物理地址)

为了加快Col2的查找,可以维护一个右边所示的二叉查找树,每个节点分别包含索引键值和一个指向对应数据记录物理地址的指针,这样就可以运用二叉查找在一定的复杂度内获取到相应数据,从而快速的检索出符合条件的记录

结论在数据之外,数据库系统还维护着满足特定查找算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构上实现高级查找算法。这种数据结构,就是索引

一般来说索引本身也很大,不可能全部存储在内存中,因此索引往往以索引文件的形式存储的磁盘上。

通常情况下,我们所说的索引都是指采用B树(一种多路搜索树,不一定是二叉树结构)组织的索引。这句话可以重写为:使用B+树索引的索引种类包括聚集索引、次要索引、覆盖索引、复合索引、前缀索引和唯一索引,它们被统称为索引。当然,除了B+树这种类型的索引之外,还有哈稀索引(hash index)等

3.2 索引优劣势

优势

  • 类似大学图书馆建书目索引,提高数据检索的效率,降低数据库的IO成本。

  • 通过索引列对数据进行排序,降低数据排序的成本,降低了CPU的消耗。

劣势

  • 实际上索引也是一张表,该表保存了主键与索引字段,并指向实体表的记录,所以索引列也是要占用空间的(占空间)

  • 虽然索引大大提高了查询速度,同时却会降低更新表的速度,如对表进行INSERT、UPDATE和DELETE。因为更新表时,MySQL不仅要保存数据,还要保存一下索引文件每次更新添加了索引列的字段,都会调整因为更新所带来的键值变化后的索引信息。

  • 索引只是提高效率的一个因素,如果你的MysQL有大数据量的表,就需要花时间研究建立最优秀的索引,或优化查询

3.3 索引分类和建索引命令语句

主键索引:索引值必须是唯一的,且不能为NULL

  • 第一种:CREATE TABLE table_name(id int PRIMARY KEY aoto_increment,name varchar(10));

  • 第二种: ALTER TABLE table_name ADD PRIMARY KEY (columnName);

普通索引:索引值可出现多次

  • 第一种:CREATE INDEX index_name on table_name(columnName);

  • 第二种:ALTER TABLE table_name ADD INDEX index_name (columnName);

全文索引:主要是针对文本的检索,如:文章,全文索引只针对MyISAM引擎有效,并且只针对英文内容生效

  • 建表时创建

    #建表
    CREATE TABLE articles(
    	id INT UNSIGNED ATUO_INCREMENT NOT NULL PRIMARY KEY,
    	title VARCHAR(200),
    	body TEXT,
    	FULLTEXT(title,body)
    )engine=myisam charset utf8;	#指定引擎
    #使用
    select * from articles where match(title,body) against(&#39;英文内容&#39;); #只针对英语内容生效
    
    #说明
    #1、在mysql中fultext索引只针对 myisam 生效
    #2、mysq1自己提供的flltext只针对英文生效->sphinx (coreseek)技术处理中文工
    #3、使用方法是match(字段名...) against(‘关键字&#39;)
    #4、全文索引一个叫停止词,因为在一个文本中创建索引是一个无穷大的数,因此对一些常用词和字符就不会创建,这些词称为停止词
  • ALTER TABLE table_name ADD FULLTEXT index_name (columnName);

唯一索引:索引列的值必须唯一,但允许有空值NULL,并可以有多个。

  • 第一种: CREATE UNIQUE INDEX index_name ON table_name(columnName);

  • 第二种:ALTER TABLE table_name ADD UNIQUE INDEX index_name ON (columnName);

单值索引:即一个索引只包含单个列,一个表可以有多个单列索引。

  • 第一种: CREATE INDEX index_name ON table_name(columnName);

  • 第二种:ALTER TABLE table_name ADD INDEX index_name ON (columnName);

select * from user where name=&#39;&#39;;
//经常查name字段,为其建索引
create index idx_user_name on user(name);

复合索引:即一个索引包含多个列

  • 第一种: CREATE INDEX index_name ON table_name(columnName1,columnName2...);

  • 第二种:ALTER TABLE table_name ADD INDEX index_name ON (columnName1,columnName2...);

select * from user where name=&#39;&#39; and email=&#39;&#39;;
//经常查name和email字段,为其建索引
create index idx_user_name on user(name, email);

查询索引

  • 第一种:SHOW INDEX FROM table_name;

  • 第二种:SHOW KEYS FROM table_name;

删除索引

  • 第一种: DROP INDEX index_name ON table_name;

  • 第二种:ALTER TABLE table_name DROP INDEX index_name;

  • 删除主键索引:ALTER TBALE table_name DROP PRIMARY KEY;

3.4 索引结构与检索原理

MySQL索引结构

  • BTree索引

  • Hash索引

  • full-text全文索引

  • R-Tree索引
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

初始化介绍

一颗b+树,浅蓝色的块我们称之为一个磁盘块,可以看到每个磁盘块包含几个数据项(深蓝色所示)和指针(黄色所示),如磁盘块1包含数据项17和35,包含指针P1、P2、P3,
P1表示小于17的磁盘块,P2表示在17和35之间的磁盘块,P3表示大于35的磁盘块。

真实的数据存在于叶子节点:3、5、9、10、13、15、28、29、36、60、75、79、90、99。

非叶子节点只不存储真实的数据,只存储指引搜索方向的数据项,如17、35并不真实存在于数据表中。

查找过程

如果要查找数据项29,那么首先会把磁盘块1由磁盘加载到内存,此时发生一次IO。在内存中用二分查找确定 29 在 17 和 35 之间,锁定磁盘块1的P2指针,内存时间因为非常短(相比磁盘的IO)可以忽略不计,通过磁盘块1的P2指针的磁盘地址把磁盘块3由磁盘加载到内存,发生第二次IO,29 在 26 和 30 之间,锁定磁盘块3的P2指针,通过指针加载磁盘块8到内存,发生第三次IO,同时内存中做二分查找找到29,结束查询,总计三次IO

真实的情况是,3层的b+树可以表示上百万的数据,如果上百万的数据查找只需要三次IO,性能提高将是巨大的,如果没有索引,每个数据项都要发生一次IO,那么总共需要百万次的IO,显然成本非常非常高

3.5 哪些情况适合建索引

  • 主键自动建立唯一索引

  • 频繁作为查询条件的字段应该创建索引

  • 查询中与其它表关联的字段,外键关系建立索引

  • 单键/组合索引的选择问题,who?(在高并发下倾向创建组合索引)

  • 查询中排序的字段,排序字段若通过索引去访问将大大提高排序速度

  • 查询中统计或者分组字段

3.6 哪些情况不适合建索引

  • Where条件里用不到的字段不创建索引

  • 表记录太少(300w以上建)

  • 经常增删改的表(提高了查询速度,同时却会降低更新表的速度,如对表进行INSERT、UPDATE和DELETE。因为更新表时,MySQL不仅要保存数据,还要保存一下索引文件)

  • 为了优化数据库查询性能,应该只对经常被查询和排序的数据列建立索引,这些数据也需要在表中有重复且均匀的分布。注意,如果某个数据列包含许多重复的内容,为它建立索引就没有太大的实际效果。(比如:国籍、性别)

假如一个表有10万行记录,有一个字段A只有T和F两种值,且每个值的分布概率天约为50%,那么对这种表A字段建索引一般不会提高数据库的查询速度。

索引的选择性是指索引列中不同值的数目与表中记录数的比。如果一个表中有2000条记录,表索引列有1980个不同的值,那么这个索引的选择性就是1980/2000=0.99。一个索引的选择性越接近于1,这个索引的效率就越高

4 性能分析

4.1 性能分析前提知识

MySQL Query Optimizer(查询优化器)[ˈkwɪəri] [ˈɒptɪmaɪzə]
Mysql中专门负责优化SELECT语句的优化器模块,主要功能:通过计算分析系统中收集到的统计信息,为客户端请求的Query提供他认为最优的执行计划(他认为最优的数据检索方式,但不见得是DBA认为是最优的,这部分最耗费时间)

当客户端向MySQL请求一条Query,命令解析器模块完成请求分类,区别出是SELECT并转发给MySQL Query Optimizer时,MySQL Query Optimizer首先会对整条Query进行优化,处理掉一些常量表达式的预算直接换算成常量值。简化和转换Query中的查询条件,例如删除或调整一些毫无意义或显然的条件。然后分析Query 中的 Hint信息(如果有),看显示Hint信息是否可以完全确定该Query的执行计划。如果没有Hint 或Hint信息还不足以完全确定执行计划,则会读取所涉及对象的统计信息,根据Query进行写相应的计算分析,然后再得出最后的执行计划

MySQL常见瓶颈

  • CPU:CPU在饱和的时候一般发生在数据装入内存或从磁盘上读取数据时候

  • IO:磁盘I/O瓶颈发生在装入数据远大于内存容量的时候

  • 服务器硬件的性能瓶颈:top,free,iostat和vmstat来查看系统的性能状态

4.2 Explain使用简介

使用EXPLAIN关键字可以模拟优化器执行SQL查询语句,从而知道MySQL是如何处理你的SQL语句的。分析你的查询语句或是表结构的性能瓶颈

官网地址

Explain的作用

  • 表的读取顺序

  • 数据读取操作的操作类型

  • 哪些索引可以使用

  • 哪些索引被实际使用

  • 表之间的引用

  • 每张表有多少行被优化器查询

使用Explain

  • explain + sql语句

  • 执行计划包含的信息(重点) :| id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra |

mysql> select * from tbl_emp;
+----+------+--------+
| id | NAME | deptId |
+----+------+--------+
|  1 | z3   |      1 |
|  2 | z4   |      1 |
|  3 | z5   |      1 |
|  4 | w5   |      2 |
|  5 | w6   |      2 |
|  6 | s7   |      3 |
|  7 | s8   |      4 |
|  8 | s9   |     51 |
+----+------+--------+
8 rows in set (0.00 sec)

mysql> explain select * from tbl_emp;
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-------+
| id | select_type | table   | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-------+
|  1 | SIMPLE      | tbl_emp | NULL       | ALL  | NULL          | NULL | NULL    | NULL |    8 |   100.00 | NULL  |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-------+
1 row in set, 1 warning (0.00 sec)

4.3 执行计划包含的信息字段解释(重中之重)

执行计划包含的信息(重点) :| id | select_type | table | partitions | type | possible_keys | key | key_len | ref | rows | filtered | Extra |

面试重点id、type、key、rows、Extra

id(表的读取顺序)

select查询的序列号,包含一组数字,表示查询中执行select子句或操作表的顺序

三种情况

  • 1、id相同,执行顺序由上至下(t1、t3、t2)
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 2、id不同,如果是子查询,id的序号会递增,id值越大优先级越高,越先被执行(t3、t1、t2)
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 3、id相同不同,同时存在。先走数字大的,数字相同的由上至下(t3、s1、t2)
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

select_type( 数据读取操作的操作类型)

查询的类型,主要是用于区别普通查询、联合查询、子查询等的复杂查询。
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • SIMPLE [ˈsɪnpl] :简单的select查询,查询中不包含子查询或者UNION

  • PRIMARY:查询中若包含任何复杂的子部分,最外层查询则被标记为(最后加载的那个)

  • SUBQUERY [ˈkwɪəri] :在SELECT或WHERE列表中包含了子查询

  • DERIVED [dɪˈraɪvd]:在FROM列表中包含的子查询被标记为DERIVED(衍生)MySQL会递归执行这些子查询,把结果放在临时表里

  • UNION [ˈjuːniən]: UNION 뒤에 두 번째 SELECT가 나타나면 UNION으로 표시됩니다. UNION이 FROM 절의 하위 쿼리에 포함되어 있으면 외부 SELECT는 DERIVED

  • UNION RESULT로 표시됩니다. [ rˈzʌlt]: UNION 테이블에서 결과를 가져오는 SELECT(두 개의 select 문이 UNION과 결합됨)

테이블(실행된 테이블 이름 표시)

이 데이터 행에 대한 테이블이 무엇인지 표시

type(액세스 유형) 배열)

쿼리가 사용하는 유형을 표시합니다.

: system > eq_ref > fulltext > ; index >ALL

type 일반적으로 사용되는 유형은 8가지입니다system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index >ALL

type常用八种类型
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

结果值从最好到最坏依次是(重点):system > const > eq_ref > ref > range > index > ALL

一般来说,得保证查询至少达到range级别,最好能达到ref:

최고에서 최악까지의 결과 값은 (핵심 사항):: system > const > eq_ref > ref > index > ALL

일반적으로 말하면 쿼리가 최소한 범위 수준에 도달하는지 확인해야 합니다. ><ul class=" list-paddingleft-2"> <li><p>상세 설명<strong></strong></p></li> <li> <p>system<strong>: 테이블에는 레코드가 한 행만 있습니다(시스템 테이블과 동일). 일반적으로 나타나지 않는 특수 열입니다. 무시되었습니다. </strong><strong></strong><br><img src="https://img.php.cn/upload/article/000/000/164/168595745793276.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?">const</p>: 인덱스를 통해 한 번 발견되었음을 나타냅니다. Const는 기본 키 또는 고유 인덱스를 비교하는 데 사용됩니다. 단 하나의 데이터 행만 일치하므로 MySQL은 기본 키를 where 목록에 배치하여 쿼리를 </li>상수<li>로 신속하게 변환할 수 있습니다. <p><strong></strong><br><img src="https://img.php.cn/upload/article/000/000/164/168595745828770.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> </li>eq_ref<li>: 고유 인덱스 스캔, 각 인덱스 키에 대해 테이블의 단 하나의 레코드만 일치합니다. 기본 키 또는 고유 인덱스 스캔에서 흔히 볼 수 있습니다. <p><strong></strong><br><img src="https://img.php.cn/upload/article/000/000/164/168595745827584.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> </li>ref<li>: 고유하지 않은 인덱스 스캔, 단일 값과 일치하는 모든 행 반환, 본질적으로 인덱스 액세스이며 단일 값과 일치하는 모든 행을 반환하지만 일치하는 여러 행이 발견될 수 있음 , 따라서 검색과 스캔이 혼합되어야 합니다. <p><strong></strong><br><img src="https://img.php.cn/upload/article/000/000/164/168595745859998.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> </li>range<li>: 행을 선택하기 위해 인덱스를 사용하여 주어진 범위의 행만 검색합니다. 키 열에는 사용된 인덱스가 표시됩니다. 일반적으로 between, , in 등과 같은 쿼리가 where 문에 나타납니다. 이 범위 스캔 인덱스 스캔은 인덱스 전체를 스캔하지 않고 인덱스의 특정 지점에서 시작하고 다른 지점에서 끝나기만 하면 되기 때문에 전체 테이블 스캔보다 낫습니다<p><strong></strong><br><img src="https://img.php.cn/upload/article/000/000/164/168595745827321.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> </li>index<li>: 전체 인덱스 스캔, index와 ALL의 차이점 index type은 index 컬럼만 순회한다. 이는 일반적으로 인덱스 파일이 데이터 파일보다 작기 때문에 ALL보다 빠릅니다(즉, all과 Index는 모두 전체 테이블을 읽고, 인덱스는 인덱스에서 읽고, 모든 읽기는 하드 디스크에서 읽음) <p><strong></strong> <br><img src="https://img.php.cn/upload/article/000/000/164/168595745886000.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"><br></p> all</li>: 일치하는 행을 찾기 위해 전체 테이블을 탐색하는 전체 테이블 스캔 </ul> <h4></h4> 작업 사례: 관리자의 SQL에 대해 설명 분석을 실행했습니다. 시스템에 모든 전체 테이블 스캔이 있을 수 있으므로 최적화를 시도하는 것이 좋습니다. . 이 SQL을 변경하고 최적화 후에 이렇게 작성했습니다. 효과가 ALL에서...<p><strong></strong></p>possible_keys(사용 가능한 인덱스)<h4></h4>이 테이블에 적용될 수 있는 인덱스를 하나 이상 표시합니다. 개인. 쿼리에 포함된 필드에 대한 인덱스가 존재하는 경우 해당 인덱스가 나열되지만 실제로 쿼리에서 사용되지 않을 수 있습니다(시스템에서는 이론적으로 특정 인덱스가 사용될 것으로 간주함) <p></p>key(실제로 사용되는 인덱스) <p></p> 실제 사용된 인덱스입니다. NULL이면 인덱스가 사용되지 않습니다(구축되지 않았거나 유효하지 않음)<p><strong>커버링 인덱스가 쿼리에 사용된 경우 해당 인덱스는 키 목록에만 나타납니다</strong><br><img src="https://img.php.cn/upload/article/000/000/164/168595745887114.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?">커버링 인덱스</p>: 내장된 인덱스 필드 및 쿼리 필드는 아래와 같이 일관됩니다🎜🎜🎜<h4>key_len(소비된 바이트 수) </h4> <p> 인덱스에 사용된 바이트 수를 나타냅니다. 이 열은 쿼리에 사용된 인덱스의 길이를 계산하는 데 사용할 수 있습니다. 정확성을 잃지 않고 길이가 짧을수록 좋습니다</p> <p>key_len에 표시되는 값은 실제 사용된 길이가 아닌 인덱스 필드의 가능한 최대 길이입니다. 즉, key_len은 테이블 정의를 기반으로 계산되며 테이블에서 검색되지 않습니다. table </p> <p><img src="https://img.php.cn/upload/article/000/000/164/168595745845616.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> <h4>ref(테이블 간 참조) </h4> <p> 인덱스의 어느 열이 사용되는지 표시하며, 가능하면 상수입니다. 인덱싱된 열의 값을 찾는 데 사용되는 열 또는 상수입니다. <br><img src="https://img.php.cn/upload/article/000/000/164/168595745910362.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> <h4>행(최적화 프로그램이 쿼리하는 각 테이블의 행 수)</h4> <p>테이블 통계 및 인덱스 선택을 기반으로 필요한 레코드를 찾기 위해 읽어야 하는 행 수를 대략 추정합니다(작을수록 좋음). )</p> <p><strong>인덱스가 구축되지 않은 경우</strong>: <br><img src="https://img.php.cn/upload/article/000/000/164/168595745911808.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"><br><strong>인덱스가 구축된 후</strong>: 스캔된 행 수가 줄어듭니다<br><img src="https://img.php.cn/upload/article/000/000/164/168595745926652.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> <h4>Extra [ˈekstrə]</h4> <p>에 표시하기에 적합하지 않은 추가 정보가 포함되어 있습니다. 다른 열은 매우 중요합니다</p> <p>정보 유형: filesort 사용, 임시 사용, 인덱스 사용, where 사용, 조인 버퍼 사용, 불가능 where, 최적화된 테이블 선택, independent</p> <p><strong>filesort 사용</strong>(최적화 필요)</p> <p>MySQL 테이블의 인덱스 순서대로 읽기 대신 외부 인덱스를 사용하여 데이터를 정렬합니다. MySQL이 인덱스를 사용하여 정렬 작업을 완료할 수 없는 경우 이를 "파일 정렬"이라고 합니다<br><img src="https://img.php.cn/upload/article/000/000/164/168595745983571.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> <p><strong>임시 사용</strong>(최적화 필요)</p> <p>MySQL은 임시 테이블을 사용하여 쿼리 결과를 정렬하여 중간 결과를 저장합니다. sort order by 및 group query group by</p> <p><img src="https://img.php.cn/upload/article/000/000/164/168595745916855.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p> <p><strong>Index</strong>(좋음)</p> <p> 사용은 해당 선택 작업이 테이블의 데이터 행에 액세스하는 것을 방지하기 위해 포함 인덱스(Covering Index)를 사용한다는 의미입니다. 매우 효율적입니다! </p> <ul class=" list-paddingleft-2"> <li><p>사례 1: <br><img src="https://img.php.cn/upload/article/000/000/164/168595745940211.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p></li> <li><p>사례 2: <br><img src="https://img.php.cn/upload/article/000/000/164/168595745947650.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p></li> </ul> <p><strong>Covering Index / Index Covering(Covering Index</strong>). </p> <ul class=" list-paddingleft-2"> <li><p>방법 1 이해: 데이터 행을 읽지 않고 인덱스에서만 선택 데이터 열을 얻을 수 있습니다. MySQL은 인덱스를 사용하여 데이터 파일을 다시 읽을 필요 없이 선택 목록의 필드를 반환할 수 있습니다. index.Change 즉, 쿼리 열은 내장된 인덱스로 덮여야 합니다. <br><img src="https://img.php.cn/upload/article/000/000/164/168595745887114.jpg" alt="MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?"></p></li> <li><p>방법 2 이해하기: 인덱스는 행을 효율적으로 찾는 방법이지만 일반 데이터베이스도 인덱스를 사용하여 열의 데이터를 찾을 수 있으므로 전체 행을 읽을 필요가 없습니다. 인덱스 리프 노드에는 데이터 인덱스 정보가 저장되어 있으므로, 각 데이터 행을 읽지 않고도 인덱스만 읽어도 필요한 데이터를 얻을 수 있다. 쿼리 결과를 만족하는 데이터를 포함(또는 커버)하는 인덱스를 커버링 인덱스라고 합니다. </p></li> </ul> <p><code>注意:

  • 커버링 인덱스를 사용하려면 선택 목록에서 필수 열만 빼야 합니다. 모든 필드를 함께 인덱스하면 인덱스가 발생하므로 *

  • 를 선택하지 마세요. 파일이 너무 크면 쿼리 성능이 저하됩니다

Using where: 필터링이 사용되는 위치를 나타냅니다.

조인 버퍼 사용: 연결 캐시가 사용됨
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

불가능 여기서: where 절의 값은 항상 거짓이며 튜플을 얻는 데 사용할 수 없습니다
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

최적화된 테이블을 선택하세요

在没有GROUPBY子句的情况下,基于索引优化MIN/MAX操作,或者对于MyISAM存储引擎优化COUNT(*)操作,不必等到执行阶段再进行计算,查询执行计划生成的阶段即完成优化。

distinct

优化distinct操作,在找到第一匹配的元组后即停止找同样值的动作。

练习

写出下图的表的执行顺序
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

第一行(执行顺序4):id列为1,表示是union里的第一个select,select_type列的primary表示该查询为外层查询,table列被标记为,表示查询结果来自一个衍生表,其中derived3中3代表该查询衍生自第三个select查询,即id为3的select。【select d1.name… 】

第三个select在整个查询中排在第二位,其id为3。因查询包含在from中,所以为derived。【select id,namefrom t1 where other_column=’’】

第三行(执行顺序3):select列表中的子查询select_type为subquery,为整个查询中的第二个select。【select id from t3】

第四行(执行顺序1):select_type为union,说明第四个select是union里的第二个select,最先执行【select name,id from t2】

第五行(执行顺序5):代表从union的临时表中读取行的阶段,table列的表示用第一个和第四个select的结果进行union操作。【两个结果union操作】

5 索引优化

5.1 索引单表优化案例

建表:

CREATE TABLE IF NOT EXISTS article(
	id INT(10) UNSIGNED NOT NULL PRIMARY KEY AUTO_INCREMENT,
	author_id INT(10) UNSIGNED NOT NULL,
	category_id INT(10) UNSIGNED NOT NULL,
	views INT(10) UNSIGNED NOT NULL,
	comments INT(10) UNSIGNED NOT NULL,
	title VARCHAR(255) NOT NULL,
	content TEXT NOT NULL
);

INSERT INTO article(author_id,category_id,views,comments,title,content)
VALUES
(1,1,1,1,&#39;1&#39;,&#39;1&#39;),
(2,2,2,2,&#39;2&#39;,&#39;2&#39;),
(1,1,3,3,&#39;3&#39;,&#39;3&#39;);

//查询
mysql> select * from article;
+----+-----------+-------------+-------+----------+-------+---------+
| id | author_id | category_id | views | comments | title | content |
+----+-----------+-------------+-------+----------+-------+---------+
|  1 |         1 |           1 |     1 |        1 | 1     | 1       |
|  2 |         2 |           2 |     2 |        2 | 2     | 2       |
|  3 |         1 |           1 |     3 |        3 | 3     | 3       |
+----+-----------+-------------+-------+----------+-------+---------+
3 rows in set (0.00 sec)

案例

要求:查询 category_id 为 1 且 comments 大于1 的情况下,views 最多的 article_id

//功能实现
mysql> SELECT id, author_id FROM article WHERE category_id = 1 AND comments > 1 ORDER BY views DESC LIMIT 1;
+----+-----------+
| id | author_id |
+----+-----------+
|  3 |         1 |
+----+-----------+
1 row in set (0.00 sec)

//explain分析
mysql> explain SELECT id, author_id FROM article WHERE category_id = 1 AND comments > 1 ORDER BY views DESC LIMIT 1;
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-----------------------------+
| id | select_type | table   | partitions | type | possible_keys | key  | key_len | ref  | rows | filtered | Extra                       |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-----------------------------+
|  1 | SIMPLE      | article | NULL       | ALL  | NULL          | NULL | NULL    | NULL |    3 |    33.33 | Using where; Using filesort |
+----+-------------+---------+------------+------+---------------+------+---------+------+------+----------+-----------------------------+
1 row in set, 1 warning (0.00 sec)

结论:很显然,type是ALL,即最坏的情况。Extra里还出现了Using filesort,也是最坏的情况。优化是必须的

开始优化

新建索引(给WHERE语句后使用的字段添加索引)

创建方式:

  • create index idx_article_ccv on article(category_id,comments,views);

  • ALTER TABLE 'article' ADD INDEX idx_article_ccv ( 'category_id , 'comments', 'views' );
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

索引用处不大,删除:DROP INDEX idx_article_ccv ON article;

结论:

  • type变成了range,这是可以忍受的。仍然不能接受extra中使用Using filesort。

  • 但是我们已经建立了索引,为啥没用呢?

  • 这是因为按照BTree索引的工作原理,先排序category_id,如果遇到相同的category_id则再排序comments,如果遇到相同的comments 则再排序views。

  • 当comments字段在联合索引里处于中间位置时,因comments > 1条件是一个范围值(所谓range),MySQL无法利用索引再对后面的views部分进行检索,即range类型查询字段后面的索引无效

改进

上次创建索引相比,这次不为comments字段创建索引
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

结论:type变为了ref,ref 中是 const,Extra 中的 Using filesort也消失了,结果非常理想

5.2 索引两表优化案例

建表:

CREATE TABLE IF NOT EXISTS class(
	id INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,
	card INT(10) UNSIGNED NOT NULL,
	PRIMARY KEY(id)
);

CREATE TABLE IF NOT EXISTS book(
	bookid INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,
	card INT(10) UNSIGNED NOT NULL,
	PRIMARY KEY(bookid)
);

INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO class(card) VALUES(FLOOR(1+(RAND()*20)));

INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO book(card) VALUES(FLOOR(1+(RAND()*20)));

//查询
mysql> select * from class;
+----+------+
| id | card |
+----+------+
|  1 |   17 |
|  2 |    2 |
|  3 |   18 |
|  4 |    4 |
|  5 |    4 |
|  6 |    8 |
|  7 |    9 |
|  8 |    1 |
|  9 |   18 |
| 10 |    6 |
| 11 |   15 |
| 12 |   15 |
| 13 |   12 |
| 14 |   15 |
| 15 |   18 |
| 16 |    2 |
| 17 |   18 |
| 18 |    5 |
| 19 |    7 |
| 20 |    1 |
| 21 |    2 |
+----+------+
21 rows in set (0.00 sec)

mysql> select * from book;
+--------+------+
| bookid | card |
+--------+------+
|      1 |    8 |
|      2 |   14 |
|      3 |    3 |
|      4 |   16 |
|      5 |    8 |
|      6 |   12 |
|      7 |   17 |
|      8 |    8 |
|      9 |   10 |
|     10 |    3 |
|     11 |    4 |
|     12 |   12 |
|     13 |    9 |
|     14 |    7 |
|     15 |    6 |
|     16 |    8 |
|     17 |    3 |
|     18 |   11 |
|     19 |    5 |
|     20 |   11 |
+--------+------+
20 rows in set (0.00 sec)

开始Explain分析:type都是all,需要优化(总有一个表来添加索引驱动)
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 左连接为左表加索引
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

删除索引:drop index y on class;

  • 左连接为右表添加索引
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

删除索引:drop index Y on book;

  • 案例:如果别人建的索引位置不对,只需要自己查询时调整左右表的顺序即可
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

结论

  • 第二行的type变为了ref,rows也变少了,优化比较明显。这是由左连接特性决定的。LEFT JOIN条件用于确定如何从右表搜索行,左边一定都有,所以右边是我们的关键点,一定需要在右表建立索引(小表驱动大表)。

  • 左连接,右表加索引

  • 同理:右连接,左表加索引

5.3 索引三表优化案例

建表:

CREATE TABLE IF NOT EXISTS phone(
	phoneid INT(10) UNSIGNED NOT NULL AUTO_INCREMENT,
	card INT(10) UNSIGNED NOT NULL,
	PRIMARY KEY(phoneid)
)ENGINE=INNODB;

INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));
INSERT INTO phone(card) VALUES(FLOOR(1+(RAND()*20)));

//查询
mysql> select * from phone;
+---------+------+
| phoneid | card |
+---------+------+
|       1 |   10 |
|       2 |   13 |
|       3 |   17 |
|       4 |    5 |
|       5 |   12 |
|       6 |    7 |
|       7 |   15 |
|       8 |   17 |
|       9 |   17 |
|      10 |   14 |
|      11 |   19 |
|      12 |   13 |
|      13 |    5 |
|      14 |    8 |
|      15 |    2 |
|      16 |    8 |
|      17 |   11 |
|      18 |   14 |
|      19 |   13 |
|      20 |    5 |
+---------+------+
20 rows in set (0.00 sec)

用上一节两个表,删除他们的索引:

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
三表查询语句应为SELECT * FROM class LEFT JOIN book ON class.card = book.card LEFT JOIN phone ON book.card = phone.card;

创建索引

  • 应该为第一个LFET JOIN 的右表 book 建索引

    alter table `book` add index Y(`card`);
  • 应该为第二个LFET JOIN 的右表 phone 建索引

    alter table `phone` add index z(`card`);

Explain分析:
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
后2行的 type 都是ref且总 rows优化很好,效果不错。因此索引最好设置在需要经常查询的字段中

结论

  • Join语句的优化

  • 尽可能减少Join语句中的NestedLoop的循环总次数:“永远用小结果集驱动大的结果集(比如:书的类型表驱动书的名称表)”。

  • 优先优化NestedLoop的内层循环,保证Join语句中被驱动表上Join条件字段已经被索引。

  • 当无法保证被驱动表的Join条件字段被索引且内存资源充足的前提下,不要太吝惜JoinBuffer的设置

5.4 索引失效

建表:

CREATE TABLE staffs(
	id INT PRIMARY KEY AUTO_INCREMENT,
	`name` VARCHAR(24) NOT NULL DEFAULT&#39;&#39; COMMENT&#39;姓名&#39;,
	`age` INT NOT NULL DEFAULT 0 COMMENT&#39;年龄&#39;,
	`pos` VARCHAR(20) NOT NULL DEFAULT&#39;&#39; COMMENT&#39;职位&#39;,
	`add_time` TIMESTAMP NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT&#39;入职时间&#39;
)CHARSET utf8 COMMENT&#39;员工记录表&#39;;

INSERT INTO staffs(`name`,`age`,`pos`,`add_time`) VALUES(&#39;z3&#39;,22,&#39;manager&#39;,NOW());
INSERT INTO staffs(`name`,`age`,`pos`,`add_time`) VALUES(&#39;July&#39;,23,&#39;dev&#39;,NOW());
INSERT INTO staffs(`name`,`age`,`pos`,`add_time`) VALUES(&#39;2000&#39;,23,&#39;dev&#39;,NOW());

ALTER TABLE staffs ADD INDEX index_staffs_nameAgePos(`name`,`age`,`pos`);

索引失效案例

  • 1、全值匹配我最爱
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 2、最佳左前缀法则(重要!):如果索引了多列,要遵守最左前缀法则。指的是查询从索引的最左前列开始并且不跳过复合索引中间列
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?中间列不能断:
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 3、不在索引列上做任何操作(计算、函数、(自动or手动)类型转换),会导致索引失效而转向全表扫描。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 4、存储引擎不能使用索引中范围条件右边的列(范围之后全失效,范围列并不是做的查询而是排序)。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 5、尽量使用覆盖索引(只访问索引的查询(索引列和查询列一致)),减少select *。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 6、mysql在使用不等于(!=或者)的时候无法使用索引会导致全表扫描。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 7、is null, is not null 也无法使用索引。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 8、like以通配符开头(’%abc…’),mysql索引失效会变成全表扫描的操作(%写在最右边索引不会失效,或覆盖索引)。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
    问题:解决like '%字符串%'时索引不被使用的方法? 采用覆盖索引的方法!
    建表:

    CREATE TABLE `tbl_user`(
    	`id` INT(11) NOT NULL AUTO_INCREMENT,
    	`name` VARCHAR(20) DEFAULT NULL,
    	`age`INT(11) DEFAULT NULL,
    	`email` VARCHAR(20) DEFAULT NULL,
    	PRIMARY KEY(`id`)
    )ENGINE=INNODB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;
    
    INSERT INTO tbl_user(`name`,`age`,`email`)VALUES(&#39;1aa1&#39;,21,&#39;a@163.com&#39;);
    INSERT INTO tbl_user(`name`,`age`,`email`)VALUES(&#39;2bb2&#39;,23,&#39;b@163.com&#39;);
    INSERT INTO tbl_user(`name`,`age`,`email`)VALUES(&#39;3cc3&#39;,24,&#39;c@163.com&#39;);
    INSERT INTO tbl_user(`name`,`age`,`email`)VALUES(&#39;4dd4&#39;,26,&#39;d@163.com&#39;);
    
    //查询
    mysql> select * from tbl_user;
    +----+------+------+-----------+
    | id | name | age  | email     |
    +----+------+------+-----------+
    |  1 | 1aa1 |   21 | a@163.com |
    |  2 | 2bb2 |   23 | b@163.com |
    |  3 | 3cc3 |   24 | c@163.com |
    |  4 | 4dd4 |   26 | d@163.com |
    +----+------+------+-----------+
    4 rows in set (0.00 sec)

    创建索引:

    CREATE INDEX idx_user_nameAge ON tbl_user(NAME,age);

    索引成功使用:
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
    索引失效:
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?总结:%写在最右边,如果非要写在最左边,就使用覆盖索引

  • 9、字符串不加单引号索引失效。
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
    Explain分析:
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 10、少用or,用它来连接时会索引失效
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

5.5 索引面试题分析

建表:

create table test03(
    id int primary key not null auto_increment,
    c1 char(10),
    c2 char(10),
    c3 char(10),
    c4 char(10),
    c5 char(10)
);

insert into test03(c1,c2,c3,c4,c5) values (&#39;a1&#39;,&#39;a2&#39;,&#39;a3&#39;,&#39;a4&#39;,&#39;a5&#39;);
insert into test03(c1,c2,c3,c4,c5) values (&#39;b1&#39;,&#39;b2&#39;,&#39;b3&#39;,&#39;b4&#39;,&#39;b5&#39;);
insert into test03(c1,c2,c3,c4,c5) values (&#39;c1&#39;,&#39;c2&#39;,&#39;c3&#39;,&#39;c4&#39;,&#39;c5&#39;);
insert into test03(c1,c2,c3,c4,c5) values (&#39;d1&#39;,&#39;d2&#39;,&#39;d3&#39;,&#39;d4&#39;,&#39;d5&#39;);
insert into test03(c1,c2,c3,c4,c5) values (&#39;e1&#39;,&#39;e2&#39;,&#39;e3&#39;,&#39;e4&#39;,&#39;e5&#39;);
//查看表结构
mysql> select * from test03;
+----+------+------+------+------+------+
| id | c1   | c2   | c3   | c4   | c5   |
+----+------+------+------+------+------+
|  1 | a1   | a2   | a3   | a4   | a5   |
|  2 | b1   | b2   | b3   | b4   | b5   |
|  3 | c1   | c2   | c3   | c4   | c5   |
|  4 | d1   | d2   | d3   | d4   | d5   |
|  5 | e1   | e2   | e3   | e4   | e5   |
+----+------+------+------+------+------+
5 rows in set (0.00 sec)

建索引:

create index idx_test03_c1234 on test03(c1,c2,c3,c4);
//查看索引
mysql> show index from test03;
+--------+------------+------------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| Table  | Non_unique | Key_name         | Seq_in_index | Column_name | Collation | Cardinality | Sub_part | Packed | Null | Index_type | Comment | Index_comment |
+--------+------------+------------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| test03 |          0 | PRIMARY          |            1 | id          | A         |           2 |     NULL | NULL   |      | BTREE      |         |               |
| test03 |          1 | idx_test03_c1234 |            1 | c1          | A         |           5 |     NULL | NULL   | YES  | BTREE      |         |               |
| test03 |          1 | idx_test03_c1234 |            2 | c2          | A         |           5 |     NULL | NULL   | YES  | BTREE      |         |               |
| test03 |          1 | idx_test03_c1234 |            3 | c3          | A         |           5 |     NULL | NULL   | YES  | BTREE      |         |               |
| test03 |          1 | idx_test03_c1234 |            4 | c4          | A         |           5 |     NULL | NULL   | YES  | BTREE      |         |               |
+--------+------------+------------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
5 rows in set (0.00 sec)

1)逐一增加列
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
2)交换条件顺序不影响索引,但最好按照建索引顺序来写SQL
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
3) 限定范围

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
4)order by
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
5)group by
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
定值、范围还是排序,一般order by是给个范围

group by基本上都需要进行排序,会有临时表产生

建议

  • 对于单值索引,尽量选择针对当前query过滤性更好的索引。

  • 在选择组合索引的时候,当前Query中过滤性最好的字段在索引字段顺序中,位置越靠左越好。

  • 在选择组合索引的时候,尽量选择可以能够包含当前query中的where字句中更多字段的索引。

  • 尽可能通过分析统计信息和调整query的写法来达到选择合适索引的目的。

5.6 总结

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

优化总结口诀

全值匹配我最爱, 最左前缀要遵守;

带头大哥不能死, 中间兄弟不能断;

索引列上少计算, 范围之后全失效;

LIKE 百分写最右, 覆盖索引不写 *;

不等空值还有OR, 索引影响要注意;

VAR 引号不可丢, SQL 优化有诀窍。

6 查询截取分析

6.1 小表驱动大表

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

EXISTS [ɪɡˈzɪsts]语法SELECT ...FROM table WHERE EXISTS (subquery)

该语法可以理解为:将主查询的数据,放到子查询中做条件验证,根据验证结果(TRUE或FALSE)来决定主查询的数据结果是否得以保留

提示

  • EXSTS(subquey) 只返回TRUE或FALSE,因此子查询中的SELECT * 也可以是 SELECT 1 或select ‘X’,官方说法是实际执行时会忽略SELECT清单,因此没有区别。

  • EXISTS子查询的实际执行过程可能经过了优化而不是我们理解上的逐条对比,如果担忧效率问题,可进行实际检验以确定是否有效率问题。

  • 具体问题具体分析,对于存在子查询,通常可以使用条件表达式、其他子查询或JOIN来替代,最优的使用方式需要根据具体情况进行评估

in和exists用法
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

6.2 Order by 关键字排序优化

1、ORDER BY之后子句,尽量使用Index方式排序,避免使用FileSort方式排序

建表:

create table tblA(
    #id int primary key not null auto_increment,
    age int,
    birth timestamp not null
);

insert into tblA(age, birth) values(22, now());
insert into tblA(age, birth) values(23, now());
insert into tblA(age, birth) values(24, now());

create index idx_A_ageBirth on tblA(age, birth);

//查询
mysql> select * from tblA;
+------+---------------------+
| age  | birth               |
+------+---------------------+
|   22 | 2021-04-04 19:31:45 |
|   23 | 2021-04-04 19:31:45 |
|   24 | 2021-04-04 19:31:45 |
+------+---------------------+
3 rows in set (0.00 sec)

mysql> show index from tblA;
+-------+------------+----------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| Table | Non_unique | Key_name       | Seq_in_index | Column_name | Collation | Cardinality | Sub_part | Packed | Null | Index_type | Comment | Index_comment |
+-------+------------+----------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
| tbla  |          1 | idx_A_ageBirth |            1 | age         | A         |           3 |     NULL | NULL   | YES  | BTREE      |         |               |
| tbla  |          1 | idx_A_ageBirth |            2 | birth       | A         |           3 |     NULL | NULL   |      | BTREE      |         |               |
+-------+------------+----------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
2 rows in set (0.00 sec)

关注点:是order by之后会不会产生Using filesort
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
MySQL支持二种方式的排序,FileSort和lIndex,Index效率高,它指MySQL扫描索引本身完成排序。FileSort方式效率较低。

ORDER BY满足两情况,会使用Index方式排序:

  • ORDER BY语句使用索引最左前列。

  • 使用where子句与Order BY子句条件列组合满足索引最左前列。

2、尽可能在索引上完成排序操作,遵照建索引的最佳左前缀

3、如果不在索引列上,mysql的filesort有两种算法(自动启动)

  • 双路排序

    MySQL4.1之前是使用双路排序,字面意思就是两次扫描磁盘,最终得到数据,读取行指针和OrderBy列,对他们进行排序,然后扫描已经排序好的列表,按照列表中的值重新从列表中读对应的数据输出。

    从磁盘取排序字段,在buffer进行排序,再从磁盘取其他字段。

    取一批数据,要对磁盘进行了两次扫描,众所周知,I\O是很耗时的,所以在mysql4.1之后,出现了第二种改进的算法,就是单路排序

  • 单路排序

    从磁盘读取查询需要的所有列,按照order by列在buffer对它们进行排序,然后扫描排序压的列表进行输出,它的效率更快一些,避免了第二次读取数据。尽管它将随机IO转换为顺序IO,但会占用更多的空间,因为它会将每一行都存储在内存中

  • 结论及引申出的问题

    由于单路是后出的,总体而言好过双路

    但是用单路有问题,在sort_buffer中,方法B比方法A要多占用很多空间,因为方法B是把所有字段都取出,所以有可能取出的数据的总大小超出了sort_buffer的容量,导致每次只能取sort_buffer容量大小的数据,进行排序(创建tmp文件,多路合并),排完再取取
    sort_buffer容量大小,再排……从而多次I/O。

    本来想省一次I/O操作,反而导致了大量的I/O操作,反而得不偿失

4、优化策略

  • 增大sort_buffer_size参数的设置

  • 增大max_length_for_sort_data参数的设置

  • Why?
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
    5、小总结:
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

6.3 Group by 优化

group by实质是先排序后进行分组,遵照索引建的最佳左前缀。
当无法使用索引列,增大max_length_for_sort_data参数的设置 + 增大sort_buffer_size参数的设置。
where高于having,能写在where限定的条件就不要去having限定了

6.4 慢查询日志(重点)

介绍

  • MySQL的慢查询日志是MySQL提供的一种日志记录,它用来记录在MySQL中响应时间超过阀值的语句,具体指运行时间超过long_query_time值的SQL,则会被记录到慢查询日志中。

  • 如果SQL的运行时间超过long_query_time值,那么它会被记录到慢查询日志中。long_query_time的默认值为10,意思是运行10秒以上的语句。

  • 由他来查看哪些SQL超出了我们的最大忍耐时间值,比如一条sql执行超过5秒钟,我们就算慢SQL,希望能收集超过5秒的sql,结合之前explain进行全面分析

操作说明

默认情况下,MySQL数据库没有开启慢查询日速,需要我们手动来设置这个参数。

除非需要进行性能调优,一般不建议启用该参数,因为启用慢查询日志可能会带来一定的性能影响。慢查询日志支持将日志记录写入文件。

查看是否开启及如何开启

  • 默认: SHOW VARIABLES LIKE '%slow_query_log%'; [ˈveəriəbls]

  • 开启:set global slow_query_log=1;,只对当前数据库生效,如果MySQL重启后则会失效
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

如果要永久生效,就必须修改配置文件my.cnf(其它系统变量也是如此)

修改my.cnf文件,[mysqld] 下增加或修改参数slow_query_log和slow_query_log_file后,然后重启MySQL服务器。也即将如下两行配置进my.cnf文件

slow_query_log =1slow_query_log_file=/var/lib/mysqatguigu-slow.log

关于慢查询的参数slow_query_log_file,它指定慢查询日志文件的存放路径,系统默认会给一个缺省的文件host_name-slow.log(如果没有指定参数slow_query_log_file的话)

开启了慢查询日志后,什么样的SQL才会记录到慢查询日志里面呢?

这个是由参数long_query_time控制,默认情况下long_query_time的值为10秒,命令:SHOW VARIABLES LIKE 'long_query_time%';
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
可以使用命令修改,也可以在my.cnf参数里面修改。

假如运行时间正好等于long_query_time的情况,并不会被记录下来。也就是说,在mysql源码里是判断大于long_query_time,而非大于等于。

命名修改慢SQL阈值时间set global long_query_time=3; [ˈɡləʊbl]
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
看不到修改情况的话,重开连接,或者换一个语句:show global variables like 'long_query_time';
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
记录慢SQL并后续分析:

假设我们成功设置慢SQL阈值时间为3秒(set global long_query_time=3;)。

模拟超时SQL:select sleep(4);
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

查询当前系统中有多少条慢查询记录show global status like '%Slow_queries%'; [ˈsteɪtəs]
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
在配置文件中设置慢SQL阈值时间(永久生效):

#[mysqld]下配置:slow_query_log=1;slow_query_log_file=/var/lib/mysql/atguigu-slow.log
long_query_time=3;log_output=FILE;

日志分析工具mysqldumpslow

在生产环境中,如果要手工分析日志,查找、分析SQL,显然是个体力活,MySQL提供了日志分析工具mysqldumpslow。

查看mysqldumpslow的帮助信息,mysqldumpslow --help
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
常用mysqldumpslow帮助信息:

  • s:是表示按照何种方式排序

  • c:访问次数

  • l:锁定时间

  • r:返回记录

  • t:查询时间

  • al:平均锁定时间

  • ar:平均返回记录数

  • at:平均查询时间

  • t:即为返回前面多少条的数据

  • g:后边搭配一个正则匹配模式,大小写不敏感的

工作常用参考:

  • 得到返回记录集最多的10个SQL:mysqldumpslow -s r -t 10 /var/lib/mysql/atguigu-slow.log

  • 得到访问次数最多的10个SQL:mysqldumpslow -s c -t 10 /var/lib/mysql/atguigu-slow.log

  • 得到按照时间排序的前10条里面含有左连接的查询语句:mysqldumpslow -s t -t 10 -g "left join" /var/lib/mysql/atguigu-slow.log

  • 另外建议在使用这些命令时结合│和more 使用,否则有可能出现爆屏情况:`mysqldumpslow -s r-t 10 /ar/lib/mysql/atguigu-slow.log | more

6.5 批量插入数据脚本

1、建表

create database bigData;use bigData;//部门表CREATE TABLE dept(
	id INT UNSIGNED PRIMARY KEY AUTO_INCREMENT,
	deptno MEDIUMINT UNSIGNED NOT NULL DEFAULT 0,
	dname VARCHAR(20)NOT NULL DEFAULT "",
	loc VARCHAR(13) NOT NULL DEFAULT "")ENGINE=INNODB DEFAULT CHARSET=utf8;//员工表CREATE TABLE emp(
    id int unsigned primary key auto_increment,
    empno mediumint unsigned not null default 0, //编号
    ename varchar(20) not null default "", //名字
    job varchar(9) not null default "", //工作
    mgr mediumint unsigned not null default 0, //上级编号
    hiredate date not null, //入职时间
    sal decimal(7,2) not null, //薪水
    comm decimal(7,2) not null, //红利
    deptno mediumint unsigned not null default 0 //部门编号)ENGINE=INNODB DEFAULT CHARSET=utf8;

2、设置参数log_bin_trust_function_creators

创建函数,假如报错:This function has none of DETERMINISTIC…

由于开启过慢查询日志,因为我们开启了bin-log,我们就必须为我们的function指定一个参数

show variables like &#39;log_bin_trust_function_creators&#39;;set global log_bin_trust_function_creators=1;

这样添加了参数以后,如果mysqld重启,上述参数又会消失,永久方法:

  • windows下:my.ini[mysqld] 加上 log_bin_trust_function_creators=1

  • linux下:/etc/my.cnf 下my.cnf[mysqld] 加上 log_bin_trust_function_creators=1

3、创建函数,保证每条数据都不同

  • 随机产生字符串

    delimiter $$ #为了存储过程能正常运行,修改命令结束符,两个 $$ 表示结束create function rand_string(n int) returns varchar(255)begin
        declare chars_str varchar(100) default &#39;abcdefghijklmnopqrstuvwxyz&#39;;
        declare return_str varchar(255) default &#39;&#39;;
        declare i int default 0;
        while i < n do
            set return_str = concat(return_str,substring(chars_str,floor(1+rand()*52),1));
            set i=i+1;
        end while;
        return return_str;end $$
  • 随机产生部门编号

    delimiter $$create function rand_num() returns int(5)begin
        declare i int default 0;
        set i=floor(100+rand()*10);
        return i;end $$

4、创建存储过程

  • 创建往emp表中插入数据的存储过程

    delimiter $$create procedure insert_emp(in start int(10),in max_num int(10)) #max_num:表示插入多少条数据begin
        declare i int default 0;
        set autocommit = 0; #关闭自动提交,避免写一个insert提交一次,50w条一次性提交
        repeat
            set i = i+1;
            insert into emp(empno,ename,job,mgr,hiredate,sal,comm,deptno) values((start+i),rand_string(6),&#39;salesman&#39;,0001,curdate(),2000,400,rand_num());
            until i=max_num        end repeat;
        commit;end $$
  • 创建往dept表中插入数据的存储过程

    delimiter $$create procedure insert_dept(in start int(10),in max_num int(10))begin
        declare i int default 0;
        set autocommit = 0;
        repeat
            set i = i+1;
            insert into dept(deptno,dname,loc) values((start+i),rand_string(10),rand_string(8));
            until i=max_num        end repeat;
        commit;end $$

5、调用存储过程

  • 往dept表中插入数据

    mysql> DELIMITER ; # 修改默认结束符号为(;),之前改成了##
    mysql> CALL insert_dept(100, 10);
    Query OK, 0 rows affected (0.01 sec)
  • 往emp表中插入50万数据

    mysql> DELIMITER ;
    mysql> CALL insert_emp(100001, 500000);
    Query OK, 0 rows affected (27.00 sec)
  • 查看运行结果

    mysql> select * from dept;
    +----+--------+---------+--------+
    | id | deptno | dname   | loc    |
    +----+--------+---------+--------+
    |  1 |    101 | mqgfy   | ck     |
    |  2 |    102 | wgighsr | kbq    |
    |  3 |    103 | gjgdyj  | brb    |
    |  4 |    104 | gzfug   | p      |
    |  5 |    105 | keitu   | cib    |
    |  6 |    106 | nndvuv  | csue   |
    |  7 |    107 | cdudl   | tw     |
    |  8 |    108 | aafyea  | aqq    |
    |  9 |    109 | zuqezjx | dpqoyo |
    | 10 |    110 | pam     | cses   |
    +----+--------+---------+--------+
    10 rows in set (0.00 sec)
    
    mysql> select * from emp limit 10; #查看前10条数据(50W太多了)
    +----+--------+-------+----------+-----+------------+---------+--------+--------+
    | id | empno  | ename | job      | mgr | hiredate   | sal     | comm   | deptno |
    +----+--------+-------+----------+-----+------------+---------+--------+--------+
    |  1 | 100002 | xmbva | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    108 |
    |  2 | 100003 | aeq   | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    109 |
    |  3 | 100004 | cnjfz | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    105 |
    |  4 | 100005 | wwhd  | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    100 |
    |  5 | 100006 | e     | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    107 |
    |  6 | 100007 | yjfr  | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    108 |
    |  7 | 100008 | xlp   | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    102 |
    |  8 | 100009 | mp    | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    102 |
    |  9 | 100010 | tcdl  | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    107 |
    | 10 | 100011 | akw   | salesman |   1 | 2021-04-05 | 2000.00 | 400.00 |    106 |
    +----+--------+-------+----------+-----+------------+---------+--------+--------+
    10 rows in set (0.00 sec)

6.6 Show Profile进行sql分析(重中之重)

MySQL的Show Profile命令可用于分析当前会话中语句的资源消耗情况。可以用于SQL的调优的测量

官网文档

默认情况下,参数处于关闭状态,并保存最近15次的运行结果

分析步骤

  • 1、是否支持,看看当前的mysql版本是否支持:show variables like 'profiling';

    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

    默认是关闭,使用前需要开启

  • 2、开启功能,默认是关闭,使用前需要开启:set profiling=on;
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 3、运行SQL(随便运行用来测试)

    mysql> select * from emp group by id%10 limit 150000;
    
    mysql> select * from emp group by id%20 order by 5;
  • 4、查看结果:show profiles;

    mysql> show profiles;
    +----------+------------+-----------------------------------------------+
    | Query_ID | Duration   | Query                                         |
    +----------+------------+-----------------------------------------------+
    |        1 | 0.00204000 | show variables like &#39;profiling&#39;               |
    |        2 | 0.55134250 | select * from emp group by id%10 limit 150000 |
    |        3 | 0.56902000 | select * from emp group by id%20 order by 5   |
    +----------+------------+-----------------------------------------------+
    3 rows in set, 1 warning (0.00 sec)
  • 5、诊断SQL,show profile cpu,block io for query ID号;(ID号为第4步Query_ID列中数字)

    mysql> show profile cpu,block io for query 3;
    +----------------------+----------+----------+------------+--------------+---------------+
    | Status               | Duration | CPU_user | CPU_system | Block_ops_in | Block_ops_out |
    +----------------------+----------+----------+------------+--------------+---------------+
    | starting             | 0.000049 | 0.000000 |   0.000000 |         NULL |          NULL |
    | checking permissions | 0.000005 | 0.000000 |   0.000000 |         NULL |          NULL |
    | Opening tables       | 0.000012 | 0.000000 |   0.000000 |         NULL |          NULL |
    | init                 | 0.000021 | 0.000000 |   0.000000 |         NULL |          NULL |
    | System lock          | 0.000009 | 0.000000 |   0.000000 |         NULL |          NULL |
    | optimizing           | 0.000003 | 0.000000 |   0.000000 |         NULL |          NULL |
    | statistics           | 0.000017 | 0.000000 |   0.000000 |         NULL |          NULL |
    | preparing            | 0.000008 | 0.000000 |   0.000000 |         NULL |          NULL |
    | Creating tmp table   | 0.000045 | 0.000000 |   0.000000 |         NULL |          NULL |
    | Sorting result       | 0.000004 | 0.000000 |   0.000000 |         NULL |          NULL |
    | executing            | 0.000002 | 0.000000 |   0.000000 |         NULL |          NULL |
    | Sending data         | 0.568704 | 0.546875 |   0.046875 |         NULL |          NULL |
    | Creating sort index  | 0.000048 | 0.000000 |   0.000000 |         NULL |          NULL |
    | end                  | 0.000003 | 0.000000 |   0.000000 |         NULL |          NULL |
    | query end            | 0.000005 | 0.000000 |   0.000000 |         NULL |          NULL |
    | removing tmp table   | 0.000006 | 0.000000 |   0.000000 |         NULL |          NULL |
    | query end            | 0.000003 | 0.000000 |   0.000000 |         NULL |          NULL |
    | closing tables       | 0.000004 | 0.000000 |   0.000000 |         NULL |          NULL |
    | freeing items        | 0.000061 | 0.000000 |   0.000000 |         NULL |          NULL |
    | cleaning up          | 0.000015 | 0.000000 |   0.000000 |         NULL |          NULL |
    +----------------------+----------+----------+------------+--------------+---------------+
    20 rows in set, 1 warning (0.00 sec)

    参数备注(写在代码中):show profile cpu,block io for query 3;(如此代码中的cpu,block)

    • ALL:显示所有的开销信息。

    • BLOCK IO:显示块lO相关开销。

    • CONTEXT SWITCHES :上下文切换相关开销。

    • CPU:显示CPU相关开销信息。

    • IPC:显示发送和接收相关开销信息。

    • MEMORY:显示内存相关开销信息。

    • PAGE FAULTS:显示页面错误相关开销信息。

    • SOURCE:显示和Source_function,Source_file,Source_line相关的开销信息。

    • SWAPS:显示交换次数相关开销的信息。

  • 6、日常开发需要注意的结论Status列中的出现此四个问题严重)

    • converting HEAP to MyISAM:查询结果太大,内存都不够用了往磁盘上搬了。

    • Creating tmp table:创建临时表,拷贝数据到临时表,用完再删除

    • Copying to tmp table on disk:把内存中临时表复制到磁盘,危险!

    • locked:锁了

6.7 全局查询日志

永远不要在生产环境开启这个功能,只能在测试环境使用!

  • 第一种:配置文件启用。在mysq l的 my.cnf 中,设置如下:

    #开启general_log=1#记录日志文件的路径general_log_file=/path/logfile#输出格式log_output=FILE
  • 第二种:编码启用。命令如下:

    • set global general_log=1;

    • set global log_output='TABLE';
      MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

此后,你所编写的sql语句,将会记录到mysql库里的geneial_log表,可以用下面的命令查看:

mysql> select * from mysql.general_log;
+----------------------------+------------------------------+-----------+-----------+--------------+---------------------------------+
| event_time                 | user_host                    | thread_id | server_id | command_type | argument                        |
+----------------------------+------------------------------+-----------+-----------+--------------+---------------------------------+
| 2021-04-05 19:57:28.182473 | root[root] @ localhost [::1] |         5 |         1 | Query        | select * from mysql.general_log |
+----------------------------+------------------------------+-----------+-----------+--------------+---------------------------------+
1 row in set (0.00 sec)

7 MySQL锁机制

7.1 概述

定义

锁是计算机协调多个进程或线程并发访问某一资源的机制。

在数据库中,除传统的计算资源(如CPU、RAM、I/O等)的争用以外,数据也是一种供许多用户共享的资源。如何保证数据并发访问的一致性、有效性是所有数据库必须解决的一个问题,锁冲突也是影响数据库并发访问性能的一个重要因素。从这个角度来说,锁对数据库而言显得尤其重要,也更加复杂

例子:京东购物

打个比方,我们到京东上买一件商品,商品只有一件库存,这个时候如果还有另一个人买,那么如何解决是你买到还是另一个人买到的问题?

这里肯定要用到事务,我们先从库存表中取出物品数量,然后插入订单,付款后插入付款表信息,然后更新商品数量。使用锁可以保护有限的资源,在处理隔离和并发之间的冲突时起着作用

锁的分类

  • 从对数据操作的类型(读\写)分

    • 读锁(共享锁):针对同一份数据,多个读操作可以同时进行而不会互相影响。

    • 写锁(排它锁):当前写操作没有完成前,它会阻断其他写锁和读锁。

  • 从对数据操作的粒度分

    • 表锁

    • 行锁

7.2 表锁(偏读)

特点:偏向MyISAM存储引擎,开销小,加锁快;无死锁;锁定粒度大,发生锁冲突的概率最高,并发度最低。

读锁案例讲解1

案例分析

建表表

create table mylock (
    id int not null primary key auto_increment,
    name varchar(20) default &#39;&#39;
) engine myisam;

insert into mylock(name) values(&#39;a&#39;);
insert into mylock(name) values(&#39;b&#39;);
insert into mylock(name) values(&#39;c&#39;);
insert into mylock(name) values(&#39;d&#39;);
insert into mylock(name) values(&#39;e&#39;);
#查询
mysql> select * from mylock;
+----+------+
| id | name |
+----+------+
|  1 | a    |
|  2 | b    |
|  3 | c    |
|  4 | d    |
|  5 | e    |
+----+------+
5 rows in set (0.00 sec)

手动增加表锁:lock table 表名字 read(write), 表名字2 read(write), 其他;

mysql> lock table mylock read;Query OK, 0 rows affected (0.00 sec)

查看表上加过的锁:show open tables;

mysql> show open tables;
+--------------------+------------------------------------------------------+--------+-------------+
| Database           | Table                                                | In_use | Name_locked |
+--------------------+------------------------------------------------------+--------+-------------+
| performance_schema | events_waits_summary_by_user_by_event_name           |      0 |           0 |
| performance_schema | events_waits_summary_global_by_event_name            |      0 |           0 |
| performance_schema | events_transactions_summary_global_by_event_name     |      0 |           0 |
| performance_schema | replication_connection_status                        |      0 |           0 |
| mysql              | time_zone_leap_second                                |      0 |           0 |
| mysql              | columns_priv                                         |      0 |           0 |
| my                 | test03                                               |      0 |           0 |
| bigdata            | mylock                                               |      1 |           0 |
# In_use为1时表示已上锁

释放锁:unlock tables;

mysql> unlock tables;
Query OK, 0 rows affected (0.00 sec)
# 再次查看
mysql> show open tables;
+--------------------+------------------------------------------------------+--------+-------------+
| Database           | Table                                                | In_use | Name_locked |
+--------------------+------------------------------------------------------+--------+-------------+
| performance_schema | events_waits_summary_by_user_by_event_name           |      0 |           0 |
| performance_schema | events_waits_summary_global_by_event_name            |      0 |           0 |
| performance_schema | events_transactions_summary_global_by_event_name     |      0 |           0 |
| performance_schema | replication_connection_status                        |      0 |           0 |
| mysql              | time_zone_leap_second                                |      0 |           0 |
| mysql              | columns_priv                                         |      0 |           0 |
| my                 | test03                                               |      0 |           0 |
| bigdata            | mylock                                               |      0 |           0 |

加读锁——为mylock表加read锁(读阻塞写例子)
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

读锁案例讲解2

为mylock表加write锁(MylSAM存储引擎的写阻塞读例子)
MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
MyISAM在执行查询语句(SELECT)前,会自动给涉及的所有表加读锁,在执行增删改操作前,会自动给涉及的表加写锁。

MySQL的表级锁有两种模式:

  • 表共享读锁(Table Read Lock)

  • 表独占写锁(Table Write Lock)

MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
结合上表,所以对MyISAM表进行操作,会有以下情况:

  • 对MyISAM表的读操作(加读锁),不会阻塞其他进程对同一表的读请求,但会阻塞对同一表的写请求。只有当读锁释放后,才会执行其它进程的写操作。

  • 对MyISAM表的写操作〈加写锁),会阻塞其他进程对同一表的读和写操作,只有当写锁释放后,才会执行其它进程的读写操作。

重点!:简而言之,就是读锁会阻塞写,但是不会堵塞读。而写锁则会把读和写都堵塞

表锁总结

看看哪些表被加锁了show open tables;

如何分析表锁定

可以通过检查table_locks_waited和table_locks_immediate状态变量来分析系统上的表锁定

mysql>  show status like &#39;table_locks%&#39;;
+-----------------------+-------+
| Variable_name         | Value |
+-----------------------+-------+
| Table_locks_immediate | 170   |
| Table_locks_waited    | 0     |
+-----------------------+-------+
2 rows in set (0.00 sec)

这里有两个状态变量记录MySQL内部表级锁定的情况,两个变量说明如下:

  • Table_locks_immediate:产生表级锁定的次数,表示可以立即获取锁的查询次数,每立即获取锁值加1 ;

  • Table_locks_waited(重点):出现表级锁定争用而发生等待的次数(不能立即获取锁的次数,每等待一次锁值加1),此值高则说明存在着较严重的表级锁争用情况;

MyISAM의 읽기-쓰기 잠금 스케줄링은 쓰기 작업을 우선시하므로 MyISAM은 주로 쓰기 작업을 수행하는 테이블 엔진에 적합하지 않습니다. 많은 수의 업데이트가 이루어지면 쓰기 잠금이 다른 스레드를 차단하여 쿼리가 잠금을 획득하기 어렵게 만들고 결국 영구 차단으로 이어집니다.MyISAM的读写锁调度以写操作为优先,这使得MyISAM不适用于主要进行写操作的表引擎。如果进行大量的更新,写锁将会阻塞其他线程,使得查询难以获取锁并最终导致永久阻塞

7.3 行锁(偏写)

偏向InnoDB存储引擎,开销大,加锁慢;会出现死锁;锁定粒度最小,发生锁冲突的概率最低,并发度也最高。

InnoDB与MyISAM的最大不同有两点:一是支持事务(TRANSACTION);二是采用了行级锁

由于行锁支持事务,复习老知识:

  • 事务(Transaction)及其ACID属性

  • 并发事务处理带来的问题

  • 事务隔离级别

1)事务是由一组SQL语句组成的逻辑处理单元,事务具有以下4个属性,通常简称为事务的ACID属性:

  • 事务是一个原子操作单元,要么全部执行对数据的修改,要么全部不执行,这就是原子性(Atomicity)。

  • 保持数据一致性(Consistency)是指在事务开始和结束时,数据必须保持一致的状态。这意味着所有相关的数据规则都必须应用于事务的修改,以保持数据的完整性;事务结束时,所有的内部数据结构〈如B树索引或双向链表)也都必须是正确的。

  • 隔离性(lsolation):数据库系统提供一定的隔离机制,保证事务在不受外部并发操作影响的“独立”环境执行。这意味着事务处理过程中的中间状态对外部是不可见的,反之亦然。

  • 持久性(Durable):事务完成之后,它对于数据的修改是永久性的,即使出现系统故障也能够保持。

2)并发事务处理带来的问题

  • 更新丢失(Lost Update)

    当两个或多个事务选择同一行,然后基于最初选定的值更新该行时,由于每个事务都不知道其他事务的存在,就会发生丢失更新问题――最后的更新覆盖了由其他事务所做的更新

    例如,两个程序员修改同一java文件。每个程序员都会独立地修改其拷贝,并保存更改,以覆盖原始文档。最后保存其更改副本的编辑人员覆盖前一个程序员所做的更改。

    如果在一个程序员完成并提交事务之前,另一个程序员不能访问同一文件,则可避免此问题。

  • 脏读(Dirty Reads)

    一个事务正在对一条记录做修改,在这个事务完成并提交前,这条记录的数据就处于不一致状态;这时,另一个事务也来读取同一条记录,如果不加控制,第二个事务读取了这些“脏”数据,并据此做进一步的处理,就会产生未提交的数据依赖关系。这种现象被形象地叫做”脏读”。

    一句话:事务A读取到了事务B已修改但尚未提交的的数据,还在这个数据基础上做了操作。此时,如果B事务回滚,A读取的数据无效,不符合一致性要求

  • 不可重复读(Non-Repeatable Reads)

    一个事务在读取某些数据后的某个时间,再次读取以前读过的数据,却发现其读出的数据已经发生了改变、或某些记录已经被删除了,这种现象就叫做“不可重复读”。

    一句话:事务A读取到了事务B已经提交的修改数据,不符合隔离性。

  • 幻读(Phantom Reads)

    一个事务接相同的查询条件重新读取以前检索过的数据,却发现其他事务插入了满足其查询条件的新数据,这种现象就称为“幻读“。

    一句话:事务A读取到了事务B体提交的新增数据

    7.3 행 잠금(쓰기 편향)InnoDB 스토리지 엔진에 편향되어 오버헤드가 크면 잠금 교착 상태가 발생합니다. 잠금 세분성은 가장 작고 잠금 충돌 가능성은 가장 낮으며 동시성은 가장 높습니다.

    InnoDB와 MyISAM의 가장 큰 차이점은 두 가지입니다. 하나는 트랜잭션(TRANSACTION)을 지원한다는 것이고, 다른 하나는 행 수준 잠금을 사용한다는 것입니다.
행 잠금은 트랜잭션을 지원하기 때문에, 이전 내용을 검토하세요. 지식:

  • 트랜잭션 및 ACID 속성
  • 동시 트랜잭션 처리로 인한 문제
    MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

  • 트랜잭션 격리 수준

    🎜🎜🎜 1) 트랜잭션은 일련의 SQL 문으로 구성된 논리적 처리 단위입니다. 트랜잭션에는 일반적으로 트랜잭션의 ACID 속성이라고 하는 다음 4가지 속성이 있습니다. 🎜🎜
    • 🎜트랜잭션은 원자입니다. 작업 단위는 데이터에 대한 모든 수정을 수행하거나 모든 수정을 수행하지 않습니다. 이것이 원자성입니다. 🎜🎜
    • 🎜데이터 일관성(Consistency)을 유지한다는 것은 거래의 시작과 끝에서 데이터가 일관되게 유지되어야 함을 의미합니다. 이는 트랜잭션이 끝날 때 데이터 무결성을 유지하기 위해 모든 관련 데이터 규칙이 트랜잭션 수정에 적용되어야 하며 모든 내부 데이터 구조(예: B-트리 인덱스 또는 이중 연결 목록)도 정확해야 함을 의미합니다. 🎜🎜
    • 🎜격리(lsolation): 데이터베이스 시스템은 트랜잭션이 외부 동시 작업의 영향을 받지 않는 "독립적인" 환경에서 실행되도록 특정 격리 메커니즘을 제공합니다. 이는 트랜잭션 중 중간 상태가 외부 세계에 표시되지 않으며 그 반대의 경우도 마찬가지임을 의미합니다. 🎜🎜
    • 🎜내구성: 거래가 완료된 후 데이터 수정 사항은 영구적이며 시스템 오류가 발생하더라도 유지될 수 있습니다. 🎜🎜🎜🎜🎜2) 동시 트랜잭션 처리로 인한 문제🎜🎜
      • 🎜🎜Lost Update🎜🎜🎜2개 이상의 트랜잭션을 선택한 경우 동일한 행을 업데이트하는 경우 그런 다음 원래 선택한 값을 기반으로 해당 행을 업데이트합니다. 각 트랜잭션은 다른 트랜잭션의 존재를 인식하지 못하기 때문에 업데이트 손실 문제가 발생합니다. 마지막 업데이트가 다른 트랜잭션의 업데이트를 덮어씁니다. 🎜🎜예를 들어 두 명의 프로그래머가 동일한 Java 파일을 수정합니다. 각 프로그래머는 독립적으로 자신의 사본을 수정하고 변경 사항을 저장하여 원본 문서를 덮어씁니다. 자신의 변경 사항 사본을 저장한 마지막 편집자는 이전 프로그래머가 변경한 내용을 덮어씁니다. 🎜🎜한 프로그래머가 트랜잭션을 완료하고 커밋할 때까지 다른 프로그래머가 동일한 파일에 액세스할 수 없으면 이 문제를 피할 수 있습니다. 🎜🎜
      • 🎜🎜Dirty Reads🎜🎜🎜트랜잭션이 완료되어 제출되기 전에 이 레코드의 데이터가 현재 일치하지 않는 상태입니다. 다른 트랜잭션도 동일한 레코드를 읽으려고 합니다. , 제어가 없으면 두 번째 트랜잭션은 이러한 "더러운" 데이터를 읽고 그에 따라 추가 처리를 수행하여 커밋되지 않은 데이터 종속성을 생성합니다. 이런 현상을 '더티 리딩(dirty reading)'이라고 부르기도 합니다. 🎜🎜한 문장에서: 트랜잭션 A는 트랜잭션 B가 수정했지만 아직 제출하지 않은 데이터를 읽고 이 데이터를 기반으로 작업을 수행했습니다. 이때 트랜잭션 B가 롤백되면 A가 읽은 데이터는 유효하지 않으며 일관성 요구 사항을 충족하지 않습니다🎜🎜
      • 🎜🎜Non-Repeatable Reads🎜🎜🎜일부 데이터를 읽은 후 트랜잭션이 특정 시간에 이전에 읽은 데이터를 다시 읽어보면 읽은 데이터가 변경되었거나 일부 레코드가 삭제된 것으로 발견되는 현상을 "반복 불가능한 읽기"라고 합니다. 🎜🎜한 문장에서: 트랜잭션 A가 트랜잭션 B가 제출한 수정된 데이터를 읽었습니다. 이는 격리 요구 사항을 충족하지 않습니다. 🎜🎜
      • 🎜🎜Phantom Reads🎜🎜🎜A 트랜잭션은 이전에 검색된 데이터를 동일한 쿼리 조건으로 다시 읽지만, 다른 트랜잭션이 쿼리 조건을 만족하는 새로운 데이터를 삽입했음을 발견합니다. 이러한 현상을 "팬텀 읽기"라고 합니다. ". 🎜🎜한 문장: 트랜잭션 A가 트랜잭션 B가 제출한 새 데이터를 읽었습니다. 이는 격리 요구 사항을 충족하지 않습니다.🎜🎜한 가지 더: 팬텀 읽기와 더티 읽기는 다소 유사합니다. 더티 읽기는 트랜잭션 B에서 데이터가 수정되었음을 의미하고 팬텀 읽기는 트랜잭션 B에 새 데이터가 추가되었음을 의미합니다. 🎜🎜🎜🎜🎜3) 트랜잭션 격리 수준🎜🎜🎜 "Dirty Read", "Non-Repeatable Read" 및 "Phantom Read"는 실제로 데이터베이스 읽기 일관성 문제이며, 이는 특정 트랜잭션 격리 메커니즘을 제공하는 데이터베이스에서 해결해야 합니다🎜 🎜🎜🎜데이터베이스의 트랜잭션 격리가 엄격할수록 동시성 부작용은 작아지지만 지불되는 가격은 더 커집니다. 트랜잭션 격리는 본질적으로 트랜잭션을 어느 정도 "직렬화"하게 만들기 때문입니다. 이는 분명히 "동시성"이 모순되는 것과 같습니다. . 동시에, 애플리케이션마다 읽기 일관성 및 트랜잭션 격리에 대한 요구 사항이 다릅니다. 예를 들어, 많은 애플리케이션은 "반복 불가능한 읽기" 및 "팬텀 읽기"에 민감하지 않으며 동시에 데이터에 액세스하는 기능에 더 관심을 가질 수 있습니다. 🎜

        常看当前数据库的事务隔离级别:show variables like 'tx_isolation';

        mysql> show variables like &#39;tx_isolation&#39;;
        +---------------+-----------------+
        | Variable_name | Value           |
        +---------------+-----------------+
        | tx_isolation  | REPEATABLE-READ |
        +---------------+-----------------+
        1 row in set, 1 warning (0.00 sec)
        # 默认情况下:MySQL避免了脏读和不可重复读

        行锁案例讲解

        建表:

        CREATE TABLE test_innodb_lock (a INT(11),b VARCHAR(16))ENGINE=INNODB;
        
        INSERT INTO test_innodb_lock VALUES(1,&#39;b2&#39;);
        INSERT INTO test_innodb_lock VALUES(3,&#39;3&#39;);
        INSERT INTO test_innodb_lock VALUES(4, &#39;4000&#39;);
        INSERT INTO test_innodb_lock VALUES(5,&#39;5000&#39;);
        INSERT INTO test_innodb_lock VALUES(6, &#39;6000&#39;);
        INSERT INTO test_innodb_lock VALUES(7,&#39;7000&#39;);
        INSERT INTO test_innodb_lock VALUES(8, &#39;8000&#39;);
        INSERT INTO test_innodb_lock VALUES(9,&#39;9000&#39;);
        INSERT INTO test_innodb_lock VALUES(1,&#39;b1&#39;);
        
        CREATE INDEX test_innodb_a_ind ON test_innodb_lock(a);
        CREATE INDEX test_innodb_lock_b_ind ON test_innodb_lock(b);
        //查看
        mysql> select * from test_innodb_lock;
        +------+------+
        | a    | b    |
        +------+------+
        |    1 | b2   |
        |    3 | 3    |
        |    4 | 4000 |
        |    5 | 5000 |
        |    6 | 6000 |
        |    7 | 7000 |
        |    8 | 8000 |
        |    9 | 9000 |
        |    1 | b1   |
        +------+------+
        9 rows in set (0.00 sec)
        
        mysql> show index from test_innodb_lock;
        +------------------+------------+------------------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
        | Table            | Non_unique | Key_name               | Seq_in_index | Column_name | Collation | Cardinality | Sub_part | Packed | Null | Index_type | Comment | Index_comment |
        +------------------+------------+------------------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+
        | test_innodb_lock |          1 | test_innodb_a_ind      |            1 | a           | A         |           8 |     NULL | NULL   | YES  | BTREE      |         |               |
        | test_innodb_lock |          1 | test_innodb_lock_b_ind |            1 | b           | A         |           9 |     NULL | NULL   | YES  | BTREE      |         |               |
        +------------------+------------+------------------------+--------------+-------------+-----------+-------------+----------+--------+------+------------+---------+---------------+

        行锁定基本演示(两个客户端更新同一行记录)
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
        疑惑解答为什么两个都要commint
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        索引失效行锁变表锁

        无索引行锁升级为表锁
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        间隙锁

        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
        什么是间隙锁

        当我们用范围条件而不是相等条件检索数据,并请求共享或排他锁时,InnoDB会给符合条件的已有数据记录的索引项加锁,对于键值在条件范围内但并不存在的记录,叫做“间隙(GAP)”。

        InnoDB也会对这个“间隙”加锁,这种锁机制就是所谓的间隙锁(Next-Key锁)。

        危害

        如果在查询执行期间使用范围查找,它会锁定整个范围内的所有索引键值,即使这些键不存在。

        间隙锁有一个比较致命的弱点,就是当锁定一个范围键值之后,即使某些不存在的键值也会被无辜的锁定,而造成在锁定的时候无法插入锁定键值范围内的任何数据。在某些场景下这可能会对性能造成很大的危害

        面试题:如何锁定一行

        begin(中间写自己的操作)commit

        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        行锁总结

        总结

        Innodb存储引擎由于实现了行级锁定,虽然在锁定机制的实现方面所带来的性能损耗可能比表级锁定会要更高一些,但是在整体并发处理能力方面要远远优于MyISAM的表级锁定的。当系统并发量较高的时候,Innodb的整体性能和MylISAM相比就会有比较明显的优势了。

        但是,Innodb的行级锁定同样也有其脆弱的一面,当我们使用不当的时候,可能会让Innodb的整体性能表现不仅不能比MyISAM高,甚至可能会更差

        如何分析行锁定?

        通过检查lnnoDB_row_lock状态变量来分析系统上的行锁的争夺情况:show status like 'innodb_row_lock%';

        mysql> show status like &#39;innodb_row_lock%&#39;;
        +-------------------------------+-------+
        | Variable_name                 | Value |
        +-------------------------------+-------+
        | Innodb_row_lock_current_waits | 0     |
        | Innodb_row_lock_time          | 0     |
        | Innodb_row_lock_time_avg      | 0     |
        | Innodb_row_lock_time_max      | 0     |
        | Innodb_row_lock_waits         | 0     |
        +-------------------------------+-------+
        5 rows in set (0.00 sec)

        对各个状态量的说明如下:

        • Innodb_row_lock_current_waits:当前正在等待锁定的数量;

        • Innodb_row_lock_time:从系统启动到现在锁定总时间长度;

        • Innodb_row_lock_time_avg:每次等待所花平均时间;

        • Innodb_row_lock_time_max:从系统启动到现在等待最常的一次所花的时间;

        • Innodb_row_lock_waits:系统启动后到现在总共等待的次数;

        对于这5个状态变量,比较重要的主要是

        • lnnodb_row_lock_time(等待总时长)

        • Innodb_row_lock_time_avg(等待平均时长)

        • lnnodb_row_lock_waits(等待总次数)

        尤其是当等待次数很高,而且每次等待时长也不小的时候,我们就需要分析(Show Profile)系统中为什么会有如此多的等待,然后根据分析结果着手指定优化计划。

        优化建议

        • 尽可能让所有数据检索都通过索引来完成,避免无索引行锁升级为表锁。

        • 合理设计索引,尽量缩小锁的范围

        • 尽可能较少检索条件,避免间隙锁

        • 尽量控制事务大小,减少锁定资源量和时间长度

        • 尽可能低级别事务隔离

        页锁

        在选择锁定方式时,需要考虑开销和加锁时间的平衡点,以避免死锁的出现;同时,锁定粒度介于表锁和行锁之间,通常并发度较为一般。(了解一下即可)

        8 主从复制

        8.1 复制的基本原理

        slave会从master读取binlog来进行数据同步

        原理图
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
        MySQL复制过程分成三步

        • 记录master的更改并存入二进制日志。二进制日志事件也称为binary log events

        • 2、slave将master的binary log events拷贝到它的中继日志(relay log) ;

        • 3、slave重做中继日志中的事件,将改变应用到自己的数据库中。MySQL复制是异步的且串行化的

        8.2 复制的基本原则

        • 每个slave只有一个master

        • 每个slave只能有一个唯一的服务器ID

        • 每个master可以有多个salve

        复制的最大问题是延迟。

        8.3 一主一从常见配置

        一、mysql版本一致且后台以服务运行

        二、主从都配置在[mysqld]结点下,都是小写

        主机修改my.ini配置文件:

        1、[必须]主服务器唯一ID:server-id=1

        2、[必须]启用二进制日志

        • log-bin=自己本地的路径/mysqlbin

        • log-bin=D:/devSoft/MySQLServer5.5/data/mysqlbin

        3、[可选]启用错误日志

        • log-err=自己本地的路径/mysqlerr

        • log-err=D:/devSoft/MySQLServer5.5/data/mysqlerr

        4、[可选]根目录

        • basedir=“自己本地路径”

        • basedir=“D:/devSoft/MySQLServer5.5/”

        5、[可选]临时目录

        • tmpdir=“自己本地路径”

        • tmpdir=“D:/devSoft/MySQLServer5.5/”

        6、[可选]数据目录

        • datadir=“自己本地路径/Data/”

        • datadir=“D:/devSoft/MySQLServer5.5/Data/”

        7、主机,读写都可以

        • read-only=O

        8、[可选]设置不要复制的数据库

        • binlog-ignore-db=mysql

        9、[可选]设置需要复制的数据库

        • binlog-do-db=需要复制的主数据库名字

        从机修改my.cnf配置文件:

        1、[必须]从服务器唯一ID:vim etc/my.cnf(进入修改配置文件)

        ...#server-id=1 //注释吊...server-id=1 //开启...

        2、[可选]启用二进制日志

        三、配置文件,请主机+从机都重启后台mysql服务

        主机:手动重启

        Linux从机命名:

        • service mysql stop

        • service mysql start

        四、主机从机都关闭防火墙

        windows手动关闭

        关闭虚拟机linux防火墙: service iptables stop

        五、在Windows主机上建立帐户并授权slave

        • GRANT REPLICATION SLAVE ON . TO ‘zhangsan’@‘从机器数据库IP’ IDENTIFIED BY ‘123456’;

        • 刷新:flush privileges;

        • 查询master的状态

          • show master status;

          • 记录下File和Position的值

        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        • 执行完此步骤后不要再操作主服务器MYSQL,防止主服务器状态值变化

        六、在Linux从机上配置需要复制的主机

        • CHANGE MASTER TO MASTER_HOST=’主机IP’,
          MASTER_USER=‘zhangsan’,
          MASTER_PASSWORD=’123456’,
          MASTER_LOG_FILE='File名字’,
          MASTER_LOG_POS=Position数字;

        • 启动从服务器复制功能:start slave;

        • show slave status\G(下面两个参数都是Yes,则说明主从配置成功!)

          • Slave_IO_Running:Yes

          • Slave_SQL_Running:Yes

        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?
        七、主机新建库、新建表、insert记录,从机复制

        • 호스트 운영
          MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        • 슬레이브 머신(자동 동기화)
          MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        8. 서비스에서 복사 기능을 중지하는 방법: stop slave;

        데이터를 원하지 않는 경우 일시적으로?

        슬레이브 머신:
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

        마스터 머신(스케일을 다시 확인해야 함):
        MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?

위 내용은 MySQL의 SQL 최적화, 인덱스 최적화, 잠금 메커니즘 및 마스터-슬레이브 복제에 대한 지식은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 yisu.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제