查询效率至少提高4倍的MySQL技巧
- SQL语句中IN包含的值不应过多
MySQL对于IN做了相应的优化,即将IN中的常量全部存储在一个数组里面,而且这个数组是排好序的。但是如果数值较多,产生的消耗也是比较大的。再例如:select id from t where num in(1,2,3) 对于连续的数值,能用between就不要用in了;再或者使用连接来替换。
(图片来源网络,侵删)- SELECT语句务必指明字段名称
SELECT*增加很多不必要的消耗(CPU、IO、内存、网络带宽);增加了使用覆盖索引的可能性;当表结构发生改变时,前断也需要更新。所以要求直接在select后面接上字段名。
- 当只需要一条数据的时候,使用limit 1
这是为了使EXPLAIN中type列达到const类型
-
如果排序字段没有用到索引,就尽量少排序
-
如果限制条件中其他字段没有索引,尽量少用or
or两边的字段中,如果有一个不是索引字段,而其他条件也不是索引字段,会造成该查询不走索引的情况。很多时候使用union all或者是union(必要的时候)的方式来代替“or”会得到更好的效果。
- 尽量用union all 代替 union
union和union all的差异主要是前者需要将结果集合并后再进行唯一性过滤操作,这就会涉及到排序,增加大量的CPU运算,加大资源消耗及延迟。当然,union all的前提条件是两个结果集没有重复数据。
- 不使用ORDER BY RAND()
SELECT id FROM `dynamic` ORDER BY rand( ) LIMIT 1000;
上面的SQL语句,可优化为:
SELECT id FROM `dynamic` t1 JOIN ( SELECT rand( ) * ( SELECT max( id ) FROM `dynamic` ) AS nid ) t2 ON t1.id > t2.nid LIMIT 1000;
- 区分in和exists、not in和not exists
SELECT * FROM 表 A WHERE id IN ( SELECT id FROM 表 B )
上面SQL语句相当于
SELECT * FROM 表 A WHERE EXISTS ( SELECT * FROM 表 B WHERE 表 B.id =表 A.id )
区分in和exists主要是造成了驱动顺序的改变(这是性能变化的关键),如果是exists,那么以外层表为驱动表,先被访问,如果是IN,那么先执行子查询。所以IN适合于外表大而内表小的情况;EXISTS适合于外表小而内表大的情况。
关于not in和not exists,推荐使用not exists,不仅仅是效率问题,not in可能存在逻辑问题。如何高效的写出一个替代not exists的SQL语句?
原SQL语句:
SELECT colname … FROM A表 WHERE a.id NOT IN ( SELECT b.id FROM B表)
高效的SQL语句:
SELECT colname … FROM A表 LEFT JOIN B表 ON WHERE a.id = b.id WHERE b.id IS NULL
- 使用合理的分页方式以提高分页的效率
SELECT id, NAME FROM product LIMIT 866613, 20
使用上述SQL语句做分页的时候,可能有人会发现,随着表数据量的增加,直接使用limit分页查询会越来越慢。
优化的方法如下:可以取前一页的最大行数的id,然后根据这个最大的id来限制下一页的起点。比如此列中,上一页最大的id是866612。SQL可以采用如下的写法:
SELECT id, NAME FROM product WHERE id > 866612 LIMIT 20
- 分段查询
在一些用户选择页面中,可能一些用户选择的时间范围过大,造成查询缓慢。主要的原因是扫描行数过多。这个时候可以通过程序,分段进行查询,循环遍历,将结果合并处理进行展示。
如下图这个SQL语句,扫描的行数成百万级以上的时候就可以使用分段查询:
- 避免在where子句中对字段进行null值判断
对于null的判断会导致引擎放弃使用索引而进行全表扫描。
- 不建议使用%前缀模糊查询
例如LIKE“%name”或者LIKE“%name%”,这种查询会导致索引失效而进行全表扫描。但是可以使用LIKE “name%”。
那如何查询%name%?
如下图所示,虽然给secret字段添加了索引,但在explain结果并没有使用:
那么如何解决这个问题呢,答案:使用全文索引。
在我们查询中经常会用到select id,fnum,fdst from dynamic_201606 where user_name like ‘%zhangsan%’; 。这样的语句,普通索引是无法满足查询需求的。庆幸的是在MySQL中,有全文索引来帮助我们。
创建全文索引的SQL语法是:
ALTER TABLE `dynamic_201606` ADD FULLTEXT INDEX `idx_user_name` ( `user_name` );
使用全文索引的SQL语句是:
selectid,fnum,fdstfromdynamic_201606wherematch(user_name) against('zhangsan’inboolean mode);
注意:在需要创建全文索引之前,请联系DBA确定能否创建。同时需要注意的是查询语句的写法与普通索引的区别。
- 避免在where子句中对字段进行表达式操作
比如:
SELECT user_id, user_project FROM user_base WHERE age * 2 = 36;
中对字段就行了算术运算,这会造成引擎放弃使用索引,建议改成:
SELECT user_id, user_project FROM user_base WHERE age = 36 / 2;
- 避免隐式类型转换
where子句中出现column字段的类型和传入的参数类型不一致的时候发生的类型转换,建议先确定where中的参数类型。
16、对于联合索引来说,要遵守最左前缀法则
举列来说索引含有字段id、name、school,可以直接用id字段,也可以id、name这样的顺序,但是name;school都无法使用这个索引。所以在创建联合索引的时候一定要注意索引字段顺序,常用的查询字段放在最前面。
- 必要时可以使用force index来强制查询走某个索引
有的时候MySQL优化器采取它认为合适的索引来检索SQL语句,但是可能它所采用的索引并不是我们想要的。这时就可以采用forceindex来强制优化器使用我们制定的索引。
- 注意范围查询语句
对于联合索引来说,如果存在范围查询,比如between、>、
- 关于JOIN优化
LEFT JOIN A表为驱动表,INNER JOIN MySQL会自动找出那个数据少的表作用驱动表,RIGHT JOIN B表为驱动表。
注意:
1)MySQL中没有full join,可以用以下方式来解决:
SELECT user_id, user_project FROM user_base WHERE age = 36 / 2;
2)尽量使用inner join,避免left join:
参与联合查询的表至少为2张表,一般都存在大小之分。如果连接方式是inner join,在没有其他过滤条件的情况下MySQL会自动选择小表作为驱动表,但是left join在驱动表的选择上遵循的是左边驱动右边的原则,即left join左边的表名为驱动表。
3)合理利用索引:
被驱动表的索引字段作为on的限制字段。
4)利用小表去驱动大表:
从原理图能够直观的看出如果能够减少驱动表的话,减少嵌套循环中的循环次数,以减少 IO总量及CPU运算的次数。
5)巧用STRAIGHT_JOIN:
inner join是由MySQL选择驱动表,但是有些特殊情况需要选择另个表作为驱动表,比如有group by、order by等「Using filesort」、「Using temporary」时。STRAIGHT_JOIN来强制连接顺序,在STRAIGHT_JOIN左边的表名就是驱动表,右边则是被驱动表。在使用STRAIGHT_JOIN有个前提条件是该查询是内连接,也就是inner join。其他链接不推荐使用STRAIGHT_JOIN,否则可能造成查询结果不准确。
这个方式有时能减少3倍的时间。
以上MySQL优化方法希望对大家有所帮助!
- 关于JOIN优化
- 注意范围查询语句
- 必要时可以使用force index来强制查询走某个索引
- 避免隐式类型转换
- 避免在where子句中对字段进行表达式操作
- 不建议使用%前缀模糊查询
- 避免在where子句中对字段进行null值判断
- 分段查询
- 使用合理的分页方式以提高分页的效率
- 区分in和exists、not in和not exists
- 不使用ORDER BY RAND()
- 尽量用union all 代替 union
-
- 当只需要一条数据的时候,使用limit 1
- SELECT语句务必指明字段名称