麒麟v10 上部署 TiDB v5.1.2 生产环境优化实践
608
2023-07-06
MySQL如何给字符串字段加索引
假设,你现在维护一个支持邮箱登录的系统,用户表是这么定义的:
create table SUser( ID bigint unsigned primary key, email varchar(64), ... )engine=innodb;登录后复制
由于要使用邮箱登录,所以业务代码中一定会出现类似于这样的语句:
select f1, f2 from SUser where email='xxx';登录后复制
如果 email 这个字段上没有索引,那么这个语句就只能做全表扫描。
1)那我可以在邮箱地址这个字段上面建索引吗?
MySQL 是支持前缀索引的,可以定义字符串的一部分作为索引
2)如果创建索引的语句不指定前缀长度,那么会怎么样?
索引就会包含整个字符串
3)能举例来说明一下吗?
alter table SUser add index index1(email); 或 alter table SUser add index index2(email(6));登录后复制
index1 索引里面,包含了每个记录的整个字符串index2 索引里面,对于每个记录都是只取前 6 个字节
4)这两种不同的定义在数据结构和存储上有什么区别呢?
明显看出email(6) 这个索引结构占用的空间会更小
5)email(6) 这个索引结构有什么缺点吗?
可能会增加额外的记录扫描次数
6)下面这个语句,在这两个索引定义下分别是怎么执行的?
select id,name,email from SUser where email='zhangssxyz@xxx.com';登录后复制登录后复制
index1(即 email 整个字符串的索引结构),执行顺序
从 index1 索引树找到满足索引值是’zhangssxyz@xxx.com’的这条记录,取得 ID2 的值;回表查到主键值是 ID2 的行,判断 email 的值是正确的,将这行记录加入结果集;继续在index索引树的下一条记录,发现已经不满足 email='zhangssxyz@xxx.com’的条件了,循环结束。
这个过程中,只需要回主键索引取一次数据,所以系统认为只扫描了一行。
index2(即 email(6) 索引结构),执行顺序
从 index2 索引树找到满足索引值是’zhangs’的记录,找到的第一个是 ID1;到主键上查到主键值是 ID1 的行,判断出 email 的值不是’zhangssxyz@xxx.com’,这行记录丢弃;取 index2 上刚刚查到的位置的下一条记录,发现仍然是’zhangs’,取出 ID2,再到 ID 索引上取整行然后判断,这次值对了,将这行记录加入结果集;重复上一步,直到在 idxe2 上取到的值不是’zhangs’时,循环结束。
在这个过程中,要回主键索引取 4 次数据,也就是扫描了 4 行。
7)通过上面的对比,能得出什么结论?
使用前缀索引后,可能会导致查询语句读数据的次数变多。
8)前缀索引真的一无是处吗?
如果我们定义的 index2 不是 email(6) 而是 email(7),那满足前缀’zhangss’的记录只有一个,直接就查到 ID2了,只扫描一行就结束了。
9)那么使用前缀索引有哪些注意事项?
长度选择合理
10)当要给字符串创建前缀索引时,我咋知道我该用多长的前缀索引呢?
统计索引上有多少个不同的值来判断要使用多长的前缀。
11)怎样统计索引上有多少个不同的值?
select count(distinct email) as L from SUser;登录后复制
12)拿到了索引对应的有多少个不同的值之后下一步该做什么?
依次选取不同长度的前缀来看这个值select count(distinct left(email,4))as L4, count(distinct left(email,5))as L5, count(distinct left(email,6))as L6, count(distinct left(email,7))as L7, from SUser;登录后复制然后,在 L4~L7 中,找出第一个不小于 L * 95% 的值,说明通过这个索引可以找出百分之95以上的数据。
13)前缀索引对覆盖索引的影响是什么?
下面这个 SQL 语句:
select id,email from SUser where email='zhangssxyz@xxx.com';登录后复制
与前面例子中的 SQL 语句
select id,name,email from SUser where email='zhangssxyz@xxx.com';登录后复制登录后复制
相比,第一个语句只要求返回 id 和 email 字段。
如果使用 index1(即 email 整个字符串的索引结构)的话,查email的话就能得到ID,那就不用回表了,这个就是覆盖索引。用 index2(即 email(6) 索引结构)的话,就不得不回到 ID 索引再去判断 email 字段的值。
14)那我把index2 的定义修改为 email(18) 的前缀索引不就行了?
这个18是你自己定义的,系统不知道18这个长度是否已经大于我的email长度,所以它还是会回表去查一下验证。
总而言之:使用前缀索引就用不上覆盖索引对查询性能的优化了
针对类似于邮箱这样的字段,使用前缀索引可能会产生不错的效果。但是,遇到身份证这种前缀的区分度不够好的情况时,我们要怎么办呢?
索引选取的要更长一些。但是所以越长的话,占的磁盘空间更大,相同的一页能放下的索引值就变少了,反而会影响查询效率。
16)如果我们能够确定业务需求里面只有按照身份证进行等值查询的需求,还有没有别的处理方法呢?
既然正过来相同的多,那我就把它倒过来存。查询时候这样查select field_list from t where id_card = reverse('input_id_card_string');登录后复制使用 的时候用count(distinct) 方法去做个验证
使用 hash 字段。在表上再创建一个整数字段,来保存身份证的校验码,同时在这个字段上创建索引。alter table t add id_card_crc int unsigned, add index(id_card_crc);登录后复制新记录插入时必须使用 crc32() 函数生成校验码,并填入新字段中。由于校验码可能存在冲突,也就是说两个不同的身份证号通过 crc32() 函数得到的结果可能是相同的,所以你的查询语句 where 部分要判断 id_card 的值是否精确相同。select field_list from t where id_card_crc=crc32('input_id_card_string') and id_card='input_id_card_string'登录后复制这样,索引的长度变成了 4 个字节(int类型),比原来小了很多
17)使用倒序存储和使用 hash 字段这两种方法有什么异同点?
相同点:都不支持范围查询倒序存储的字段上创建的索引是按照倒序字符串的方式排序的,已经没有办法利用索引方式查出身份证号码在[ID_X, ID_Y]的所有市民了。同样地,hash 字段的方式也只能支持等值查询。区别从占用的额外空间来看,倒序存储方式在主键索引上,不会消耗额外的存储空间,而 hash 字段方法需要增加一个字段。当然,倒序存储方式使用 4 个字节的前缀长度应该是不够的,如果再长一点,这个消耗跟额外这个 hash 字段也差不多抵消了。在 CPU 消耗方面,倒序方式每次写和读的时候,都需要额外调用一次 reverse 函数,而 hash 字段的方式需要额外调用一次 crc32() 函数。以仅考虑这两个函数的计算复杂度为前提,reverse 函数对 CPU 资源的额外消耗将较少。就查询性能而言,采用哈希字段方式的查询更具可靠性。虽然crc32算法不可避免地存在冲突的风险,但这种风险极其微小,因此我们可以认为查询时平均扫描行数接近于1。使用倒序存储方式仍然需要使用前缀索引来进行扫描,因此会增加扫描的行数。
案例:如果你在维护一个学校的学生信息数据库,学生登录名的统一格式是”学号 @gmail.com", 而学号的规则是:十五位的数字,其中前三位是所在城市编号、第四到第六位是学校编号、第七位到第十位是入学年份、最后五位是顺序编号。
学生必须输入正确的登录名和密码,方可继续使用系统。如果只考虑登录验证这个行为,你会如何为登录名设计索引?
如果一个学校每年预计2万新生,50年才100万记录,如果直接使用全字段索引,可以节省多少存储空间?。除非遇到超大规模数据,否则不需要使用后两种方法,从而避免了开发转换和限制风险在实际操作中,只需对所有字段进行索引,一个学校的数据库数据量和查询负担不会变得很大。 如果单从优化数据表的角度: \1. 后缀@gmail可以单独一个字段来存,或者用业务代码来保证, \2. 城市编号和学校编号估计也不会变,也可以用业务代码来配置 \3. 然后直接存年份和顺序编号就行了,这个字段可以全字段索引
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。