Bytebase 开源审核工具让你爱上 TiDB

保证tidb运行，首先要缩小数据库容量。保证每个sql只需要查询他当前需要查询的内容。尽量取更少的数据，节约单个tikv的io。

使用分页、分表、分区等技术，控制单表的数据量和查询范围 这种就是保证读取的少

使用缓存、读写分离、集群等技术，提高并发处理能力和可用性

根据业务特点和数据类型，设计合理的数据模型和架构

定期清理过期或无用的数据，避免数据膨胀 只保留一个月

存储引擎、索引等，减少数据访问和存储的开销--重要的是别用varchar。如果一定要用varchar保持在100以内。 数据库大了不好处理。varchar最容易使数据库增大。utfmb4是一个汉字用四个字节存储的。

以上所有工作都是为了保证数据不膨胀太大。之前***数据库超过100t就无法维护了就是这个原因。mysql不能超过1t。虽然说tidb的容量可以无限扩产，但查询有代价。表太大了性能就差。

工作流程：

dev环境接入审核机制。

每个sql有审核，审核有据可查。多人负责能找到责任人。

对于ddl表单，是查看一些表设计是否符合规范。可以自己建立一套sql审核体系。

对于dml保证有据可查是谁改的。改错了可以快速回退。

对于ddl的变动 dev--》test--〉stg--》prod

执行时间限制 dev2秒--》test 2秒--〉stg 2秒--》prod 10秒

把运行卡顿的sql拒绝在门外。你可以限制执行时间。也可以记录慢sql让开发改造。在没有修复慢sql前不准上线。因为每到一个新的环境执行的成本就越高。其实可以做物理上的限制来要求开发的sql性能要好。比如dev环境2个核心的1tidb，1tikv，test环境4核心1tidb，1tikv，stg8核心2tidb，3tikv

具体的步骤：

根据我的搜索结果，bytebase是一个数据库管理平台，可以帮助你管理mysql的架构变更、备份、记录变更历史等。它也支持sql审核、sql建议、sql编辑器、gitops工作流等功能，可以提高你的数据库开发和维护效率。

如果你想使用bytebase优化mysql的字段类型、字符集、存储引擎、索引等，你可以参考以下的步骤：

在bytebase中创建一个mysql数据库实例，并连接到你的数据库服务器

在bytebase中创建一个数据库项目，并选择你要优化的数据库

在bytebase中创建一个变更请求（migration request），并编写sql语句来修改你的表结构。

在bytebase中提交变更请求，并等待sql审核和执行

在bytebase中查看变更请求的执行结果和变更历史

避免使用不走索引的查询条件，如模糊查询、in、or、null等，或者使用union、exists、between等替代。

避免在where条件中使用表达式或函数，避免使用text、blob等大字段

使用explain分析线上慢的查询执行计划，优化sql语句的结构和逻辑

这个可以做成自动化的。我分另外一期讲。

剩下的就是指定sql审核规范。这个可以通过bytebase来限制。

遵循一些命名、建表、索引等规范，保证数据库的可维护性和可扩展性

一、建表规约

1.【强制】表达是与否概念的字段，必须使用 is_xxx的方式命名，数据类型是 unsigned tinyint（ 1表示是，0表示否）。说明：任何字段如果为非负数，必须是 unsigned。正例：表达逻辑删除的字段名 is_deleted，1 表示删除，0 表示未删除。

2.【强制】表名、字段名必须使用小写字母或数字，禁止出现数字开头，禁止两个下划线中间只出现数字。数据库字段名的修改代价很大，因为无法进行预发布，所以字段名称需要慎重考虑。说明：MySQL 在 Windows 下不区分大小写，但在 Linux 下默认是区分大小写。因此，数据库名、表名、字段名，都不允许出现任何大写字母，避免节外生枝。正例：aliyun_admin，rdc_config，level3_name反例：AliyunAdmin，rdcConfig，level_3_name

3.【强制】表名不使用复数名词。说明：表名应该仅仅表示表里面的实体内容，不应该表示实体数量，对应于 DO类名也是单数形式，符合表达习惯。

4.【强制】禁用保留字，如 desc、range、match、delayed等，请参考 MySQL官方保留字。

5.【强制】主键索引名为 pk_字段名；唯一索引名为 uk_字段名；普通索引名则为 idx_字段名。说明：pk_ 即 primary key；uk_ 即 unique key；idx_ 即 index的简称。

6.【强制】小数类型为 decimal，禁止使用 float和 double。说明：float和 double在存储的时候，存在精度损失的问题，很可能在值的比较时，得到不正确的结果。如果存储的数据范围超过 decimal的范围，建议将数据拆成整数和小数分开存储。

7.【强制】如果存储的字符串长度几乎相等，使用 char定长字符串类型。

8.【强制】varchar是可变长字符串，不预先分配存储空间，长度不要超过 5000，如果存储长度大于此值，定义字段类型为text，独立出来一张表，用主键来对应，避免影响其它字段索引效率。

9.【强制】表必备三字段：id, gmt_create, gmt_modified。说明：其中 id必为主键，类型为 unsigned bigint、单表时自增、步长为 1。gmt_create,gmt_modified的类型均为 date_time类型，前者现在时表示主动创建，后者过去分词表示被动更新。

10.【推荐】表的命名最好是加上“业务名称_表的作用”。正例：alipay_task / force_project / trade_config

11.【推荐】库名与应用名称尽量一致。

12.【推荐】如果修改字段含义或对字段表示的状态追加时，需要及时更新字段注释。

13.【推荐】字段允许适当冗余，以提高查询性能，但必须考虑数据一致。冗余字段应遵循：1）不是频繁修改的字段。2）不是 varchar超长字段，更不能是 text字段。正例：商品类目名称使用频率高，字段长度短，名称基本一成不变，可在相关联的表中冗余存储类目名称，避免关联查询。

14.【推荐】单表行数超过 500万行或者单表容量超过 2GB，才推荐进行分库分表。说明：如果预计三年后的数据量根本达不到这个级别，请不要在创建表时就分库分表。

15. 【参考】合适的字符存储长度，不但节约数据库表空间、节约索引存储，更重要的是提升检索速度。正例：如下表，其中无符号值可以避免误存负数，且扩大了表示范围。对象年龄区间类型字节表示范围

二、索引规约

1.【强制】业务上具有唯一特性的字段，即使是多个字段的组合，也必须建成唯一索引。说明：不要以为唯一索引影响了insert速度，这个速度损耗可以忽略，但提高查找速度是明显的；另外，即使在应用层做了非常完善的校验控制，只要没有唯一索引，根据墨菲定律，必然有脏数据产生。

2.【强制】超过三个表禁止join。需要join的字段，数据类型必须绝对一致；多表关联查询时，保证被关联的字段需要有索引。说明：即使双表join也要注意表索引、SQL性能。

3.【强制】在varchar字段上建立索引时，必须指定索引长度，没必要对全字段建立索引，根据实际文本区分度决定索引长度即可。说明：索引的长度与区分度是一对矛盾体，一般对字符串类型数据，长度为20的索引，区分度会高达90%以上，可以使用count(distinctleft(列名, 索引长度))/count(*)的区分度来确定。

4.【强制】页面搜索严禁左模糊或者全模糊，如果需要请走搜索引擎来解决。说明：索引文件具有B-Tree的最左前缀匹配特性，如果左边的值未确定，那么无法使用此索引。

5.【推荐】如果有orderby的场景，请注意利用索引的有序性。orderby最后的字段是组合索引的一部分，并且放在索引组合顺序的最后，避免出现file_sort的情

6.【推荐】利用覆盖索引来进行查询操作，避免回表。说明：如果一本书需要知道第11章是什么标题，会翻开第11章对应的那一页吗？目录浏览一下就好，这个目录就是起到覆盖索引的作用。正例：能够建立索引的种类：主键索引、唯一索引、普通索引，而覆盖索引是一种查询的一种效果，用explain的结果，extra列会出现：usingindex。

7.【推荐】利用延迟关联或者子查询优化超多分页场景。说明：MySQL并不是跳过offset行，而是取offset+N行，然后返回放弃前offset行，返回N行，那当offset特别大的时候，效率就非常的低下，要么控制返回的总页数，要么对超过特定阈值的页数进行SQL改写。正例：先快速定位需要获取的id段，然后再关联：SELECT a.* FROM 表1 a, (select id from 表1 where 条件LIMIT 100000,20 ) b where a.id=b.id

8.【推荐】SQL性能优化的目标：至少要达到range级别，要求是ref级别，如果可以是consts最好。说明：1）consts单表中最多只有一个匹配行（主键或者唯一索引），在优化阶段即可读取到数据。2）ref指的是使用普通的索引（normal index）。3）range对索引进行范围检索。反例：explain表的结果，type=index，索引物理文件全扫描，速度非常慢，这个index级别比较range还低，与全表扫描是小巫见大巫。

10.【推荐】防止因字段类型不同造成的隐式转换，导致索引失效。

11.【参考】创建索引时避免有如下极端误解：1）宁滥勿缺。认为一个查询就需要建一个索引。2）宁缺勿滥。认为索引会消耗空间、严重拖慢更新和新增速度。3）抵制惟一索引。认为业务的惟一性一律需要在应用层通过“先查后插”方式解决。

三、SQL语句

1.【强制】不要使用count(列名)或count(常量)来替代count()，count()是SQL92定义的标准统计行数的语法，跟数据库无关，跟NULL和非NULL无关。说明：count(*)会统计值为NULL的行，而count(列名)不会统计此列为NULL值的行。

2.【强制】count(distinct col)计算该列除NULL之外的不重复行数，注意count(distinct col1, col2)如果其中一列全为NULL，那么即使另一列有不同的值，也返回为0。

3.【强制】当某一列的值全是NULL时，count(col)的返回结果为0，但sum(col)的返回结果为NULL，因此使用sum()时需注意NPE问题。正例：可以使用如下方式来避免sum的NPE问题：

SELECT IF(ISNULL(SUM(g)),0,SUM(g)) FROM table;

4.【强制】使用ISNULL()来判断是否为NULL值。说明：NULL与任何值的直接比较都为NULL。1）NULL<>NULL的返回结果是NULL，而不是false。2）NULL=NULL的返回结果是NULL，而不是true。3）NULL<>1的返回结果是NULL，而不是true。

5.【强制】在代码中写分页查询逻辑时，若count为0应直接返回，避免执行后面的分页语句。

6.【强制】不得使用外键与级联，一切外键概念必须在应用层解决。说明：以学生和成绩的关系为例，学生表中的student_id是主键，那么成绩表中的student_id则为外键。如果更新学生表中的student_id，同时触发成绩表中的student_id更新，即为级联更新。外键与级联更新适用于单机低并发，不适合分布式、高并发集群；级联更新是强阻塞，存在数据库更新风暴的风险；外键影响数据库的插入速度。

7.【强制】禁止使用存储过程，存储过程难以调试和扩展，更没有移植性。

8.【强制】数据订正时，删除和修改记录时，要先select，避免出现误删除，确认无误才能执行更新语句。

9.【推荐】in操作能避免则避免，若实在避免不了，需要仔细评估in后边的集合元素数量，控制在1000个之内。

10.【参考】如果有全球化需要，所有的字符存储与表示，均以utf-8编码，注意字符统计函数的区别。说明：SELECT LENGTH(“轻松工作”)；返回为12SELECT CHARACTER_LENGTH(“轻松工作”)；返回为4如果需要存储表情，那么选择utfmb4来进行存储，注意它与utf-8编码的区别。

11.【参考】TRUNCATETABLE比DELETE速度快，且使用的系统和事务日志资源少，但TRUNCATE无事务且不触发trigger，有可能造成事故，故不建议在开发代码中使用此语句。说明：TRUNCATETABLE在功能上与不带WHERE子句的DELETE语句相同。

四、ORM映射

1.【强制】在表查询中，一律不要使用* 作为查询的字段列表，需要哪些字段必须明确写明。说明：1）增加查询分析器解析成本。2）增减字段容易与resultMap配置不一致。

2.【强制】POJO类的布尔属性不能加is，而数据库字段必须加is_，要求在resultMap中进行字段与属性之间的映射。说明：参见定义POJO类以及数据库字段定义规定，在其中增加映射，是必须的。在MyBatis Generator生成的代码中，需要进行对应的修改。

3.【强制】不要用resultClass当返回参数，即使所有类属性名与数据库字段一一对应，也需要定义；反过来，每一个表也必然有一个与之对应。说明：配置映射关系，使字段与DO类解耦，方便维护。

4.【强制】sql.xml配置参数使用：#{}，#param# 不要使用${} 此种方式容易出现SQL注入。

5.【强制】iBATIS自带的queryForList(StringstatementName,intstart,intsize)不推荐使用。说明：其实现方式是在数据库取到statementName对应的SQL语句的所有记录，再通过subList取start,size的子集合。正例：Map