字节客增慢 SQL 治理体系

原创 精选
数据库 SQL Server
慢 SQL 即执行时间超过 long_query_time 设定阈值的 SQL 语句,可通过 select @@long_query_time 查看数据库具体的慢查询阈值。另外慢 SQL 不仅仅包括 select 语句,也包括 delete,insert 等 DML 语句。

作者 | 房厂

项目概览

背景

慢 SQL 即执行时间超过 long_query_time 设定阈值的 SQL 语句,可通过 select @@long_query_time 查看数据库具体的慢查询阈值。另外慢 SQL 不仅仅包括 select 语句,也包括 delete,insert 等 DML 语句。

慢查询 SQL 的危害包括:

  • 性能: 慢 SQL 的执行时间过长,则会导致用户的等待时间过长,直接影响用户体验;
  • 稳定性: 当 db 出现慢查询,一旦有其他的 DDL 操作,可能会造成整个数据库的等待;另一方面,慢 SQL 会拖垮数据库,导致正常执行的 SQL 也会变成慢 SQL。在字节的线上事故管理平台搜索慢 SQL 关键字可以看到很多由于慢 SQL 导致的事故,危害性较大。

成果

发布慢 SQL 月报,整理最佳实践,头部泳道推动改进等取得了慢 SQL 数下降了近 50%,慢 SQL 周运行次数下降了一个数量级的成效;

慢 SQL 配置&告警订阅持续配置率从 18% 提升到 70% 左右,持续优化中。

名词解释

  • RDS:Relational Database Service,即字节关系型数据库服务。提供的关系数据库服务,使用的数据库产品主要以开源 MySQL 数据库为主。字节云关系型数据库服务(RDS)专注于为业务提供稳定可靠,弹性伸缩的在线数据库服务。
  • Mars:客增性能平台名称。
  • 风神 Aeolus:字节自研敏捷 BI 平台,提供灵活易用的数据查询,高效美观的报表制作,与丰富多元的数据内容。

设计方案

1. 架构图

2. 核心功能

2.1 全面的慢 SQL 度量看板

以字节 RDS 平台数据库的慢 SQL 数据为依据,量化管理客增每日/每周/每月的慢 SQL 数量&运行次数。按照度量看板数据推动大家及时改进存量的慢 SQL,降低数据库质量风险。例如周维度的运行次数 & 慢 SQL 条数趋势图如下所示:

2.2 慢 SQL 治理体系

2.2.1 rds 慢 SQL 阈值配置自动化管理

字节关系型数据库平台-RDS 提供慢 SQL 阈值配置的功能:

  • 当 SQL 执行时间超过该阈值后,会被自动 kill 终止运行,相当于慢 SQL 的容灾配置(如果一条 SQL 执行了 3 个月还在运行,结果不敢想象)

慢 SQL 阈值配置自动化管理是解决业务关联的数据库全部配置了慢 SQL 阈值信息。该部分通过线上定时巡检来实现,流程如下:

2.2.2 Mars-慢 SQL 治理平台

在客增质量工作台搭建 Mars-客增慢 SQL 治理 Web 页面,展示相关业务的慢 SQL 现状以及排期跟进修复情况,目的是让业务同学更清晰快速了解当前业务相关,提供问题修复效率,方案如下:

慢 SQL 跟进页面:

2.2.3 慢 SQL 风险评估模型-慢 SQL 分

当业务线存在较多慢 SQL 时,如何精准且合理的分析出哪些慢 SQL 风险最高?

我们基于关系型数据库的 Quert_time,Lock_time,Rows_sent,Rows_affected,Bytes_sent 等维度建立客增的慢 SQL 风险评估模型,给每条慢 SQL & 每个数据库打分,按照慢 SQL 分来排序,分数最高的慢 SQL 风险最高。

慢 SQL 模型如下:

2.3 慢 SQL-CI 流水线准入/准出卡口建设

基于 ByteCycle(ByteCycle 字节统一能效中台)开发慢 SQL 原子节点,提供慢 SQL 相关的卡点能力。bytecycle 基于 psm 维度来构建持续集成流水线,通过提供慢 SQL 原子节点,可以方便用户插拔式使用。CI 卡点能够提供大家对慢 SQL 的重视程度以及提高慢 SQL 的改进效率。

2.4 慢 SQL 监控&告警订阅

目前提供慢 SQL 月报,每日慢 SQL 相关问题修复提醒,sqll kill lark 告警卡片等维度的信息展示和触发。相关样式如下:

慢 SQL 月报

每日慢 SQL 问题修复提醒

配置 db 慢查询阈值后,如果超过该阈值则该语句会被 db 自动 kill,订阅后会自动将获取到的 kill 信息发送到对应群中

3. Code 方案

RDS 元信息获取实现方案

数据表设计

create table cg_rds_external
(
id int unsigned auto_increment primary key comment 'id',
db_name varchar(100) default '' null comment 'db名字',
owners varchar(100) default '' not null comment 'db owners',
region varchar(100) default '' not null comment 'db部署的region',
proxy_port_master varchar(100) default '' not null comment 'master节点的port',
proxy_port_slave varchar(100) default '' not null comment 'slave节点的port',
sync_time datetime default CURRENT_TIMESTAMP not null on update CURRENT_TIMESTAMP comment '数据同步时间'
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 comment 'rds db额外信息';


create table cg_rds_slow_query_config
(
id int unsigned auto_increment primary key comment 'id',
config_id int null comment '慢查询配置id',
db_name varchar(255) default '' null comment 'db名字',
region varchar(100) default '' not null comment 'db部署的region',
port varchar(100) default '' not null comment '规则中的端口',
db_role varchar(100) default '' not null comment 'master or slave',
max_query_time int null comment '超时阈值,单位是秒',
creator varchar(100) default '' null comment '规则创建人',
create_time varchar(100) default '' null comment '规则创建时间',
sync_time datetime default CURRENT_TIMESTAMP not null on update CURRENT_TIMESTAMP comment '数据同步时间'
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 comment 'rds慢查询规则配置信息';

create table cg_rds_db_alarm_config
(
id int unsigned auto_increment primary key comment 'id',
region varchar(100) default '' not null comment 'db部署的region',
alarm_id int null comment 'alarm 规则id',
db_name varchar(255) default '' null comment 'db名字',
type varchar(100) default '' not null comment 'alarm type,例如lark',
group_id varchar(100) default '' not null comment 'lark id',
create_time varchar(100) default '' not null comment '规则创建/更新时间',
owner varchar(100) default '' not null comment 'alarm创建人',
sync_time datetime default CURRENT_TIMESTAMP not null on update CURRENT_TIMESTAMP comment '数据同步时间'
)ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 comment 'rds alarm配置表';

慢 SQL 查询详情落库

数据表

create table cg_slow_query_detail_info
(
id int unsigned auto_increment primary key comment 'id',
db_name varchar(255) default '' null comment 'db 名',
db_region varchar(255) default '' null comment 'db的region',
fingerprint_md5 varchar(255) default '' null comment '慢sql标识',
begin_time datetime DEFAULT CURRENT_TIMESTAMP null comment '慢sql的开始执行时间',
max_run_time varchar(255) default '' null comment 'sql执行的最大耗时',
run_count int default 0 null comment 'sql执行次数',
psm_name varchar(255) default '' null comment '发起sql的psm',
avg_query_time varchar(255) default '' null comment '平均耗时',
rds_address varchar(255) default '' null comment '执行sql的rds主机ip:port',
psm_host varchar(255) default '' null comment '发起查询请求的主机ip',
sync_time datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '数据同步时间'
) ENGINE = InnoDB
DEFAULT CHARSET = utf8mb4 comment '客增慢sql记录';

慢 SQL 被 kill 的详情信息获取方案

数据表

create table cg_kill_sql_detail_info
(
id int unsigned auto_increment primary key comment 'id',
db_name varchar(255) default '' null comment 'db 名',
db_region varchar(255) default '' null comment 'db的region',
db_role varchar(255) default '' null comment 'db节点: master slave',
begin_time datetime DEFAULT CURRENT_TIMESTAMP null comment '被kill的sql 执行开始时间',
psm_name varchar(255) default '' null comment '发起sql的psm',
sql_detail varchar(2000) default '' null comment 'sql详情',
db_table_name varchar(255) default '' null comment '该sql的表名,如果多个表,只取第一个',
sync_time datetime NOT NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '数据同步时间'
) ENGINE = InnoDB
DEFAULT CHARSET = utf8mb4 comment 'rds被kill的慢sql数据统计';

Metrics 监控规则

rds 报警订阅的监控只能发现 rds 上执行的 SQL 数据,不能实时发现慢接口。故推荐使用 dbatman 的 metrics 打点来完成慢 SQL 的监控告警工作。

$key = "max:toutiao.ttds.dbatman.latency.max{db=sales_manage,port=*,host=*,dc=*}"
$value = max(q($key, "3m", "1m"))/1000
warn = $value>50
runEvery=1

4. 慢 SQL 治理最佳实践与标准制定

慢 SQL 治理优化基本可分为如下 3 类:

  • 优化 shcema
  • 优化索引,尽可能构建三星索引
  • 优化查询,合理的设计查询

相关细则如下所示:

责任编辑:未丽燕 来源: 字节跳动技术团队
相关推荐

2021-08-03 17:15:19

SQL 慢 SQL

2022-02-28 08:09:14

sql分页查询

2022-01-10 09:44:41

MySQL数据库开发

2023-06-05 07:24:46

SQL治理防御体系

2022-11-10 20:43:57

数据治理数据湖

2020-08-31 16:19:26

IT治理建立绩效体系

2023-11-24 07:10:44

数据治理PCG

2023-04-10 07:34:30

2022-10-21 10:40:08

携程酒店MySQL慢查询

2023-01-10 09:08:53

埋点数据数据处理

2021-07-30 07:28:16

SQL优化日志

2022-10-27 09:42:22

数据库SQL

2022-10-13 09:38:01

数据建设

2022-05-13 11:24:09

数据美团

2022-02-07 19:17:56

SQL系统MySQL

2022-07-14 14:46:51

数据库SQL系统设计

2021-09-06 11:15:05

数据治理字节跳动埋点

2020-05-27 10:13:27

网络安全技术

2010-09-28 16:14:14

SQL Server自

2023-09-01 07:31:24

点赞
收藏

51CTO技术栈公众号