DBA很忙—MySQL的性能优化及自动化运维实践

找不到分类 evilven 6个月前 (03-09) 70次浏览 未收录 0个评论 扫描二维码

DBA的日常工作

DBA很忙—MySQL的性能优化及自动化运维实践

首先,我们来看看DBA的具体工作,我觉得 DBA 真的很忙:备份和恢复、监控状态、集群搭建与扩容、数据迁移和高可用,这是我们 DBA 的功能。

了解这些功能以后要对体系结构有更加深入的了解,你不知道怎么处理这些故障和投诉的事情。

所以我们要去了解缓存/线程、SQL优化、存储引擎以及SQL审计以及锁与实务、体系结构更深一点,就去研究内核原理和源码定制,DBA有这么多工作,他们就像一个小怪兽一样等着我们去解决。

今天我站在更加全面的角度跟大家分享一下我觉得我在这一年多DBA工作当中的经验,希望可以给大家带来启发和帮助。

DBA很忙—MySQL的性能优化及自动化运维实践

1. MySQL的性能优化

性能优化就是我想让我的MySQL跑的更快、更顺畅。在我们开始MySQL性能优化之前,我想提出MySQL性能优化的三个关键点。Why?What?How?为什么我们要做性能优化?

DBA很忙—MySQL的性能优化及自动化运维实践

我们的运维来反映我们的数据库,正常情况下是1秒,后来变成10秒,我们就要启动优化的动作。原本他的访问时间是1秒,我们想优化成0.01秒就要开启优化。

第二就是What?哪里是导致我们数据库性能变差的原因一。需要找到这个关键点。当我们找到这个问题以后,我们就需要有的放矢地进行优化。MySQL优化之前我们要明确的3W关键点。

DBA很忙—MySQL的性能优化及自动化运维实践

1.1 MySQL优化基本流程

其实对于开展MySQL的优化有这样的一个基本流程。

  • 第一步我们首先要登陆到操作系统,通过操作系统的命令,比如说操作系统的基本命令,去看我们操作系统有什么资源的占用率比较高,就是出现了资源短板,短板的意思就是这个资源的占用率或者是使用率特别高,我们要密切关注。

  • 比如说像CPU的负载特别高,已经超过了我们的核数,或者是使用率特别高,已经达到了80%以上,这就引起我们的关注了。

    确定这个短板之后,我们就要确认哪个进程使用我们这个资源,使得它的使用率或者是占用率特别高。

  • 一般情况下跟我们相关就是MySQL这一层,比方说使用CPU的70%以上,我们就要去检查一下这个 MySQL 出现什么问题。

  • 再进一步往里推进,如果我们发现MySQL里面是执行某一条大MySQL的时候,发现整个服务器或者是整个数据库就在那里,可能就是语句问题。

  • 我们就要进一步通过 MySQL 的监控或者是日志信息去排查MySQL的问题。这个是很重要的发现哪个资源出现问题然后进行排查。

我们登陆系统就不会发现有CPU、IO、网络等等都很正常。在这种情况下怎么办?在这种情况下可以分三种判断。

  • 可能我们登陆MySQL的时候整个系统就在那里了,这个情况还是操作系统的问题,我们需要通过操作系统去查是哪个资源的问题。

  • 第二就是数据库实例问题,数据库实例问题跟数据库配置参数相关,也就是说我们配置参数可能存在一些不合理的设置需要我们去优化。

  • 第三就是会话,我们登陆MySQL里面,一开始很正常,后来我们发现这个实例慢下来了,可能就是MySQL语句有问题,我们需要看MySQL的执行计划到具体哪一步比较慢,拖慢了整个流程。

    我们发现数据库性能出现问题,都可以沿着这个流程走下去,从而定位出问题。

1.2 优化的几个关键点

DBA很忙—MySQL的性能优化及自动化运维实践

我们通过刚才的基本流程,可以确定出 MySQL 需要优化的几个关键点。

  • 第一是应用访问的优化,因为有应用需要访问我们的数据库,有请求的发送、数据的存储和网络的交互等等,会导致数据库性能会发生比较慢的地方。

  • 二是服务器硬件选型,不知道大家DBA对服务器有没有自主权,如果有自主权的情况下,我是觉得我们应该按照 MySQL 的特性来选择服务器的硬件。

    比方说我们可能要考虑到数据和日志的存储机理不同,要选择不同的类型去优化它。

  • 第三个就是操作系统的优化。就是我们部署配置数据库之前,要对操作系统有什么优化?能够让我们的数据库有优化。

  • 最后一个是数据库优化。数据库优化过程其实是一个全局角度优化的过程,不仅仅是是针对数据库本身优化的流程。

1.2.1 应用访问优化

DBA很忙—MySQL的性能优化及自动化运维实践

我们根据每个关键点稍微开展一下。比方说应用访问的优化:

  • 首先第一步就是减少数据的访问。因为减少数据的访问其实就是减少磁盘的访问。我们知道数据访问磁盘获得数据的速度很慢,如果我们是器械磁盘,因为器械磁盘是通过器械旋转来获得数据。

    我们应该把活跃数据和内存数据放在内存里面,这样可以使我们的数据库性能提升1-1000倍。它的优化成本很低。

  • 第二步是减少返回更多的数据,其实减少返回更多的数据终结就是减少了网络的传输,有很多大的系统,网络传输是一个很重要的瓶颈。

    假设我们的数据库服务器跟我们应用服务器的距离是20公里的话,因为光线数据库是20公里,一个光的请求是0.2毫秒。如果我们减少更少的数据请求的话,那这个时间就会变短很多。所以说如果我们发现数据库的性能有问题,我们可以去看是否网络上存在问题或者是通过P命令看时间是否会变得长。

  • 第三是减少交互次数,每个交互假设还是按照20公里来说,一个交互的时间就是0.2毫秒,2个交互就是0.4毫秒。如果有1万个操作的话,就是1万乘0.4毫秒,那就变得整个交互时间变短了很多。

    但是也有它的复杂性或者是不宜扩展的局面。从应用层就降低了优化。这个成本也是很低的。

  • 服务器硬件选型。我们公司的DBA对于服务器的应用选型没有太多的话语权,移动公司都是集团公司通过集采来选择的。在采集的时候我们不可能规定这几台服务器是用在数据库,这几个数据库用在服务系统。

    所以我们在选择服务器选型时候DBA是没有办法参与进去的。这个大家可以看一下,我们采用的服务器是惠普的DL360G9,CPU:是2核×e5-2650V4,内存是8×32G,硬盘是6×1.2TSAS,网卡是4×10GE+4×1GE+1IPMI。这是我们移动云的一些服务器的选型。

    这里特别说一下,如果我们DBA对于服务器有自主权的话,我们可以把数据放到SSD盘,把日志放到SAS上,这就是服务器硬件选型需要主要的地方。

DBA很忙—MySQL的性能优化及自动化运维实践

1.2.2 操作系统层面的优化

  • 第一就是毋庸置疑,我们推荐使用Linux操作系统,一些开源主流的是我们做的。像一些商业版Linux这些就是我们在用的。

  • 要使用这个SWAP值,如果要去做的话,我们应该最大程度去使用物理,我们尽量不去使用虚拟内存,而使用物理内存。

    因为物理内存的访问速度肯定比去访问磁盘要快得多。所以我们就把这个值设成了10。有的同学可能就会说为什么不把这个值设成0,就直接全部访问物理内存就好了。

    如果把它设为0的话,可能就会出现内存溢出的现象,就是OOM。这不是我们DBA想看到的情况。所以我们一般把这个值设成10。

  • 第三就是关闭NUMA特性,我们公司一般是单实例的情况,所以这个时候NUMA的特性要关注,NUMA特性就是假设我们一个服务器上有两个CPU,分布在服务器左右两边,同时有四块内存,把同一侧CPU作为一个NUMA节点,就是在物理位置分布同一侧CPU访问同一侧内存,距离比较近,速度更快。

    我们尽量同一侧CPU访问同一侧内存。这跟我们数据库的特性是相违背的。因为我们数据库希望它一般部署了数据库的服务器就不会布其他的应用系统资源了。

    所以我们希望数据库是独占数据库资源。所以在这种情况下我们要尽量关闭这个NUMA特性。

  • 第四就是网卡优化。我们采用多个物理网卡通过做bond绑定成虚拟网卡,就是一些双网卡做成Bond或者调整网络参数。

  • 第五就是磁盘调度设置,一般会有几个算法,比如说NOOP算法、CFQ或者是Deadline算法,比如说这NOOP算法用在我们数据库上有什么问题?就会有饿死读操作的方式存在,如果两个写操作,第一个写操作进来不需要等这个结束以后第二个写操作就可以开展了。

    如果是读操作的话,第二个读操作就一定要在在前一个完成。如果有几毫秒的时间里面,进来一堆写操作,后面的独操作就会饿死的,这个不符合我们数据库算法调动的方式。

  • 另外就是CFQ算法,CFQ算法不适合我们的数据库服务器,MySQL是单操作服务器。所以我们这个算法也不适合我们使用。一般情况下数据服务器会使用Deadline的算法,程序会调用这个时候的IO请求去解决这个请求。这种Deadline算法更加适合数据库,因为这个Deadline的算法更加适合。

  • 最后一个是文件系统的推荐,我们移动云的数据库系统就是Xfs或者是Ext4或者是Noatime或者是nobarrier,这些都会有影响。这是数据库系统的优化。

1.2.3 数据库实例的优化

DBA很忙—MySQL的性能优化及自动化运维实践

我列了几个参数我们在标准化的时候需要规范和配置的。这里不一一揭示了。这些参数大家都可以找到,重点看一下。其实这些参数很重要。因为它决定了我们实例的性能。某一些参数配置不合理,我们实例的性能就会受到很大的影响。

1.2.4 SQL语句的优化

DBA很忙—MySQL的性能优化及自动化运维实践

这里有编写高效SQL语句的原则,这个原则我们DBA要知道,DBA要通知业务方的研发,让他们也知道。有很多业务侧进来都是业务写的,他没有经验的话,就会写出一些有问题的语句,所以最后就变成我们DBA要去严查。所以最开始要把这些思想贯彻给业务研发,让他们按照这个流程去编写SQL的设计。

1.3 索引的设计

DBA很忙—MySQL的性能优化及自动化运维实践

这里说的是覆盖索引,比如说有了这个覆盖索引我们的查询,查询的字段都是在这个索引内,还有我们查询的后面的字段也是索引,还有我们一些排序位置也是覆盖索引,就是这一系列全部都是中了索引的情况所以就叫覆盖索引。也列举了一些不能使用索引的情况。比如说不要给选择率低的字段选择索引,如果通过索引扫描记录数超过30%就变成全表扫描了。还有Like额查询条件列最左以通配符%开始,两个独立索引,其中一个用于索引一个用于排序。以上就是对于MySQL性能优化的步骤。

2. 自动化运维实践

所谓自动化运维实践就是相当于给我们DBA提供小工具或者是小帮手,帮助我们打开,而不是他们纠缠着我们。我们移动云自动化运维实践。我们移动云的体量就是几百上千台数据库的体量,如果我们面对几台或者是十几台的数据库的时候,有没有这个自动化其实无所谓,因为你做自动化反而更加麻烦。如果你已经有大的量的时候就是平台化就是在自动化的数据库上进行拓展。

  • 就是我们在部署安装的时候要定一些标准化安装部署。我们的目录方案,版本以及部署流程有标准文档去遵循。比如说一次部署打包多次应用,我们需要再一个节点上打包标准包打包起来就一步完成了,那这个标准化的安装部署就给后面自动化的安装部署打了一定的基础。

  • 自动化的数据备份,数据备份是我们DBA非常重要的一个工作。所以我们公司也是建立合理有效以及规范的自动化备份的规范。比方说我们的常规备份,我们是每周一次全备,变更前后,有一个业务变更了,在这之前要做一个全备,万一业务变更哪里出现问题我就可以及时回退。这个是自动化使用的场景。我们使用的是innobackup工具+自动化备份脚本调用+Cronntab定时来做。

DBA很忙—MySQL的性能优化及自动化运维实践

  • 第三点就是自动化日常监控,监控是DBA的第三只眼睛,如果建立实时有效的监控非常有效。我们公司是采用监控是采用Zabbix监控工具,像确定一些告警阈值这种,一旦超过了这个阈值就可以给我们DBA发送短信和邮件,这就是自动化的日常监控。

  • 第四个就是自动化深度巡检,这个就是补充了监控所不能达到的地方。比方说如果我们需要扫描或者是看一些大表的情况或者是看一些没有建索引表的情况,它的输出很复杂,是一张表或者是几张表,所以我们就需要深度的巡检来完成。深度的巡检我们公司也是采用开发巡检脚本,通过Ansible统一推送,巡检报告自动生成。也就是说可以很明确的呈现出这个巡检的结果供DBA去看和去检查。

DBA很忙—MySQL的性能优化及自动化运维实践

  • 第五点就是自动化的故障切换。自动化故障切换是发生在单节点发生故障。比如说变更操作,一些Keepalive部署配置,切换脚本,VRRP协议来实现的。也是通过编写一些脚本,那这个脚本可能会定期去检查我们的数据库节点的运行状况。比如说这个VIP有没有在这个节点或者是进程在不在?一旦发生异常就会自动切换这个节点。

  • 当第六点就是自动化节点扩容。当发生单节点故障的时候我们需要部署一个新的节点的时候就需要启动自动化的节点扩容,编写脚本来做。

DBA很忙—MySQL的性能优化及自动化运维实践

  • 第七点是自动化安全审计,就是异常访问,异常操作可审计追溯。部署安全审计插件,这个安全审计的插件+启用安全审计日志,+日志自动化或者是分析提炼。所以要不要开启这个插件根据各位公司对于安全审计方面的要求以及对于性能的要求从两者取一个平衡。因为我们还是很看中这个安全事件,所以我们开启了这个安全审计插件,开启这个插件以后还需要配置文件做一个配置。以什么样的方式存或者是多大?这些参数都可以在配置文件里面进行配置。

  • 第八点是自动化密码审计。这个自动化密码审计也是一个插件就是我们安装了强密码审查的日志,这个插件的工作原理就是设置了规则,我们需要日志要多少位或者是多少位的大小写或者是特殊字符的要求。我们设置密码的时候必须符合这个强密码验证的要求。这个也是进行实时校验的。也就是说我们当设一个数据库用户的密码如果不符合这个强密码的需求就不会给他通过,防止一些比较容易破解的弱密码。

DBA很忙—MySQL的性能优化及自动化运维实践

  • 第九点就是自动化日志分析工具。我们的日志分析其实挺重要的,如果出现问题就需要这个日志分析,没有问题正常的时候也需要日志分析工具的,因为它能够发生潜在的优化建议,我们采用一个Percona为工具Pt-query-digest,我们只需要看DBA的慢日志又可以发现哪些内容存在问题。

  • 第十点是自动化数据校验。通过我们自动化验校修复工具来做,也是设了Crontab的任务让它定期执行。

DBA很忙—MySQL的性能优化及自动化运维实践

  • 第十一点是自动化数据清理,因为数据库每天每周都在备份,我们就需要机制定期清理备份文件。我们也是采用脚本去开发和定时看,如果超过两个月的备份文件我们就把它删掉。如果文件都在两个月就不用管他。超过两个月就清除它。

  • 第十二点是自动化日志切分。如果数据库跑的时间比较长,慢日志或者是错误日志比较大,就需要定时检测日志文件,大于某值则自动切分,否则不处理。

DBA很忙—MySQL的性能优化及自动化运维实践

以上就是我们移动云在数据库运维的沉淀和积累。不像腾讯或者是阿里那么大的体量和经验。但是以上是我们探索出来的一些经验,希望可以给各位带来启发或者是帮助。

好消息!第十届 GOPS(GOPS2018全球运维大会·上海站)即将火爆来袭!!

GOPS 2018 全球运维大会 · 上海站

DBA很忙—MySQL的性能优化及自动化运维实践DBA很忙—MySQL的性能优化及自动化运维实践

目前拟定的部分精彩议题包括:

DBA很忙—MySQL的性能优化及自动化运维实践

还有另外50个大咖演讲在路上。您可扫码或点击阅读原文,以了解更多。


扫码即可了解更多或立即报名

DBA很忙—MySQL的性能优化及自动化运维实践

更多详情,也可点击阅读原文


Hacking For Fun , 版权所有丨如未注明 , 均为原创丨本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:DBA很忙—MySQL的性能优化及自动化运维实践
喜欢 (0)
发表我的评论
取消评论
表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址