一 项目描述
1.1 背景 MHA(Master HA)是一款开源的 MySQL 的高可用程序,它为 MySQL 主从复制架构提供了 automating master failover 功能。MHA 在监控到 master 节点故障时,会提升其中拥有最新数据的 slave 节点成为新的master 节点。自动FailOver的前置条件一定是MHA是启动运行的状态。在生产环境中,有时会因为没有及时开启或者运行异常停止而不知,导致MySQL主节点异常时,没有自动FailOver,影响了生产,或延长了处理时间,使故障升级。
此外,MHA发生FailOver后,MHA的运行状态会由 is running(0:PING_OK) 变更为stopped(2:NOT_RUNNING),从运行反馈结果变化上,可以判断是否可能发生了主从切换。可以作为一个Warning处理。
综上,对MHA的运行状态的监控很有必要。 1.2 实现设计 MHA是运行在Manager 节点上的,一个Manager 节点可以管理数十个集群。目前,们的监控体系是Telegraf + InfluxDB + Grafana,所以,需要在Manager 节点部署Telegraf,去收集MHA的运行状态,保存到 InfluxDB。在既有的Grafana MySQL Dashboard中,添加一个关于 masterha_check_status 的panel 即可。 1.2.1 之前的方法
在 《以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署{cb_post_title_url}》 一文中的第七部分,们有介绍一种方法实现MySQL MHA的监控,但这种方法是每一个集群都需要手动维护,自动发现的功能不够好,增加维护成本,特别是集团的MHA集群比较多时。 1.2.2 优化后的方法 Manager 节点为每个监控的MHA集群提供一个专用的配置文件,优化后的监控方法,根据配置文件自动发现、自动调整监控,不再需要逐一配置和维护。
部署的步骤如下:
二.实现详情
2.1 编辑Python可执行文件
可执行文件为telegraf_checkmhastatus.py
!/usr/bin/python
-*- coding: UTF-8 -*-
import os
import io
import re
import ConfigParser
Path='/cnf/mhacnf'
fout=open('输出文件名','w')
for Name in os.listdir(Path) :
Pathname= os.path.join(Path,Name)
print(Pathname)
print(Name)
config =ConfigParser.ConfigParser()
try:
config.read(Pathname)
server_item = config.sections()
server1_host = '' MHA cnf 配置文件中的节点1
server2_host = '' MHA cnf 配置文件中的节点2
server3_host = '' MHA cnf 配置文件中的节点3
mha_cnf_remark = ''
if 'server1' in server_item:
server1_host = config.get('server1','hostname')
else:
server1_host = ''
mha_cnf_remark = mha_cnf_remark + 'Server1未配置;'
if 'server2' in server_item:
server2_host = config.get('server2','hostname')
else:
server2_host = ''
mha_cnf_remark = mha_cnf_remark + 'Server2未配置;'
if 'server3' in server_item:
server3_host = config.get('server3','hostname')
print(mha_cnf_remark)
except Exception as e:
print(e)
mha_status_result =''
if server1_host <> '' and server2_host <> '':
cmd_mha_status ='/usr/local/bin/masterha_check_status --conf='+Pathname
with os.popen(cmd_mha_status) as mha_status:
mha_status_result = mha_status.read()
if 'running(0:PING_OK)' in mha_status_result:
print('masterha_check_status,server='+server1_host+' Status=1i')
print('masterha_check_status,server='+server2_host+' Status=1i')
if 'stopped(2:NOT_RUNNING)' in mha_status_result:
else:
print('masterha_check_status,server='+server1_host+' Status=0i')
print('masterha_check_status,server='+server2_host+' Status=0i')
说明:
(1)遍历 /cnf/mhacnf目录下的文件(假设MHA配置文件的配置文件在此目录下);
(2)对每个文件执行masterha_check_status –cong = XXXX,XXXX为具体的配置文件;判断运行结果;
(3)获取MHA集群节点;
(4)因为们MHA集群都是一主一从,所以,只 if server1_host <> '' and server2_host <> '':一种情况,大家可根据需要,根据具体的场景,变更。
(5)数据保存到名叫masterha_check_status的measurement中,Tag Key 有 host 和 server;当运行OK时,Status=1,否则,Status=0。
(6)Server对应的数据为Server IP(注意,会在grafana配置时以此关联)。 2.2 修改 telegraf 文件
文件默认目录为/etc/telegraf/,默认文件为telegraf.conf。
将执行文件嵌入到telegraf.conf中,由python驱动。
代码如下:
[[inputs.exec]]
Commands array
commands = ["python /data/check_mha_status/check_mha_status.py",]
timeout='60s'
data_format="influx"
2.3 修改telegraf service的运行账号
telegraf服务的启动账号默认为telegraf,但是,其中调用了Python和python的可执行文件,需要修改权限。为了简便,升级telegraf service的运行账号,修改成root。🙂
修改telegraf.service,默认路径为/usr/lib/systemd/system/telegraf.service。
修改后的代码如下:
[Unit]
Description=The plugin-driven server agent for reporting metrics into InfluxDB
Documentation=https://github.com/influxdata/telegraf
After=network.target
[Service]
EnvironmentFile=-/etc/default/telegraf
User=telegraf User=root
ExecStart=/usr/bin/telegraf -config /etc/telegraf/telegraf.conf -config-directory /etc/telegraf/telegraf.d $TELEGRAF_OPTS
ExecReload=/bin/kill -HUP $MAINPID
Restart=on-failure
RestartForceExitStatus=SIGPIPE
KillMode=control-group
[Install]
WantedBy=multi-user.target
2.4 启动Telegraf 服务
service telegraf start 启动服务
service telegraf status 服务状态查看
service telegraf stop 关闭服务
2.5 配置Grafana,增加Panel
因为MySQL实例节点的telegraf也会汇报各自的数据,例如MySQL连接数、TPS、QPS、主从状态、延迟、资源(CPU、内存、磁盘、IOWait)等等,这些指标在一个Dashboard上,而新收集的MHA运行状态是新增的的一个MySQL指标,所以,应该将MHA运行状态作为既有MySQL Dashboard的一个Panel。
在MySQL实例节点上汇报的数据是各个节点的host 和 instance(Server IP:端口);而MHA 运行状态汇报的数据是manager节点的host 和 各个实例Server IP。所以,依据Host 关联,整合到一个Dashboard是实现不了的(因为没有关联性)。只能通过 instance(Server IP:端口) 和 Server IP 进行关联了。 首先,将instance(Server IP:端口) 正则下,去除端口数据,实现方式,增加一个grafana变量–server_ip,如下:
注意上面的数据源来自measurement为mysql。 然后,再增加一个grafana变量–mha_server,注意,会依赖上面的变量server_ip。
这样 mysql 和 masterha_check_status 两个measurement就关联起来了,可以联动了。
最后,增加 panel设置下,就可以了,如下。
SQL 语句如下:
SELECT mean("Status") FROM "masterha_check_status" WHERE ("server" =~ /^$mha_server$/) AND $timeFilter GROUP BY time(1m) fill(null)
三 .实现
运行状态为1,异常或关闭为0.
还可以增加Alarm告警,例如邮箱、微信、钉钉等,在此就不展开了。
补充一点
因为优化后的监控方法,根据配置文件自动发现、自动调整监控。所以,如果新增一个MHA,而这个过程又比较长,比如10分钟,这个时候,既有的MHA监控可能会报错或报警。
为了避免这种情况发生,建议新增的MHA的配置文件,最后再放至到MHA配置文件的目录上。或者,先将配置文件放到其他的目录上,MHA配置OK后,最后一步再移到/cnf/mhacnf目录下。
原文创作:东山絮柳仔
原文链接:https://www.cnblogs.com/xuliuzai/p/15387089.html
文章列表
- 通过Python收集MySQL MHA 部署及运行状态信息的功能实现
- 通过Python将监控数据由influxdb写入到MySQL
- 通过Python实现生成excel并邮件发送的功能
- 通过Python实现对SQL Server 数据文件大小的监控告警
- 通过 Telegraf + InfluxDB + Grafana 快速搭建监控体系的详细步骤
- 迁移Report Server DataBase时遇到的坑
- 谨慎 mongodb 关于数字操作可能导致类型及精度变化
- 详解MongoDB中的多表关联查询$lookup
- 瞧一瞧!这儿实现了MongoDB的增量备份与还原含部署代码
- 时序数据库InfluxDB的基本语法
- 数据库服务器资源使用情况周报
- 数据库如何应对保障大促活动
- 我10亿级ES数据迁到MongoDB节省90%成本!转载
- 应用部署架构演进转载 -
- 学习ProxySQL参考到几个网址
- 名言小抄五
- 关于SQL Server 镜像数据库快照的创建及使用
- 关于SQL Server 数据库归档的一些思考和改进
- 关于MongoDB时间格式转换和时间段聚合统计的用法总结
- 以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署
- 一个磁盘I/O故障导致的AlwaysOn FailOver 过程梳理和分析
- shell 操作钉钉机器人实现告警提醒
- python 学习笔记 四
- python 学习 三
- kapacitor的安装及部分常用命令
- TiDB 架构及设计实现
- TiDB 学习笔记一运维管理
- SQL Server 查看当前会话状态sp_WhoIsActive 转载 -
- SQL Server DB迁移工作List
- SQL Server CPU 利用率毛刺的分析定位与解决
- SQL Server Alwayson架构下 服务器 各虚拟IP漂移监控告警的功能实现 1服务器视角
- Python发送的邮件设置收件人隐藏与显示
- MySQL索引设计需要考虑哪些因素?
- MySQL日志收集之Filebeat和Logstsh的一键安装配置ELK架构
- MySQL数据归档小工具推荐及优化mysql_archiver
- MySQL数据库规范 设计规范+开发规范+操作规范
- MySQL数据库Inception工具学习与测试 笔记
- MySQL常用命令汇总偏向运维管理
- MySQL在线DDL工具 ghost
- MySQL 学习笔记四
- MySQL 学习笔记三
- MySQL alter table时执行innobackupex全备再谈Seconds_Behind_Master
- MySQL MHA 运行状态监控
- MongoDB数据库的设计规范
- MongoDB实例重启失败探究大事务Redo导致
- MongoDB 那些事一文以蔽之
- MongoDB 中的加减乘除 - 运算
- MongoDB 中数据的替换方法实现 类Replace函数功能
- Linux常用命令总结二
- K8S基础学习