既有的Telegraf 关于MongoDB的输入插件很难实现对副本集节点状态的监控,副本集节点状态有 PRIMARY、SECONDARY、RECOVERYING、ARBITER 等。现在们尝试通过 Exec Input Plugin 来实现对MongoDB状态的的监控。
第一部分 简单回顾下Zabbix的监控实现
1. Zabbix 执行的文件脚本如下:
!/bin/bash
command_linebin="mongodb可执行文件路径/bin/mongo"
replstatus="PRIMARY SECONDARY ARBITER"
username="user"
password="pwd"
command_line="$ localhost:$1/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ] ;then
ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)
if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] && [[ $replstatus =~ $ms3 ]] ;then
echo "The Status OK "
else
echo "The status of mongo replica is unnormal.port is " $1
fi
else
ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
echo "The Status OK "
else
echo "The status of mongo replica is unnormal.port is " $1
fi
fi
(文件中的执行输入参数是MongoDB的端口号) 2.异常告警界面;
第二部分 Telegraf 收集代理关于exec插件的实现
1.可执行命名文件为 test_mongodb.sh,具体脚本简化调整
!/bin/bash
command_linebin="MongoDB可执行文件/bin/mongo"
username="User"
replstatus="PRIMARY SECONDARY ARBITER"
password="PWD"
port=27017
command_line="$ localhost:$port/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ] ;then
ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)
if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] && [[ $replstatus =~ $ms3 ]] ;then
echo "ReplStatus,tag=mongodb Status=1i"
else
echo "ReplStatus,tag=mongodb Status=2i"
fi
else
ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
echo "ReplStatus,tag=mongodb Status=1i"
else
echo 'ReplStatus,tag=mongodb Status=2i'
fi
fi
文件所处的路径为 /etc/telegraf/test_mongodb.sh
- telegraf.conf中关于exec input的配置如下;
- 通过test命令测试,运行正常
telegraf --config telegraf.conf --test
4.启动服务
service telegraf start
5.登入到InfluxDB下查询验证收集的数据
(以上看似部署完毕,实际…..)
第三部 权限设置问题导致数据错误的分析与探究
仔细看上面的截图数据,问题出来了,明明调试过程中是status为1,而保存到InfluxDB中status为2 了呢???
本来集群状态是OK的,结果判断为Error!!!! 针对此问题在网上搜索原因及方案,聚焦如下:
即怀疑为权限问题。 下面为具体的探究测试过程 step 1 们从root 账号切换到 telegraf账号
但是 切换 不成功。 Step 2 查看telegraf账号信息
cat /etc/passwd
(/bin/false什么也不做只是返回一个错误状态,然后立即退出。将用户的shell设置为/bin/false,用户会无法登录,并且不会有任何提示。) Step 3 将登入属性设置为 /bin/bash,修改后如下;
step 4 再次 su 为 telegraf账号 ,查询当前连接的账号
此时切换成功了。 Step 5 在 telegraf 账号下,测试
此时status=2 和们开始在root 账号下此测试(status=1)是不一样的,也理解了为什么InfluxDB中数据为2的根源,确实和账号有关。 Step 6 调试 telegraf 调用的 test_mongodb.sh 文件
sh -x test_mongodb.sh
部分报错信息如下:
+ ms2='SECONDARY
2019-07-02T20:24:59.596+0800 E - [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error'
+ [[ PRIMARY SECONDARY ARBITER =~ PRIMARY
2019-07-02T20:24:59.468+0800 E - [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error ]]
+ echo 'ReplStatus,tag=mongodb Status=2i'
ReplStatus,tag=mongodb Status=2i
从上面的异常信息得知,直接错误原因是 不能在文件 /etc/telegraf/.dbshell 中保存历史数据。
其实在/etc/telegraf 没有看到这个 .dbshell 这个文件。查看显示所有的文件(包含隐藏文件)的 命令如下
ll -a
那么如果们手动创建.dbshell呢?
以下操作是在root账号下创建.dbshell 文件,并且将文件的拥有者调整为telegraf账号,具体的的命令如截图:
step 7 再次用telegraf账号运行 test_mongodb.sh 可执行文件
sh -x test_mongodb.sh
此时没有出现异常,数据也正常了。 step 8 在telegraf账号下 用 telegraf 服务调试,此次运行和root账号一样了。
(此时没有出现异常,数据也正常了。)
Step 9 登入到InfluxDB中查看,由错误的2恢复了1。
第四部分 思考优化
(1)为什么root账号不需要手动创建.dbshel? 是不需要这个文件吗?如果需要有在那个目录下呢?
首先了解下 .dbshell 文件,它的基本解释是:“When you run the mongo client, it stores a history of commands in $HOME/.dbshell.“。
从上面的解释可以看出,root账号应该也会产生.dbshell文件。
们通过以下几步去找到root账号对应的.dbsehll 文件。
(2)如何优化telegraf的账号,不再需要手动创建文件?
推测:是不是给telegraf 账号赋予自身对应$HOME足够的权限就可以了。
测试如下; step 1 找到账号对应的$home
step 2 删除前面测试创建的.dbshell 文件
Step 3 执行验证telegraf 测试命令,此时应该数据异常(切记;切换到telegraf 账号下执行)
step 4 在root账号将 $home 对应的目录(/etc/telegaf)拥有者转换给telegraf账号
step 5 再次执行 telegraf 测试命令
以上,测试验证数据给账号相应的$home文档服务相应的权限,也可以解决问题。
第五部分 告警展示
们在Grafana中配置后,其显示界面如下:
第六部分 补充说明;
1.$HOME代表的路径是什么?
可以简单的理解为 :home是用户的主目录,登录后缺省进入的目录,提供一个用户专属的启动文件来定义该用户所用到的一些环境变量。
可用命令:
echo $HOME
2.写入InfluxDB,应遵循以下格式:
<measurement>[,<tag-key>=<tag-value>...] <field-key>=<field-value>[,<field2-key>=<field2-value>...] [unix-nano-timestamp]
如果格式不对,常见的错误如下:
2019-05-02T08:04:13Z E! Error in plugin [inputs.exec]: metric parse error: expected field at offset 37: "XXXXXXXXXXXXXXXXXXXX\n"
第七部分延伸拓展
上面介绍了这么多,们需要动手实践一下,目标是实现MySQL MHA Manager 状态的监控。主要用到的MHA监控脚本是 masterha_check_status。
telegraf.conf 增加的脚本如下
[[inputs.exec]]
Commands array
commands = ["bash /data/checkmha/scripts/masterha_checkstatus_alarm.sh",]
timeout='15s'
data_format="influx"
被驱动的masterha_checkstatus_alarm.sh
!/bin/sh
mha_conf=/etc/mha/mhaqqshanxi.cnf
mha_check_result=`/usr/local/bin/masterha_check_status --conf=/etc/mha/mhaqqshanxi.cnf | grep "stopped" | wc -l`
conf_server1=`grep "server1" $mha_conf`
conf_server1=`cat $mha_conf|grep "server1" -A 1| grep "17."|cut -d '=' -f 2`
conf_server2=`cat $mha_conf|grep "server2" -A 3| grep "17."|cut -d '=' -f 2`
conf_server3=`cat $mha_conf|grep "server3" -A 2| grep "17."|cut -d '=' -f 2`
if [ "$mha_check_result" == "1" ];then
echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=0i'
echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=0i'
echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=0i'
else
echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=1i'
echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=1i'
echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=1i'
fi
查看influxdb数据库关于此measurement的数据
grafana 中关于此监控项的panel
本文版权归作者所有,未经作者同意不得转载 , 谢谢配合!!!
本文版权归作者所有,未经作者同意不得转载 , 谢谢配合!!!
本文版权归作者所有,未经作者同意不得转载 , 谢谢配合!!!
原文创作:东山絮柳仔
原文链接:https://www.cnblogs.com/xuliuzai/p/11121086.html
文章列表
- 通过Python收集MySQL MHA 部署及运行状态信息的功能实现
- 通过Python将监控数据由influxdb写入到MySQL
- 通过Python实现生成excel并邮件发送的功能
- 通过Python实现对SQL Server 数据文件大小的监控告警
- 通过 Telegraf + InfluxDB + Grafana 快速搭建监控体系的详细步骤
- 迁移Report Server DataBase时遇到的坑
- 谨慎 mongodb 关于数字操作可能导致类型及精度变化
- 详解MongoDB中的多表关联查询$lookup
- 瞧一瞧!这儿实现了MongoDB的增量备份与还原含部署代码
- 时序数据库InfluxDB的基本语法
- 数据库服务器资源使用情况周报
- 数据库如何应对保障大促活动
- 我10亿级ES数据迁到MongoDB节省90%成本!转载
- 应用部署架构演进转载 -
- 学习ProxySQL参考到几个网址
- 名言小抄五
- 关于SQL Server 镜像数据库快照的创建及使用
- 关于SQL Server 数据库归档的一些思考和改进
- 关于MongoDB时间格式转换和时间段聚合统计的用法总结
- 以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署
- 一个磁盘I/O故障导致的AlwaysOn FailOver 过程梳理和分析
- shell 操作钉钉机器人实现告警提醒
- python 学习笔记 四
- python 学习 三
- kapacitor的安装及部分常用命令
- TiDB 架构及设计实现
- TiDB 学习笔记一运维管理
- SQL Server 查看当前会话状态sp_WhoIsActive 转载 -
- SQL Server DB迁移工作List
- SQL Server CPU 利用率毛刺的分析定位与解决
- SQL Server Alwayson架构下 服务器 各虚拟IP漂移监控告警的功能实现 1服务器视角
- Python发送的邮件设置收件人隐藏与显示
- MySQL索引设计需要考虑哪些因素?
- MySQL日志收集之Filebeat和Logstsh的一键安装配置ELK架构
- MySQL数据归档小工具推荐及优化mysql_archiver
- MySQL数据库规范 设计规范+开发规范+操作规范
- MySQL数据库Inception工具学习与测试 笔记
- MySQL常用命令汇总偏向运维管理
- MySQL在线DDL工具 ghost
- MySQL 学习笔记四
- MySQL 学习笔记三
- MySQL alter table时执行innobackupex全备再谈Seconds_Behind_Master
- MySQL MHA 运行状态监控
- MongoDB数据库的设计规范
- MongoDB实例重启失败探究大事务Redo导致
- MongoDB 那些事一文以蔽之
- MongoDB 中的加减乘除 - 运算
- MongoDB 中数据的替换方法实现 类Replace函数功能
- Linux常用命令总结二
- K8S基础学习