以实现MongoDB副本集状态的监控为例,看Telegraf系统中Exec输入插件如何编写部署

作者: 东山絮柳仔

既有的Telegraf 关于MongoDB的输入插件很难实现对副本集节点状态的监控,副本集节点状态有 PRIMARY、SECONDARY、RECOVERYING、ARBITER 等。现在们尝试通过 Exec Input Plugin 来实现对MongoDB状态的的监控。

第一部分 简单回顾下Zabbix的监控实现

1. Zabbix 执行的文件脚本如下:

!/bin/bash
command_linebin="mongodb可执行文件路径/bin/mongo"
replstatus="PRIMARY SECONDARY ARBITER"
username="user"
password="pwd"
command_line="$ localhost:$1/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ]  ;then 
   ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
   ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
   ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)
  if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
        echo "The Status OK "
   else 
         echo "The status of mongo replica is unnormal.port is " $1 
   fi 
else
     ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
     ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)

    if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
        echo "The Status OK "
   else
         echo "The status of mongo replica is unnormal.port is " $1 
   fi
fi

(文件中的执行输入参数是MongoDB的端口号) 2.异常告警界面;

第二部分 Telegraf 收集代理关于exec插件的实现

1.可执行命名文件为 test_mongodb.sh,具体脚本简化调整

!/bin/bash
command_linebin="MongoDB可执行文件/bin/mongo"
username="User"
replstatus="PRIMARY SECONDARY ARBITER"
password="PWD"
port=27017
command_line="$ localhost:$port/admin -u$username -p$password"
mcount=$(/bin/echo "rs.status().members.length" | $command_line --quiet)
if [ $mcount -ge 3 ]  ;then 
   ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
   ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)
   ms3=$(/bin/echo "rs.status().members[2].stateStr" | $command_line --quiet)
  if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]]  && [[ $replstatus =~ $ms3 ]] ;then 
        echo "ReplStatus,tag=mongodb Status=1i"
   else 
         echo "ReplStatus,tag=mongodb Status=2i" 
   fi 
else
     ms1=$(/bin/echo "rs.status().members[0].stateStr" | $command_line --quiet)
     ms2=$(/bin/echo "rs.status().members[1].stateStr" | $command_line --quiet)

    if [[ $replstatus =~ $ms1 ]] && [[ $replstatus =~ $ms2 ]] ;then
        echo "ReplStatus,tag=mongodb Status=1i"
   else
          echo 'ReplStatus,tag=mongodb Status=2i'

   fi
fi

文件所处的路径为 /etc/telegraf/test_mongodb.sh

  1. telegraf.conf中关于exec input的配置如下;

  1. 通过test命令测试,运行正常
    telegraf --config telegraf.conf --test
    

4.启动服务

service telegraf start

5.登入到InfluxDB下查询验证收集的数据

(以上看似部署完毕,实际…..)

第三部 权限设置问题导致数据错误的分析与探究

仔细看上面的截图数据,问题出来了,明明调试过程中是status为1,而保存到InfluxDB中status为2 了呢???

本来集群状态是OK的,结果判断为Error!!!! 针对此问题在网上搜索原因及方案,聚焦如下:

即怀疑为权限问题。 下面为具体的探究测试过程 step 1 们从root 账号切换到 telegraf账号

但是 切换 不成功。 Step 2 查看telegraf账号信息

cat /etc/passwd

(/bin/false什么也不做只是返回一个错误状态,然后立即退出。将用户的shell设置为/bin/false,用户会无法登录,并且不会有任何提示。) Step 3 将登入属性设置为 /bin/bash,修改后如下;

step 4 再次 su 为 telegraf账号 ,查询当前连接的账号

此时切换成功了。 Step 5 在 telegraf 账号下,测试

此时status=2 和们开始在root 账号下此测试(status=1)是不一样的,也理解了为什么InfluxDB中数据为2的根源,确实和账号有关。 Step 6 调试 telegraf 调用的 test_mongodb.sh 文件

sh -x test_mongodb.sh

部分报错信息如下:

+ ms2='SECONDARY
2019-07-02T20:24:59.596+0800 E -        [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error'
+ [[ PRIMARY SECONDARY ARBITER =~ PRIMARY
2019-07-02T20:24:59.468+0800 E -        [main] Error saving history file: FileOpenFailed: Unable to open() file /etc/telegraf/.dbshell: Unknown error ]]
+ echo 'ReplStatus,tag=mongodb Status=2i'
ReplStatus,tag=mongodb Status=2i

从上面的异常信息得知,直接错误原因是 不能在文件 /etc/telegraf/.dbshell 中保存历史数据。

其实在/etc/telegraf 没有看到这个 .dbshell 这个文件。查看显示所有的文件(包含隐藏文件)的 命令如下

ll -a

那么如果们手动创建.dbshell呢?

以下操作是在root账号下创建.dbshell 文件,并且将文件的拥有者调整为telegraf账号,具体的的命令如截图:

step 7 再次用telegraf账号运行 test_mongodb.sh 可执行文件

 sh -x test_mongodb.sh 

此时没有出现异常,数据也正常了。 step 8 在telegraf账号下 用 telegraf 服务调试,此次运行和root账号一样了。

(此时没有出现异常,数据也正常了。)

Step 9 登入到InfluxDB中查看,由错误的2恢复了1。

第四部分 思考优化

(1)为什么root账号不需要手动创建.dbshel? 是不需要这个文件吗?如果需要有在那个目录下呢?

首先了解下 .dbshell 文件,它的基本解释是:“When you run the mongo client, it stores a history of commands in $HOME/.dbshell.“

从上面的解释可以看出,root账号应该也会产生.dbshell文件。

们通过以下几步去找到root账号对应的.dbsehll 文件。

(2)如何优化telegraf的账号,不再需要手动创建文件?

推测:是不是给telegraf 账号赋予自身对应$HOME足够的权限就可以了。

测试如下; step 1 找到账号对应的$home

step 2 删除前面测试创建的.dbshell 文件

Step 3 执行验证telegraf 测试命令,此时应该数据异常(切记;切换到telegraf 账号下执行)

step 4 在root账号将 $home 对应的目录(/etc/telegaf)拥有者转换给telegraf账号

step 5 再次执行 telegraf 测试命令

以上,测试验证数据给账号相应的$home文档服务相应的权限,也可以解决问题。

第五部分 告警展示

们在Grafana中配置后,其显示界面如下:

第六部分 补充说明;

1.$HOME代表的路径是什么?

可以简单的理解为 :home是用户的主目录,登录后缺省进入的目录,提供一个用户专属的启动文件来定义该用户所用到的一些环境变量。

可用命令:

echo $HOME

2.写入InfluxDB,应遵循以下格式:

<measurement>[,<tag-key>=<tag-value>...] <field-key>=<field-value>[,<field2-key>=<field2-value>...] [unix-nano-timestamp]

如果格式不对,常见的错误如下:

2019-05-02T08:04:13Z E! Error in plugin [inputs.exec]: metric parse error: expected field at offset 37: "XXXXXXXXXXXXXXXXXXXX\n"

第七部分延伸拓展

上面介绍了这么多,们需要动手实践一下,目标是实现MySQL MHA Manager 状态的监控。主要用到的MHA监控脚本是 masterha_check_status。 telegraf.conf 增加的脚本如下

[[inputs.exec]]
  Commands array
  commands = ["bash /data/checkmha/scripts/masterha_checkstatus_alarm.sh",]
  timeout='15s'
  data_format="influx"

被驱动的masterha_checkstatus_alarm.sh

!/bin/sh
mha_conf=/etc/mha/mhaqqshanxi.cnf
mha_check_result=`/usr/local/bin/masterha_check_status --conf=/etc/mha/mhaqqshanxi.cnf  | grep "stopped" | wc -l`
conf_server1=`grep  "server1" $mha_conf`
conf_server1=`cat $mha_conf|grep "server1" -A 1| grep "17."|cut -d '=' -f 2`
conf_server2=`cat $mha_conf|grep "server2" -A 3| grep "17."|cut -d '=' -f 2`
conf_server3=`cat $mha_conf|grep "server3" -A 2| grep "17."|cut -d '=' -f 2`
if [ "$mha_check_result" == "1" ];then
     echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=0i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=0i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=0i'
else
     echo 'MySQLMHAStatus,host=apqqshanxi_1_2,server='$conf_server1' Status=1i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_3,server='$conf_server2' Status=1i'
     echo 'MySQLMHAStatus,host=apqqshanxi_1_4,server='$conf_server3' Status=1i'
fi

查看influxdb数据库关于此measurement的数据

grafana 中关于此监控项的panel

本文版权归作者所有,未经作者同意不得转载 , 谢谢配合!!! 本文版权归作者所有,未经作者同意不得转载 , 谢谢配合!!! 本文版权归作者所有,未经作者同意不得转载 , 谢谢配合!!!

原文创作:东山絮柳仔

原文链接:https://www.cnblogs.com/xuliuzai/p/11121086.html

文章列表

更多推荐

更多
  • Linux基础知识-五、更高级的命令行和概念 基本网络概念,安装新软件和更新系统,服务介绍,基本系统故障排除和防火墙,引入 ACLs,setuid、setgid 和粘性位,设置用户标识符,塞吉德,粘性比特,摘要, 在本章中,我们将了解以下内容:基本网络概念安装新
  • Linux基础知识-三、Linux 文件系统 理解文件系统,使用文件链接,搜索文件,与用户和组一起工作,使用文件权限,使用文本文件,使用 VIM 文本编辑器,摘要, 在前一章中,我们通过导航文件系统向您介绍了 Linux 文件和文件夹。在本章中,我们将学习如何使用、查找和更改读取和
  • Linux基础知识-四、使用命令行 基本的 Linux 命令,附加程序,网络工具,Nmap(消歧义),链接,iotop,iftop,快上来,lsof,理解过程,克隆,信号,杀,障碍,使用 Bash Shell 变量,Bash shell 脚本介绍,实现 Bash Shel
  • Linux基础知识-二、Linux 命令行 介绍命令行,文件环球化,引用命令,寻求帮助,使用 Linux Shell,理解标准流,理解正则表达式,与 sed 合作,使用 awk,浏览 Linux 文件系统,摘要, 在本章中,我们将向您介绍开始使用 Linux 命令行时最基本的概念
  • Linux基础知识-一、Linux 简介 Linux 系统概述,虚拟化,安装 VirtualBox 和 CentOS,使用 VirtualBox,通过 SSH 连接虚拟机,摘要, 一个操作系统 ( 操作系统)是一个运行在你的电脑上的特殊软件,它使得启动和运行微软
  • Linux基础知识-零、前言 这本书是给谁的,这本书涵盖了什么,充分利用这本书,下载彩色图像,使用的约定,取得联系,复习, 在这本书里,目标是建立一个坚实的基础,学习 Linux 命令行的所有要点,让你开始。它被设计成非常专注于只学习实用的核心技能和基本的 Linu
  • Ansible2实战-五、消费和创建模块 技术要求,使用命令行执行多个模块,查看模块索引,从命令行访问模块文档,模块返回值,开发定制模块,避免常见的陷阱,测试和记录您的模块,模块清单,向上游投稿–提交 GitHub 拉取请求,摘要,发现插件类型,问题,进一步, 在这本书里
    Apache CN

  • Ansible2实战-十、容器和云管理 技术要求,使用行动手册设计和构建容器,管理多个容器平台,使用可扩展容器部署到 Kubernetes,用 Ansible 管理 Kubernetes 对象,安装 Ansible 的库本内特依赖项,用 Ansible 列出 Kubernet
    Apache CN

  • Ansible2实战-九、使用 Ansible 的网络自动化 技术要求,为什么要自动化网络管理?,了解 ansible 如何管理网络设备,实现网络自动化,查看可用的 Ansible 网络模块,连接到网络设备,网络设备的环境变量,网络设备的条件语句,摘要,问题,进一步, 多年前,标准做法是手工
    Apache CN

  • Ansible2实战-十二、Ansible Tower 入门 技术要求,安装 AWX,运行你的第一个剧本从 AWX,创建 AWX 项目,创建库存,创建作业模板,运行作业,控制进入 AWX,创建用户,创建团队,创建组织,在 AWX 分配权限,摘要,问题, Ansible 非常强大,但它确实需要
    Apache CN

  • 近期文章

    更多
    文章目录

      推荐作者

      更多