随着项目中服务器的增加,项目组需要对服务器进行更高级的性能监视。 进行问题故障诊断时,经常登录服务器以查看CPU、内存、网络和磁盘的状况。 作为高吞吐量的分布式发布订阅消息系统,kafka就是其中之一,当然离不开elasticsearch、spark等。
kafka
一般来说,项目中有很多类型的APP应用集群,这些集群具有各自的APP应用监视能力,但是不具有整体的监视入口。 本文首先收集服务性能数据,进行简单的表达,然后将APP应用的执行信息收集用于定制的表达。 这使您可以持续扩展监视,并首先了解整个项目的服务运行状况。
据这位云卫士工程师zjdhm和可靠的啤酒介绍,我们以前较早的项目已经使用了ElasticSearch(1.2 )、kibana(3)3),ELK版本的升级
本文提供的软件:
日志状态
电子搜索
Kibana
Collectd
Collectl
这里Collectl、Collectd都是性能收集软件,结果的输出不同。 后述。
主要步骤如下:
1、在服务器上批量安装Collectd软件,收集服务器运行数据并发送到logstash。
2,Logstash接收collectd发来的数据,插入es集群。
3、设计kibana报告,统计显示这些性能数据。
4 )如果需要其他功能,则需要自定义开发web APP应用程序。
5、框架的简单形象如下。
安装设置
collectd安装配置
collectd是守护进程,它是一种收集系统性能并提供各种存储方法以存储不同值的机制。 在系统运行和存储信息时,定期统计有关系统的统计信息
安装
在Ubuntu/Debian中:
# apt-getinstallcollectd [ ondebianbasedsystems ]
在RHEL/CentOS6.x/5.x上:
对于基于红帽的旧系统(如CentOS/Fedora ),在从epel软件包库安装collectd软件包之前,必须启用系统下的epel软件包。
#yuminstallcollectd
在RHEL/CentOS7.x上:
在最新版本的RHEL/CentOS7.x中,可以从默认yum软件库安装和启用epel软件库,如下所示:
#yuminstallepel-release
#yuminstallcollectd
在CentOS/RHEL/Fedora上安装Collectd
注:对于Fedora用户,不需要启用第三方软件库。 只要运行yum命令,就可以从缺省yum软件包库中获取collectd软件包