ELK topbeat 部署指南(14th)


topbeat定期收集系统信息如每个进程信息、负载、内存、磁盘等等,然后将数据发送到elasticsearch进行索引。

topbeat收集的指标有:

系统统计信息

  • 系统负载: 最后1分钟、最后5分钟、最后15分钟
  • CPU使用情况: user (和百分比), system, idle, IOWait等等
  •  内存使用情况: 总共, 已用 (和百分比), 剩余等等
  • swap使用情况:总共, 已用 (和百分比), 剩余等等

每个进程的统计信息

  • 进程名
  • 进程PID
  • 进程状态
  • 进程ID
  • 进程使用CPU情况: 用户 (和百分比), 系统, 总数 和 启动时间
  • 进程使用内存情况: 虚拟内存,常驻内存(和百分比) 和 共享内存

文件系统统计信息

  • 可用磁盘列表
  • 每个磁盘、名称、类型和挂载目录
  • 每个磁盘总大小、已用(和百分比)、剩余和可用空间

Topbeat 可以将这些收集到的指标直接插入到elasticsearch或者是使用logstash。

要使用这个你要安装elasticsearch,kibana,参见前文。我这里直接存储到elasticsearch。

安装

参见上一篇文章,添加yum源。

# yum install topbeat

配置

# vi /etc/topbeat/topbeat.ymlinput:  period: 10  procs: [".*"]  stats:    system: true    proc: true    filesystem: trueoutput:  elasticsearch:    hosts: ["10.1.19.18:9200"]shipper:logging:  files:

period 选项定义收集信息的频率,默认是10秒。

procs 选项定义正则表达式,以匹配你所要监控的进程。默认是所有正在运行的进程都进行监控。

如果不监控进程,可以这么做:

input:  period: 10  procs: ["^$"]

导入elasticsearch索引模板

将topbeat提供的索引模板导入到elasticsearch,以便elasticsearch知道哪些字段以哪种方式进行分析。

# curl -XPUT 'http://10.1.19.18:9200/_template/topbeat' -d@/etc/topbeat/topbeat.template.json

运行topbeat

# /etc/init.d/topbeat start

加载kibana Dashboards

官方提供了一些仪表盘样本方便我们查看监视,项目地址:https://github.com/elastic/beats-dashboards

加载方法如下:

# wget http://download.elastic.co/beats/dashboards/beats-dashboards-1.0.0.tar.gz# tar xzvf beats-dashboards-1.0.0.tar.gz# cd beats-dashboards-1.0.0/./load.sh http://10.1.18.19:9200

创建了三个beat索引

  • [packetbeat-]YYYY.MM.DD
  • [topbeat-]YYYY.MM.DD
  • [filebeat-]YYYY.MM.DD

以及仪表盘

topbeat配置项

beats公共配置选参见前文。这里主要说说topbeat的input部分的配置选。如下配置:

input:  # In seconds, defines how often to read server statistics  period: 10  # Regular expression to match the processes that are monitored  # By default, all the processes are monitored  procs: [".*"]  # Statistics to collect (all enabled by default)  stats:    system: true    proc: true    filesystem: true

前面说了period和procs。这里说下stats。

stats指定要收集的统计数据,可以是下面的设置:

  • system: true 捕捉系统的统计信息,如系统负载、CPU使用情况、内存使用情况、swap使用情况。
  • proc: true 捕捉每个进程的统计信息,如进程名、进程PID、状态、进程ID、CPU使用率和内存使用率。
  • filesystem: true 捕捉文件系统统计信息,如磁盘空间总大小、磁盘设备名、挂载目录。
Log4j史诗级漏洞,我们这些小公司能做些什么?

事件背景12月10日,看到朋友圈中已经有人在通宵修改、上线系统了。随即,又看到阿里云安全、腾讯安全部门发出的官方报告:”Apache Log4j2存在远程代码执行漏洞“,且漏洞已对外公开。看到相关消息,马上爬起来把所有项目的日志系统过滤一遍,还好老项目采用的l...
漏洞服务器安全log4j

ddos攻击服务器会显示什么?怎么判断服务器是否被DDoS恶意攻击?

前几天一个朋友的网站突然打不开了,怀疑被DDoS攻击叫我帮忙看一下,经过诊断发现,可能是有人使用作弊手段刷广告,导致流量暴增,服务器机房的人以为被DDoS攻击了赶紧黑洞了服务器,导致网站打不开了。那小编是如何判断服务器是否被DDoS恶意攻击呢?诊断遇到怀疑攻击...
服务器服务器安全DDos

了解大数据安全问题的5种类型

公司需要意识到大数据安全问题,以避免隐私风险,并最大限度地利用该技术。在物联网时代,数据已成为公司的重要资产。公司使用大数据等现代技术来收集和处理数据。凭借这些能力,大数据已经改变了许多行业,例如医疗保健、零售和农业。大数据应用有助于公司改善业务运营并预测行业...
服务器安全网络攻击大数据数据安全

如何使用Dorkify执行Google Dork搜索

Google Dorking技术Google Dorking是一种黑客技术,它使用了Google搜索引擎来搜索目标网站配置以及计算机代码中存在的安全漏洞。Google Dorking涉及使用Google搜索引擎中的高级操作来定位搜索结果中的特定文本字符串,例如...
服务器安全GoogleDorkifyDork