使用 Node Exporter 监控 Linux 主机之一

运维 系统运维
Node Exporter 是用于暴露 *NIX 主机指标的 Exporter,比如采集 CPU、内存、磁盘等信息。采用 Go 编写,不存在任何第三方依赖,所以只需要下载解压即可运行。

[[430745]]

Node Exporter 是用于暴露 *NIX 主机指标的 Exporter,比如采集 CPU、内存、磁盘等信息。采用 Go 编写,不存在任何第三方依赖,所以只需要下载解压即可运行。

安装配置

由于 Node Exporter 是一个独立的二进制文件,可以直接从 Prometheus 下载页面(https://prometheus.io/download/#node_exporter) 下载解压运行:

  1. ☸ ➜ wget https://github.com/prometheus/node_exporter/releases/download/v1.2.2/node_exporter-1.2.2.linux-amd64.tar.gz 
  2. # 国内加速可以使用下面的命令下载 
  3. # wget https://download.fastgit.org/prometheus/node_exporter/releases/download/v1.2.2/node_exporter-1.2.2.linux-amd64.tar.gz 
  4. ☸ ➜ tar -xvf node_exporter-1.2.2.linux-amd64.tar.gz 
  5. node_exporter-1.2.2.linux-amd64/ 
  6. node_exporter-1.2.2.linux-amd64/LICENSE 
  7. node_exporter-1.2.2.linux-amd64/NOTICE 
  8. node_exporter-1.2.2.linux-amd64/node_exporter 
  9. ☸ ➜ cd node_exporter-1.2.2.linux-amd64 && ls -la 
  10. total 18084 
  11. drwxr-xr-x  2 3434 3434       56 Aug  6 21:50 . 
  12. dr-xr-x---. 5 root root     4096 Oct 14 11:50 .. 
  13. -rw-r--r--  1 3434 3434    11357 Aug  6 21:49 LICENSE 
  14. -rwxr-xr-x  1 3434 3434 18494215 Aug  6 21:45 node_exporter 
  15. -rw-r--r--  1 3434 3434      463 Aug  6 21:49 NOTICE 

直接执行 node_exporter 文件即可运行:

  1. ☸ ➜ ./node_exporter 
  2. level=info ts=2021-10-14T03:52:31.947Z caller=node_exporter.go:182 msg="Starting node_exporter" version="(version=1.2.2, branch=HEAD, revision=26645363b486e12be40af7ce4fc91e731a33104e)" 
  3. level=info ts=2021-10-14T03:52:31.947Z caller=node_exporter.go:183 msg="Build context" build_context="(go=go1.16.7, user=root@b9cb4aa2eb17, date=20210806-13:44:18)" 
  4. ...... 
  5. level=info ts=2021-10-14T03:52:31.948Z caller=node_exporter.go:199 msg="Listening on" address=:9100 
  6. level=info ts=2021-10-14T03:52:31.948Z caller=tls_config.go:191 msg="TLS is disabled." http2=false 

从日志上可以看出 node_exporter 监听在 9100 端口上,默认的 metrics 接口通过 /metrics 端点暴露,我们可以通过访问 http://localhost:9100/metrics 来获取监控指标数据:

  1. ☸ ➜ curl http://localhost:9100/metrics 
  2. ...... 
  3. # HELP node_load1 1m load average. 
  4. # TYPE node_load1 gauge 
  5. node_load1 0.01 
  6. # HELP node_load15 15m load average. 
  7. # TYPE node_load15 gauge 
  8. node_load15 0.05 
  9. # HELP node_load5 5m load average. 
  10. # TYPE node_load5 gauge 
  11. node_load5 0.04 
  12. # HELP node_memory_Active_anon_bytes Memory information field Active_anon_bytes. 
  13. # TYPE node_memory_Active_anon_bytes gauge 
  14. node_memory_Active_anon_bytes 8.4393984e+07 
  15. # HELP node_memory_Active_bytes Memory information field Active_bytes. 
  16. # TYPE node_memory_Active_bytes gauge 
  17. node_memory_Active_bytes 1.8167808e+08 
  18. # HELP node_memory_Active_file_bytes Memory information field Active_file_bytes. 
  19. # TYPE node_memory_Active_file_bytes gauge 
  20. node_memory_Active_file_bytes 9.7284096e+07 
  21. # HELP node_memory_AnonHugePages_bytes Memory information field AnonHugePages_bytes. 
  22. # TYPE node_memory_AnonHugePages_bytes gauge 
  23. node_memory_AnonHugePages_bytes 3.5651584e+07 
  24. # HELP node_memory_AnonPages_bytes Memory information field AnonPages_bytes. 
  25. # TYPE node_memory_AnonPages_bytes gauge 
  26. node_memory_AnonPages_bytes 8.159232e+07 
  27. # HELP node_memory_Bounce_bytes Memory information field Bounce_bytes. 
  28. # TYPE node_memory_Bounce_bytes gauge 
  29. node_memory_Bounce_bytes 0 
  30. ...... 

该 metrics 接口数据就是一个标准的 Prometheus 监控指标格式,我们只需要将该端点配置到 Prometheus 中即可抓取该指标数据。为了了解 node_exporter 可配置的参数,我们可以使用 ./node_exporter -h 来查看帮助信息:

  1. ☸ ➜ ./node_exporter -h 
  2.     --web.listen-address=":9100"  # 监听的端口,默认是9100 
  3.     --web.telemetry-path="/metrics"  # metrics的路径,默认为/metrics 
  4.     --web.disable-exporter-metrics  # 是否禁用go、prome默认的metrics 
  5.     --web.max-requests=40     # 最大并行请求数,默认40,设置为0时不限制 
  6.     --log.level="info"        # 日志等级: [debug, info, warn, error, fatal] 
  7.     --log.format=logfmt     # 置日志打印target和格式: [logfmt, json] 
  8.     --version                 # 版本号 
  9.     --collector.{metric-name} # 各个metric对应的参数 
  10.     ...... 

其中最重要的参数就是 --collector.,通过该参数可以启用我们收集的功能模块,node_exporter 会默认采集一些模块,要禁用这些默认启用的收集器可以通过 --no-collector. 标志来禁用,如果只启用某些特定的收集器,基于先使用 --collector.disable-defaults 标志禁用所有默认的,然后在通过指定具体的收集器 --collector. 来进行启用。下图列出了默认启用的收集器:

一般来说为了方便管理我们可以使用 docker 容器来运行 node_exporter,但是需要注意的是由于采集的是宿主机的指标信息,所以需要访问主机系统,如果使用 docker 容器来部署的话需要添加一些额外的参数来允许 node_exporter 访问宿主机的命名空间,如果直接在宿主机上运行的,我们可以用 systemd 来管理,创建一个如下所示的 service unit 文件:

  1. ☸ ➜ cat /etc/systemd/system/node_exporter.service 
  2. [Unit] 
  3. Description=node exporter service 
  4. Documentation=https://prometheus.io 
  5. After=network.target 
  6.  
  7. [Service] 
  8. Type=simple 
  9. User=root 
  10. Group=root 
  11. ExecStart=/usr/local/bin/node_exporter  # 有特殊需求的可以在后面指定参数配置 
  12. Restart=on-failure 
  13.  
  14. [Install] 
  15. WantedBy=multi-user.target 

然后就可以使用 systemd 来管理 node_exporter 了:

  1. ☸ ➜ cp node_exporter /usr/local/bin/node_exporter 
  2. ☸ ➜ systemctl daemon-reload 
  3. ☸ ➜ systemctl start node_exporter 
  4. ☸ ➜ systemctl status node_exporter 
  5. ● node_exporter.service - node exporter servoce 
  6.    Loaded: loaded (/etc/systemd/system/node_exporter.service; disabled; vendor preset: disabled) 
  7.    Active: active (running) since Thu 2021-10-14 15:29:46 CST; 5s ago 
  8.      Docs: https://prometheus.io 
  9.  Main PID: 18679 (node_exporter) 
  10.     Tasks: 5 
  11.    Memory: 6.5M 
  12.    CGroup: /system.slice/node_exporter.service 
  13.            └─18679 /usr/local/bin/node_exporter 
  14.  
  15. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:..._zone 
  16. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...=time 
  17. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...timex 
  18. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...ueues 
  19. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...uname 
  20. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...mstat 
  21. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...r=xfs 
  22. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...r=zfs 
  23. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=node_exporter.go:...:9100 
  24. Oct 14 15:29:46 node1 node_exporter[18679]: level=info ts=2021-10-14T07:29:46.137Z caller=tls_config.go:191...false 
  25. Hint: Some lines were ellipsized, use -l to show in full

这里我们用 systemd 的方式在两个节点上(node1、node2)分别启动 node_exporter,启动完成后我们使用静态配置的方式在之前的 Prometheus 配置中新增一个 node_exporter 的抓取任务,来采集这两个节点的监控指标数据,配置文件如下所示:

  1. global
  2.   scrape_interval: 5s 
  3.  
  4. scrape_configs: 
  5.   - job_name: "prometheus" 
  6.     static_configs: 
  7.       - targets: ["localhost:9090"
  8.   - job_name: "demo" 
  9.     scrape_interval: 15s # 会覆盖global全局的配置 
  10.     scrape_timeout: 10s 
  11.     static_configs: 
  12.       - targets: ["localhost:10000""localhost:10001""localhost:10002"
  13.   - job_name: "node_exporter" # 新增 node_exporter 任务 
  14.     static_configs: 
  15.       - targets: ["node1:9100""node2:9100"] # node1、node2 在 hosts 中做了映射 

上面配置文件最后我们新增了一个名为 node_exporter 的抓取任务,采集的目标使用静态配置的方式进行配置,然后重新加载 Prometheus,正常在 Prometheus 的 WebUI 的目标页面就可以看到上面配置的 node_exporter 任务了。

接下来我们来了解一些关于节点监控的常用指标,比如 CPU、内存、IO 监控等。

CPU 监控

对于节点我们首先能想到的就是要先对 CPU 进行监控,因为 CPU 是处理任务的核心,根据 CPU 的状态可以分析出当前系统的健康状态。要对节点进行 CPU 监控,需要用到 node_cpu_seconds_total 这个监控指标,在 metrics 接口中该指标内容如下所示:

  1. # HELP node_cpu_seconds_total Seconds the CPUs spent in each mode. 
  2. # TYPE node_cpu_seconds_total counter 
  3. node_cpu_seconds_total{cpu="0",mode="idle"} 13172.76 
  4. node_cpu_seconds_total{cpu="0",mode="iowait"} 0.25 
  5. node_cpu_seconds_total{cpu="0",mode="irq"} 0 
  6. node_cpu_seconds_total{cpu="0",mode="nice"} 0.01 
  7. node_cpu_seconds_total{cpu="0",mode="softirq"} 87.99 
  8. node_cpu_seconds_total{cpu="0",mode="steal"} 0 
  9. node_cpu_seconds_total{cpu="0",mode="system"} 309.38 
  10. node_cpu_seconds_total{cpu="0",mode="user"} 79.93 
  11. node_cpu_seconds_total{cpu="1",mode="idle"} 13168.98 
  12. node_cpu_seconds_total{cpu="1",mode="iowait"} 0.27 
  13. node_cpu_seconds_total{cpu="1",mode="irq"} 0 
  14. node_cpu_seconds_total{cpu="1",mode="nice"} 0 
  15. node_cpu_seconds_total{cpu="1",mode="softirq"} 74.1 
  16. node_cpu_seconds_total{cpu="1",mode="steal"} 0 
  17. node_cpu_seconds_total{cpu="1",mode="system"} 314.71 
  18. node_cpu_seconds_total{cpu="1",mode="user"} 78.83 
  19. node_cpu_seconds_total{cpu="2",mode="idle"} 13182.78 
  20. node_cpu_seconds_total{cpu="2",mode="iowait"} 0.69 
  21. node_cpu_seconds_total{cpu="2",mode="irq"} 0 
  22. node_cpu_seconds_total{cpu="2",mode="nice"} 0 
  23. node_cpu_seconds_total{cpu="2",mode="softirq"} 66.01 
  24. node_cpu_seconds_total{cpu="2",mode="steal"} 0 
  25. node_cpu_seconds_total{cpu="2",mode="system"} 309.09 
  26. node_cpu_seconds_total{cpu="2",mode="user"} 79.44 
  27. node_cpu_seconds_total{cpu="3",mode="idle"} 13185.13 
  28. node_cpu_seconds_total{cpu="3",mode="iowait"} 0.18 
  29. node_cpu_seconds_total{cpu="3",mode="irq"} 0 
  30. node_cpu_seconds_total{cpu="3",mode="nice"} 0 
  31. node_cpu_seconds_total{cpu="3",mode="softirq"} 64.49 
  32. node_cpu_seconds_total{cpu="3",mode="steal"} 0 
  33. node_cpu_seconds_total{cpu="3",mode="system"} 305.86 
  34. node_cpu_seconds_total{cpu="3",mode="user"} 78.17 

从接口中描述可以看出该指标是用来统计 CPU 每种模式下所花费的时间,是一个 Counter 类型的指标,也就是会一直增长,这个数值其实是 CPU 时间片的一个累积值,意思就是从操作系统启动起来 CPU 开始工作,就开始记录自己总共使用的时间,然后保存下来,而且这里的累积的 CPU 使用时间还会分成几个不同的模式,比如用户态使用时间、空闲时间、中断时间、内核态使用时间等等,也就是平时我们使用 top 命令查看的 CPU 的相关信息,而我们这里的这个指标会分别对这些模式进行记录。

接下来我们来对节点的 CPU 进行监控,我们也知道一个一直增长的 CPU 时间对我们意义不大,一般我们更希望监控的是节点的 CPU 使用率,也就是我们使用 top 命令看到的百分比。

要计算 CPU 的使用率,那么就需要搞清楚这个使用率的含义,CPU 使用率是 CPU 除空闲(idle)状态之外的其他所有 CPU 状态的时间总和除以总的 CPU 时间得到的结果,理解了这个概念后就可以写出正确的 promql 查询语句了。

要计算除空闲状态之外的 CPU 时间总和,更好的方式是不是直接计算空闲状态的 CPU 时间使用率,然后用 1 减掉就是我们想要的结果了,所以首先我们先过滤 idle 模式的指标,在 Prometheus 的 WebUI 中输入 node_cpu_seconds_total{mode="idle"} 进行过滤:

要计算使用率,肯定就需要知道 idle 模式的 CPU 用了多长时间,然后和总的进行对比,由于这是 Counter 指标,我们可以用 increase 函数来获取变化,使用查询语句 increase(node_cpu_seconds_total{mode="idle"}[1m]),因为 increase 函数要求输入一个区间向量,所以这里我们取 1 分钟内的数据:

我们可以看到查询结果中有很多不同 cpu 序号的数据,我们当然需要计算所有 CPU 的时间,所以我们将它们聚合起来,我们要查询的是不同节点的 CPU 使用率,所以就需要根据 instance 标签进行聚合,使用查询语句 sum(increase(node_cpu_seconds_total{mode="idle"}[1m])) by (instance):

这样我们就分别拿到不同节点 1 分钟内的空闲 CPU 使用时间了,然后和总的 CPU (这个时候不需要过滤状态模式)时间进行比较即可,使用查询语句 sum(increase(node_cpu_seconds_total{mode="idle"}[1m])) by (instance) / sum(increase(node_cpu_seconds_total[1m])) by (instance):

然后计算 CPU 使用率就非常简单了,使用 1 减去乘以 100 即可:(1 - sum(increase(node_cpu_seconds_total{mode="idle"}[1m])) by (instance) / sum(increase(node_cpu_seconds_total[1m])) by (instance) ) * 100。这就是能够想到的最直接的 CPU 使用率查询方式了,当然前面我们学习的 promql 语法中提到过更多的时候我们会去使用 rate 函数,而不是用 increase 函数进行计算,所以最终的 CPU 使用率的查询语句为:(1 - sum(increase(node_cpu_seconds_total{mode="idle"}[1m])) by (instance) / sum(increase(node_cpu_seconds_total[1m])) by (instance) ) * 100。

可以和 top 命令的结果进行对比(下图为 node2 节点),基本上是保持一致的,这就是监控节点 CPU 使用率的方式。

 

责任编辑:姜华 来源: k8s技术圈
相关推荐

2021-10-26 08:08:34

Node ExporLinux 监控

2021-10-28 08:39:22

Node Export自定义 监控

2022-08-16 09:54:48

telegrafexporter监控

2011-03-24 11:03:05

Nagios监控Linux

2014-09-28 10:37:45

LinuxNagiosNRPE

2024-02-21 16:13:36

CNCF开源监控工具Prometheus

2011-03-23 10:17:25

Nagios监控

2020-11-26 09:10:36

Prometheus

2021-01-08 09:02:19

CentOS7Prometheus监控

2010-06-01 10:32:04

linux Mrtg

2018-05-04 09:32:32

Linux快速监控rwho

2021-11-30 07:02:10

虚拟化Linux 中断

2021-07-12 06:52:48

Zabbix监控Linux

2020-12-14 08:55:00

Node.js服务性框架

2011-01-05 09:34:47

linuxqq问题

2021-12-18 07:42:15

Ebpf 监控 Node.js

2021-03-18 23:04:41

Solidity开发智能

2011-03-25 09:00:37

Cacti模板

2011-03-28 17:35:44

NagiosNRPE监控

2010-02-23 12:03:37

CentOS系统
点赞
收藏

51CTO技术栈公众号