初探Loki,我决定把ELK替掉!

开源
Loki相比EFK/ELK,它不对原始日志进行索引,只对日志的标签进行索引,而日志通过压缩进行存储,通常是文件系统存储,所以其操作成本更低,数量级效率更高。

[[405303]]

 哈喽哈喽大家好,初探Loki之后,我决定把ELK下掉!

Loki开源日志解决方案已经开源有一段时间了,对标EFK/ELK,由于其轻量的设计,备受欢迎

Loki相比EFK/ELK,它不对原始日志进行索引,只对日志的标签进行索引,而日志通过压缩进行存储,通常是文件系统存储,所以其操作成本更低,数量级效率更高

由于Loki的存储都是基于文件系统的,所以它的日志搜索时基于内容即日志行中的文本,所以它的查询支持LogQL,在搜索窗口中通过过滤标签的方式进行搜索和查询

Loki分两部分,Loki是日志引擎部分,Promtail是收集日志端,然后通过Grafana进行展示

Loki的官方文档很全

https://grafana.com/docs/loki/latest/installation

Loki·安装

从官方文档看,Loki支持源码安装、Docker、Helm、Local、Tanka

我选择local,就是编译好的二进制可执行文件

安装步骤:

下载:https://github.com/grafana/loki/releases/

curl -O -L

"https://github.com/grafana/loki/releases/download/v2.2.1/loki-linux-amd64.zip"

通过unzip解压得到可执行文件

下载配置文件

wget https://raw.githubusercontent.com/grafana/loki/master/cmd/loki/loki-local-config.yaml

Loki·配置

Loki的配置文件是loki-local-config.yaml,支持YAML语法

loki提供http和grpc两种接口,在配置文件中可以看到对应端口,分别是3100和9096,启动后,就可以通过http接口看到数据

配置完成后,就可以启动loki了,二进制可执行文件,通过--config.file指定配置文件启动即可

promtail·安装

Promtail安装也很简单

下载可执行文件

  1. curl -O -L https://github.com/grafana/loki/releases/download/v2.2.1/promtail-linux-amd64.zip 

通过unzip解压得到可执行文件即可

同样下载配置文件

  1. wget https://raw.githubusercontent.com/grafana/loki/main/clients/cmd/promtail/promtail-local-config.yaml 

之后,就可以直接可执行文件指定配置文件启动了

promtail·配置

promtail也是YAML语法,配置很简单

前面三部分很简单,server部分定义监听端口,positions定义读取的文件偏移量存储位置,clients定义loki接口地址,最后一部分scrape_configs是重点部分

  • promtail通过scrape_configs部分配置收集日志的相关信息,以测试配置文件为例:
  • job_name 用来区分日志组
  • static_configs 收集日志的静态配置
  • targets 收集日志的节点,这个参数其实是在自动发现的时候使用的
  • labels 定义一个要收集的日志文件和一组可选的附加标签
  • job 标签名称,在grafana索引的时候用到的标签名称
  • __path__ 定义日志收集的文件或路径,支持正则

配置文件修改完成后,就可以启动promtail了,和loki启动方法一样,通过--config.file指定配置文件启动

promtail,类似于tail,它只监听新增日志,不会像filebeat一样,读取日志所有内容,这是和filebeat的一个区别

Grafana·展示

好了,promtail和Loki都配置好了,需要展示,6.0以上版本的grafana就支持loki的展示了,我这边直接用docker启动grafana

grafana配置很简单,登录后,在设置——数据源中,选择添加数据源,下来列表中直接选择Loki即可

接着配置数据源,只需要修改URL即可,其他可以根据自己的需要

因为我的loki是没有做认证的,所以这里不需要认证配置,直接填写loki的地址即可,完成后保存

保存完成后,在Explore中查看日志

这里支持LogQL语法,默认情况下,如果不添加规则,是没有日志展示的,在Log browser中添加query,根据在promtail中定义的label,比如我的promtail的job是nginx,我这里填写{job="nginx"},然后run query

就可以看到nginx的日志

日志界面很清爽,保留了日志原有的样子,通过颜色区分日志级别,这里info是绿色,error是红色,可以很直观的看到日志的类别,也可以通过点击日志级别,只展示该级别的日志

总结:

相对于EFK/ELK,专为日志而生的Loki,结合Grafana生态,对于中小企业,或者说只是作为日志系统而言,我更倾向于选择Loki代替EFK/ELK

本文转载自微信公众号「运维研习社」,可以通过以下二维码关注。转载本文请联系运维研习社公众号。

 

责任编辑:武晓燕 来源: 运维研习社
相关推荐

2021-09-13 08:20:13

Loki日志系统

2020-08-07 07:54:08

代码

2021-12-02 06:34:34

GraylogELK日志

2021-12-03 10:46:49

ELKGraylog运维

2020-12-22 09:17:49

日志Loki服务

2024-03-14 10:30:05

缓存场景DEMO

2021-09-29 07:22:09

监控PrometheusZabbix

2021-01-28 10:27:12

程序员技能代码

2021-04-14 09:49:19

FSFRMS软件

2017-07-07 19:36:06

白熊视频技术创业在路上程序员

2020-04-14 10:06:20

微服务Netflix语言

2023-11-29 09:09:27

OceanBase底层

2023-11-20 08:12:15

2021-11-04 06:58:31

Python开源特性

2014-08-28 09:48:41

2022-10-31 15:42:22

2021-07-15 06:47:56

微信iOS 8.0.8消息提示音

2021-09-13 09:35:48

AI 数据人工智能

2022-12-05 18:17:06

技术

2011-09-15 09:05:11

java
点赞
收藏

51CTO技术栈公众号