Amas:基于大数据平台技术开发的统一监控平台

大数据
Amas是基于大数据平台技术开发的统一监控平台,其特点包括:全维度监控指标,覆盖从操作系统、中间件、大数据平台(Hadoop/Spark/HBase/Kakfa等)到代码级别、可扩展、自定义的采集框架,支持不同语言(Python/Perl/Shell/...)开发的采集器等

Amas是什么

[[231249]]

Amas是基于大数据平台技术开发的统一监控平台,其特点包括:

  1. 全维度监控指标,覆盖从操作系统、中间件、大数据平台(Hadoop/Spark/HBase/Kakfa等)到代码级别
  2. 可扩展、自定义的采集框架,支持不同语言(Python/Perl/Shell/...)开发的采集器
  3. 基于OpenTSDB/HBase的海量数据存储架构,可快速读写大量监控指标,满足真实生产环境
  4. 清新简约的Web界面,功能强大但简单易用
  5. 基于Python原生multiprocess和async/await实现的分布式异步告警引擎,可水平扩展系统处理能力
  6. 多渠道、可自定义的通知方式(微信/邮件/Slack/API...)
  7. 可分组聚合的告警信息,避免海量数据监控场景下的告警风暴
  8. 基于Jagger的分布式链路追踪数据提取和展示,历史事件可追溯
  9. 可对接基于机器学习的异常检测服务,落地AIOps智能运维
  10. 微服务架构,支持docker和docker-compose方式的部署 ...

技术栈

编程语言:

  • (Backend)Python
  • (Web)Javascript

Web服务:

  • Vue, ECharts, Webpack
  • Express(NodeJS)

后台服务:

  • HBase, OpenTSDB, MongoDB, Redis
  • Spark, Kafka...
  • Jagger, Tornado
  • Pandas, Scikit-learn
  • Docker, Swarm

服务端运行情况

  • Linux(内核版本2.6+)
  • Centos7(推荐)

Docker快速部署

目前Amas的代码已经通过DockerHub实现自动构建,推荐使用docker来快速体验:

1、安装docker

2、保存如下shell脚本并执行:

  1. #!/usr/bin/env bash 
  2. # 创建docker网络 
  3. docker network create amas 
  4. # 运行数据库服务 
  5. # opentsdb(v2.3.0+) 
  6. # mongo(v3.10.0+) 
  7. # redis(v3.10.0+) 
  8. docker run -d -p  4242 4242  --name opentsdb --network amas eacon/docker-opentsdb 
  9. docker run -d -p  27017 27017  --name mongo --network amas mongo 
  10. docker run -d -p  6379 6379  --name redis --network amas redis 
  11. # 运行采集Agent(含Agent Manager): 
  12. docker run -d --name collector --network amas -p  8001 8001  eacon/argus_collector 
  13. # 运行告警模块: 
  14. docker run -d --name alert --network amas eacon/argus_alert 
  15. # 运行统计模块: 
  16. docker run -d --name statistics --network amas eacon/argus_statistics 
  17. # 运行Web服务: 
  18. docker run -d --name web --network amas -p  8080 8080  eacon/argus-web 

3、访问界面:本地8080端口(通过127.0.0.1而不是localhost):http://127.0.0.1:8080

4、初始化:执行web容器的命令,初始化默认账户(用户名/密码:admin/123):

  1. docker  exec  -it web init_user 

Docker-Compose

如果你使用了docker-compose,可以通过如下方式快速运行:

1、git clone本仓库:

  1. git clone https: 
  2. //github.com/amas-eye/amas.git; cd amas/docker/compose/ 

或者直接获取文件:

  1. mkdir amas; cd amas; curl https: 
  2. //raw.githubusercontent.com/amas-eye/amas/master/docker/compose/docker-compose.yml > docker-compose.yml 

2、执行:

  1. docker-compose up -d 

指标说明

详见 Metrics.md。

部分功能截图

Dashboard

Amas:基于大数据平台技术开发的统一监控平台

Amas:基于大数据平台技术开发的统一监控平台

监控图表

Amas:基于大数据平台技术开发的统一监控平台

告警规则和记录

Amas:基于大数据平台技术开发的统一监控平台

Amas:基于大数据平台技术开发的统一监控平台

Slack通知 

调用链

Amas:基于大数据平台技术开发的统一监控平台

 Amas:基于大数据平台技术开发的统一监控平台

架构

  • 模块划分(对应repo)
  • Web服务:argus-web

后台:

  • 采集器:arguscollector
  • 告警:argusalert
  • 调用链:arguschain
  • 统计中心:argusstatistics
  • AIOps框架:argus_aiops

项目成员

Amas现由@Eacon和他的开发团队负责维护

其他

Amas的内部开发代号为argus,这也会保留在开源项目的源码中。

ToDoList

  • 告警引擎,支持DSL语言定义规则
  • 集成开源的Zabbix、Nagios等监控数据
  • 基于AspectJ的Java字节码注入监控
  • 基于pyrasite的python字节码注入监控 更多AIOps方案的落地...

 

责任编辑:未丽燕 来源: Python中文社区
相关推荐

2017-03-27 17:50:12

WOT技术

2019-05-14 13:07:23

大数据平台监控集群

2019-05-14 12:34:42

大数据平台监控数据

2011-06-14 10:05:41

UDEAndroidJ2ME(K-Java

2016-03-25 09:57:09

统一监控报警平台运维

2016-12-23 14:43:37

2010-05-24 09:39:25

思科统一通信

2010-05-21 12:34:54

统一通信技术平台

2010-05-21 12:32:13

统一通信技术平台

2010-05-21 12:36:01

统一通信技术平台

2012-09-26 22:18:19

IBM大数据Hadoop

2016-09-04 15:14:09

携程实时数据数据平台

2019-07-31 14:51:21

HBase数据库数据模型

2021-03-24 09:51:08

大数据数据存储节能技术

2017-11-15 10:33:25

2021-02-22 10:55:59

大数据大数据平台数据平台建设

2020-12-17 19:15:48

大数据大数据平台架构数据平台建设

2010-05-21 14:41:00

统一通信技术平台

2017-07-13 11:13:18

大数据数据存储

2011-05-28 12:42:15

Firebox银行
点赞
收藏

51CTO技术栈公众号