设置本地Apache Kafka,与Docker强强联动

开发
许多公司拥有大量的数据,需要一种方法来简化和转储所有传入数据到不同的位置,这就是所谓的Kafka Sink。

一、引言

许多公司拥有大量的数据,需要一种方法来简化和转储所有传入数据到不同的位置,这就是所谓的Kafka Sink。

在生产环境中,不建议自己托管Kafka,而是建议支付云服务提供商在AWS上进行托管,这就是Amazon Managed Streaming for Apache Kafka(MSK)。然而,Kafka在本地测试却很不方便。因此,在将其部署到测试或生产环境之前,可以选择使用Docker在本地快速启动一个Apache Kafka来开发所需内容。这样可以更快地进行开发并验证代码,不用担心环境问题。

二、使用Docker和Docker Compose快速启动Kafka

1.配置Docker Compose文件

首先,使用Docker和Docker Compose创建运行单节点Kafka的设置。以下是一个示例的Docker Compose文件:

version: "2"
services:
  zookeeper:
    image: confluentinc/cp-zookeeper:latest
    environment:
      ZOOKEEPER_CLIENT_PORT: 2181
      ZOOKEEPER_TICK_TIME: 2000
    ports:
      - 22181:2181

  kafka:
    image: confluentinc/cp-kafka:latest
    depends_on:
      - zookeeper
    ports:
      - 29092:29092
    environment:
      KAFKA_BROKER_ID: 1
      KAFKA_ZOOKEEPER_CONNECT: zookeeper:2181
      KAFKA_ADVERTISED_LISTENERS: PLAINTEXT://kafka:9092,PLAINTEXT_HOST://localhost:29092
      KAFKA_LISTENER_SECURITY_PROTOCOL_MAP: PLAINTEXT:PLAINTEXT,PLAINTEXT_HOST:PLAINTEXT
      KAFKA_INTER_BROKER_LISTENER_NAME: PLAINTEXT
      KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR: 1

2. 检查Kafka和Zookeeper设置的状态

完成之后,可以使用以下两个命令检查Kafka和Zookeeper设置的状态。

nc -z localhost 22181
nc -z localhost 29092

如果一切运行顺利,这两个测试都应该返回成功。

三、使用Offset Explorer 2查看Kafka

1. 下载Offset Explorer 2

现在,可以下载Kafka工具(Offset Explorer 2,下载地址:https://kafkatool.com/download.html),它是一个用于Kafka的UI工具,支持以UI方式查看Kafka,不用记住命令行。

2. 配置Offset Explorer 2

下载了该工具之后,需要进行配置设置,在配置设置中,进入高级选项卡,并将localhost:29092作为引导网关,然后就可以开始使用了!

责任编辑:赵宁宁 来源: Java学研大本营
相关推荐

2014-09-24 10:33:04

飞利浦仙视电子

2011-09-02 15:03:36

VMworld思科虚拟

2012-06-08 09:29:21

曙光Mellanox云计算

2009-08-03 11:46:13

云计算BMC亚马逊

2014-10-15 16:31:48

IBMSAP企业云

2023-03-26 12:15:41

PandasPySpark分布式

2012-08-30 10:50:07

2012-09-21 14:00:30

红帽Linux

2013-07-25 13:25:17

安卓

2016-03-24 18:10:36

IT解决方案深信服华胜天成

2015-04-16 16:04:32

云计算微软云Azure

2019-05-22 10:38:00

5G芯片中兴

2017-05-17 15:21:20

互联网

2013-08-19 17:14:04

.Net强引用弱引用

2012-05-23 14:43:26

虚拟化vmware浪潮

2017-11-30 14:14:53

2011-02-14 10:51:30

高明网络电子商务

2012-09-24 10:07:56

微软虚拟化

2017-06-12 12:08:57

腾讯云启明星辰云安全
点赞
收藏

51CTO技术栈公众号