Docker快速搭建Kafka 1.x集群

Kafka已经发布了1.0版,为了紧跟时代的步伐,最近学习了《Kafka权威指南》。书如其名,这本 Definitive Guide 内容很全面,从Kafka的设计原理和架构细节到开发的代码实例进行了全方位的覆盖。正如本书的前言所述,不管你作为开发工程师围绕Kafka API来写应用还是作为运维工程师(SRE)来安装、配置、调优、监控,本书都提供了足够的细节。

kafka权威指南


为何用Docker

我读本书主要还是从开发的角度来看的,所以对我而言,以最快的速度搭建起一个可以运行的环境最为重要。这个时候首先想到的当然是Docker(不熟悉Docker的可以参见拙作 离不开的工具之《Docker开发指南》)了。

本书第2章的安装环境是Linux,在附录中介绍了在Windows和Mac OS上的安装过程。我之所以选择用Docker进行安装,主要是出于以下的考虑:

(1)实现开发环境和生产环境的一致性,这点本书附录中也提到了:

在桌面操作系统上进行 Kafka 开发或测试时,最好能够让它运行在虚拟机里,这个虚拟机最好能与生产环境的配置相匹配。

(2)使用Docker便于模拟多节点集群,使用docker-compose 工具,我们可以轻松的在单台开发机上启动多个Kafka容器、zookeeper容器,非常方便的实现了对分布式环境的模拟。

(3)安装、启动非常迅速。从安装上讲,在国内如果使用国内的Docker Registry Mirror,下载一个配置好的Kafka镜像可能要比直接下载安装Kafka还要快得多。熟悉Docker的都比较清楚,容器的快速启动本身就是Docker的一大特色。


Docker镜像选型

对比起RabbitMQ有不断更新的官方Docker镜像,Kafka是没有官方 Docker镜像的,所以要么自己写一个Dockerfile,要么用第三方已经构建好的。首先,自己写一个Dockerfile不是不可以,但不符合我要“最快”的目标,所以用第三方已经构建好的镜像那是最快的。其次,镜像最好是1.x的最新版本,有新版本就要用上嘛。最后,由于是第三方镜像,希望已经用过的人越多越好,这样坑相对会比较少一些。

带着上面三个要求,开始寻找合适的第三方镜像,比较出名的有以下几个:

  1. wurstmeister/kafka 特点:star数最多,版本更新到 Kafka 1.0 ,zookeeper与kafka分开于不同镜像。
  2. spotify/kafka 特点:star数较多,有很多文章或教程推荐,zookeeper与kafka置于同一镜像中;但kafka版本较老(还停留在0.10.1.0)。
  3. confluent/kafka 背景:Confluent是书中提到的那位开发Kafka的Jay Kreps 从LinkedIn离职后创立的新公司,Confluent Platform 是一个流数据平台,围绕着Kafka打造了一系列产品。特点:大咖操刀,文档详尽,但是也和Confluent Platform进行了捆绑。

上述三个项目中,最简单的是spotify/kafka,但是版本较老。confluent/kafka 资料最为详尽,但是因为与Confluent Platform做了捆绑,所以略显麻烦。最终选定使用wurstmeister/kafka,star最多,版本一直保持更新,用起来应该比较放心。


安装过程

此处假定读者已经熟练使用docker、docker-compose等工具,所以关于docker的知识就不再赘述。

  1. 下载zookeeper镜像:

docker pull wurstmeister/zookeeper

  1. 下载kafka镜像:

docker pull wurstmeister/kafka

  1. 在自己选的目录下创建一个docker-compose.yml文件,

    内容如下:
    docker-compose.yml
    docker-compose.yml

⚠️ 注意上述内容与
https://github.com/wurstmeister/kafka-docker/blob/master/docker-compose.yml
中有一处区别,即倒数第4行中的 KAFKA_ADVERTISED_HOST_NAME 改为
KAFKA_ADVERTISED_LISTENERS ,其后的ip地址使用宿主机上的 docker-machine ip 地址。

  1. 启动docker-compose

docker-compose up -d

  1. 启动多个kafka 节点,比如3个

docker-compose scale kafka=3


可用性测试

自此,如果没有出现什么错误,通过docker ps 应该可以看到已经成功启动了一个zookeeper容器,三个Kafka容器。

  1. 通过指定容器名(假设容器名为 wurkafka_kafka_1)进入一个Kafka容器:

docker exec -it wurkafka_kafka_1 /bin/bash

  1. 创建一个topic(其中假设zookeeper容器名为 wurkafka_zookeeper_1,topic名为test),输入:

$KAFKA_HOME/bin/kafka-topics.sh --create --topic test \

--zookeeper wurkafka_zookeeper_1:2181 --replication-factor 1
--partitions 1

  1. 查看新创建的topic:

$KAFKA_HOME/bin/kafka-topics.sh --zookeeper wurkafka_zookeeper_1:2181 \

--describe --topic test

  1. 发布消息: (输入若干条消息后 按^C 退出发布)

$KAFKA_HOME/bin/kafka-console-producer.sh --topic=test \

--broker-list wurkafka_kafka_1:9092

  1. 接收消息:

$KAFKA_HOME/bin/kafka-console-consumer.sh \

--bootstrap-server wurkafka_kafka_1:9092 \

--from-beginning --topic test

如果接收到了发布的消息,证明整个部署正常,就可以正式开始开发工作了。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 200,612评论 5 471
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,345评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 147,625评论 0 332
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,022评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,974评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,227评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,688评论 3 392
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,358评论 0 255
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,490评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,402评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,446评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,126评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,721评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,802评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,013评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,504评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,080评论 2 341

推荐阅读更多精彩内容

  • 在hyperledger fabric的orderer中,目前发布的版本是使用kafka来做排序,并没有用到所谓的...
    y9g阅读 6,583评论 0 3
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,566评论 18 139
  • ** 今天看了一下kafka官网,尝试着在自己电脑上安装和配置,然后学一下官方document。** Introd...
    RainChang阅读 4,985评论 1 30
  • Docker — 云时代的程序分发方式 要说最近一年云计算业界有什么大事件?Google Compute Engi...
    ahohoho阅读 15,499评论 15 147
  • 宝来被打成傻子回了花街,北京的冬天就来了。冷风扒住门框往屋里吹,门后挡风的塑料布裂开细长的口子,像只冻僵的口哨,屁...
    姜辣素阅读 345评论 0 0