Windows OS上安装运行Apache Kafka教程
haoteby 2025-05-15 17:56 2 浏览
下面是分步指南,教你如何在Windows OS上安装运行Apache Zookeeper和Apache Kafka。
简介
本文讲述了如何在Windows OS上配置并启动Apache Kafka,这篇指南将会指导你安装Java和Apache Zookeeper。
Apache Kafka是一个快速可扩展的消息队列,能够应对繁重的读写负载,即IO相关工作。更多信息请参见http://kafka.apache.org。由于Zookeeper能提供可靠的分布式协调服务,Apache Kafka需要运行一个Zookeeper实例。更多Zookeeper的相关信息请查看
https://zookeeper.apache.org/。
关于在Windows安装Kafka的具体步骤,可以查看这个视频:
https://youtu.be/OJKesEpO6ok
下载所需文件
- 根据系统OS和CPU架构,在这里下载Server JRE http://www.oracle.com/technetwork/java/javase/downloads/jre8-downloads-2133155.html
- 在这里下载并安装7-zip http://www.7-zip.org/download.html
- 在这里下载Zookeeper,并用7-zip解压 http://zookeeper.apache.org/releases.html
- 在这里下载Kafka并用7-zip解压 http://kafka.apache.org/downloads.html
针对此教程,我们将Zookeeper与Kafka解压到C盘,不过也可以选择其他位置。这里我们要使用完全的zookeeper,而不是用Kafka打包的那个,因为这是一个单节点的Zookeeper实例。也可以运行打包了zookeeper的Kafka,位置在\kafka\bin\windows库中。
安装
A. JDK安装
1.启动JRE安装,选中复选框“修改目标路径”,然后点击安装。
2.修改安装目录,文件夹名称中不能有空格,例如:C:\Java\jre1.8.0_xx\(默认情况下是C:\Program Files\Java\jre1.8.0_xx),然后点击下一步。
3.现在点击控制面板->系统->高级系统设置->环境变量,打开系统环境变量对话框。
4.点击用户变量中的新用户变量按钮,然后在变量名称那里输入JAVA_HOME,并将自定义的jre路径填入变量值。如下图所示:
Java路径与版本可能会根据所使用Kafka的版本而有所改变
5.现在点击ok。
6.刚才打开的“环境变量“对话框中有“系统变量”一栏,在其中寻找路径变量。
7.编辑路径与类型“;%JAVA_HOME%\bin”,如下图:
8.确认Java安装打开cmd,输入类型“java –version”,应该能够看到刚刚安装的java版本。
如果命令行提示与上图类似,请继续。否则,需要重新检查安装版本是否与OS架构匹配(x86, x64),以及环境变量路径是否正确。
B. Zookeeper安装
1.进入Zookeeper设置目录,比如C:\zookeeper-3.4.7\conf
2. 将“zoo_sample.cfg”重命名为“zoo.cfg”。
3. 在任意文本编辑器(如notepad)中打开zoo.cfg,我个人更喜欢notepad++。
4. 找到并编辑dataDir=/tmp/zookeeper to :\zookeeper-3.4.7\data
5. 与Java中的做法类似,我们在系统环境变量中添加:
a. 在系统变量中添加ZOOKEEPER_HOME = C:\zookeeper-3.4.7
b. 编辑系统变量,命名为路径 System Variable%ZOOKEEPER_HOME%\bin;
6. 在zoo.cfg文件中修改默认的Zookeeper端口(默认端口2181)。
7. 打开新的cmd,输入zkserver,运行Zookeeper。
8. 命令行提示如下:
恭喜,Zookeeper已经完成并在端口2181运行。
C. 安装Kafka
1. 进入Kafka配置目录,例如C:\kafka_2.11-0.9.0.0\config
2. 编辑文件“server.properties”
3. 找到并编辑“log.dirs=/tmp/kafka-logs” to “log.dir= C:\kafka_2.11-0.9.0.0\kafka-logs”
4. 如果Zookeeper在某些其他的机器或集群上运行,可以将“zookeeper.connect:2181”修改为自定义IP与端口。在这个演示中我们使用了同一个机器,因此没必要做修改。文件中的Kafka端口和broker.id也是可以配置的。其他设置不变。
5. Kafka会按照默认,在9092端口上运行,并连接zookeeper的默认端口:2181。
D. 运行Kafka服务器
重要:请确保在启动Kafka服务器前,Zookeeper实例已经准备好并开始运行。
1.进入Kafka安装目录C:\kafka_2.11-0.9.0.0\
2.按下Shift+右键,选择“打开命令窗口”选项,打开命令行。
3.现在输入.\bin\windows\kafka-server-start.bat .\config\server.properties 并回车。
.\bin\windows\kafka-server-start.bat .\config\server.properties
4.如果一切正常,命令行应当是这样:
5.现在Kafka已经准备好并开始运行,可以创建主题来存储消息了。我们也能从Java/Scala代码中,或直接从命令行中生成或使用数据。
E. 创建主题
1. 现在创建主题,命名为“test”,replication factor=1(因为只有1个Kafka服务器在运行)。如果集群中所运行的Kafka服务器不止1个,可以相应增加replication-factor,从而提高数据可用性和系统容错性。
2. 在C:\kafka_2.11-0.9.0.0\bin\windows打开新的命令行。
3. 输入下面的命令,回车:
kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
F. 创建Producer及Consumer来测试服务器。
1.在C:\kafka_2.11-0.9.0.0\bin\windows打开新的命令行。 2.输入以下命令,启动producer:
kafka-console-producer.bat --broker-list localhost:9092 --topic test
3.在同样的位置C:\kafka_2.11-0.9.0.0\bin\windows再次打开新的命令行。 4.现在输入下列命令启动consumer:
kafka-console-consumer.bat --zookeeper localhost:2181 --topic test
5.现在有两个命令行窗口,如下图:
6.在producer命令行中任意输入内容,回车;在其他consumer命令行中能看到相应消息。
7.如果能够将消息推送到consumer端并显示出来的话,Kafka安装就完成了。
一些有用的命令
1.列出主题:kafka-topics.bat –list –zookeeper localhost:2181
2.描述主题:kafka-topics.bat –describe –zookeeper localhost:2181 –topic [Topic Name]
3.从头读取消息:
kafka-console-consumer.bat –zookeeper localhost:2181 –topic [Topic Name] –from-beginning
4.删除主题:kafka-run-class.bat kafka.admin.TopicCommand –delete –topic [topic_to_delete] –zookeeper localhost:2181
原文地址:Setting Up and Running Apache Kafka on Windows OS
文章作者:Gopal Tiwari
译者:孙薇
责编:仲浩
相关推荐
- 5个珍藏多年的资源网站,免费又实用,建议收藏
-
今天给大家分享5个珍藏多年的资源网站,每个都是免费的,而且非常的实用,建议收藏。1、wallhaven一个国外知名的壁纸网站,拥有海量的8k、4k的超清图片壁纸,该网站的图片是由各地的创作者提供下载,...
- 设计网站推荐 | 国内外设计类素材网站
-
网站分享|十个不得不推荐的设计类素材网站!一些压箱底的常用的设计类素材分享!一定要打开这些网站试一试哦!...
- 阿里巴巴旗下菜鸟裹裹换新LOGO?长高了
-
LOGO大师整理编辑(ID:logods)...
- 10个做PPT必备的素材网站,越用越上瘾,每个都是宝藏
-
Pexelshttps://www.pexels.com/zh-cn/...
- 阿里旗下的四款免费小工具 好用并且能大大提升工作效率
-
好的工具能大大的提升你的工作效率,今天给大家分享的是阿里旗下的四款经典免费小工具,主要是用来设计,能方便,且高效的提高你的工作效率,觉得有用就收藏了吧。第一个:阿里巴巴图标库阿里巴巴图标库有将近80多...
- UI设计入门干货!八大软件+技能+素材网站
-
随着互联网行业的发展,UI设计师越来越多的被提及,UI设计师大火,需求岗位越来越多,也有越来越多的人转行投身UI设计师。UI设计是什么?一般所说的UI设计多指UI视觉设计,主要负责APP、Web、H5...
- 干货!宝藏PPT素材——海量图标免费使用
-
我是星辰四个月的假期收集了一些PPT素材,筹备了这个公众号今天终于和大家见面了此公众号不定时更新各种素材干活和PPT模板记得关注我哦~后台发送“PPT”领取免费PPT模板总是很难找到合适PPT素材?费...
- 写了100多篇原创文章,我常用的在线工具网站推荐给大家
-
摘要不知不觉写博客已经一年多了,累计写了100多篇原创文章,今天给大家分享下我经常使用的在线工具网站,希望对大家有所帮助!MarkdownNice支持自定义样式的在线Markdown编辑器,编辑完成...
- 设计者必备神器:必须收藏的在线软件推荐
-
本内容来源于@什么值得买SMZDM.COM|首席生活家保密对于新电脑或重新刷系统的电脑,安装一堆软件是很费时间的,而软件多了会对系统运行速度有影响,特别是机械硬盘,响应时间与软件数量成正比的。而用了...
- 干货 | 设计师必备网站,大神作品、图片素材一网打尽
-
经常会听到这样的一句话:设计师每日正式开始工作的第一件事,就是打开3个及以上的设计/素材网站。网站中的优秀作品不仅可以帮助设计师提升自己,还能激发创作的灵感,所以今天,我们为大家整理了一些国内外优秀的...
- 推荐11个超好用的在线作图网站
-
现在做图好像已经不是设计师的专利不管是新媒体人、文案,还是随便一个人不会随时随地做几张漂亮图不能分分钟出点海报、封面图、邀请函什么的还怎么昂首挺胸在办公室里混不会PS没关系,不会做图可不行所以今天老贼...
- 做设计还只知道花瓣包图网?这100+个免费商用素材网站送给你
-
作为设计师你常用的网站是哪些呢?花瓣?站酷?千库?千图?包图?这些网站确实是大家最常用的网站,各种风格的元素、模板、源文件,用起来可以说是得心应手了~但是一旦出现了这个场景,你就也跟着崩溃了........
- 5个好看的图标网站,直接搜索下载
-
今天和大家分享5个图标网站,里面收录大量丰富的图标,在这里找到好图标不是什么难事。Iconsdbwww.iconsdb.com...
- 8个高清无版权的图片资源网站,质量高又免费,够你用一辈子
-
很多时候我们找素材总是要花费很多时间,今天就给大家分享8个,高清无版权的图片资源网站,质量高又免费,够你用一辈子。01*Logosc...
- 淘宝PPT设计师不会告诉你的4个网站!帮你剩下不少钱
-
之前的文章中,给各位推荐过图片素材网站,像:500px,unsplash等,也给各位推荐过图标网站,像阿里巴巴图标库。这些网站都很好用。但是,我最近发现,有一类素材网站,在做PPT时也会经常用到,...