kafka(二)安装部署(2)windows

目录

一、前提

1、jdk

2、Zookeeper

2.1、解压

2.2、创建data文件夹

2.3、配置文件

2.4、添加环境变量

2.5、启动zk:zkServer

2.6、客户端

3、Scala

3.1、下载安装

3.2、配置环境变量

3.3、验证是否安装成功

二、kafka下载安装

1、下载

2、安装

2.1、解压

2.2、新建logs目录

​编辑 2.3、修改配置文件

2.3.1、修改 log.dirs 参数

2.3.2、修改 listeners 参数

3、启动 

4、kafka操作 

4.1、创建topic

4.2、查看topic列表 

4.3、创建生产者

4.4、创建消费者 

4.5、测试收发消息 


一、前提

安装Kafka之前,需要安装JDK、Zookeeper、Scala,

本次安装版本选择:
JDK:1.8
Zookeeper:3.6.4
Scala:2.12
Kafka:3.5.2

1、jdk

Java Downloads | Oracle

见jdk下载安装。

2、Zookeeper

下载地址

Apache ZooKeeper

Apache Download Mirrors

下载后安装:

2.1、解压

进入到解压后的文件查看:

2.2、创建data文件夹

2.3、配置文件

(1)进入config目录 ,复制zoo_sample.cfg文件,改名为zoo.cfg,更改zoo_sample.cfg 文件名为 zoo.cfg 的原因为:安装的bin目录下的 zkEnv.cmd文件内指定了使用 zoo.cfg文件。

(若不更改zoo_sample.cfg文件名,也可直接把此文件中的 zoo.cfg 更改为 zoo_sample.cfg

(2)修改配置文件 zoo.cfg:

把dataDir=/tmp/zookeeper
修改为:
dataDir=D:\\javas\\zk\\apache-zookeeper-3.6.4-bin\\data
注意:此处的路径一定要使用双斜杠" \ ",如果是单斜杠,在启动服务端时会把配置的内容输出到 bin 目录下面)
2.4、添加环境变量

    ①新建环境变量

   点击确定

  ②将新建的环境变量添加到系统变量path中

2.5、启动zk:zkServer

以管理员权限打开cmd命令窗口,输入

zkServer

或者进入到 bin 目录,双击 zkServer.cmd: 

2.6、客户端

客户端连接Zookeeper:zkCli,

以管理员权限打开命令窗口,输入:zkCli

3、Scala
3.1、下载安装

下载地址:https://downloads.lightbend.com/scala/2.11.12/scala-2.11.12.msi

下载后按照提示一步步安装,如我安装在

3.2、配置环境变量

(1)新增环境变量%SCALA_HOME% 

(2)%SCALA_HOME%\bin添加到path中

 

3.3、验证是否安装成功

cmd输入:Scala

二、kafka下载安装

version:2.12-3.5.2,表示Scala版本是2.12,Kafka版本是基于此的3.5.2版本。

1、下载

官网下载地址:Index of /kafka/3.5.2 (apache.org)

2、安装
2.1、解压

如我解压到D:\javas\kafka\kafka_2.12-3.5.2

2.2、新建logs目录
 2.3、修改配置文件

修改Kafka配置文件 server.properties

文件路径:D:\javas\kafka\kafka_2.12-3.5.2\config\server.properties

2.3.1、修改 log.dirs 参数

修改 log.dirs 参数值,修改成上一步新建的logs文件夹。注意文件夹路径中是双左斜杠

log.dirs=D:\\javas\\kafka\\kafka_2.12-3.5.2\\logs
2.3.2、修改 listeners 参数
listeners=PLAINTEXT://localhost:9092

3、启动 

(1)启动zk:

   由于Kafka依赖于Zookeeper,所以要先启动Zookeeper,cmd输入zkServer即可启动zk。

(2)启动kafka:

管理员权限打开命令窗口,进入到Kafka安装目录(D:\javas\kafka\kafka_2.12-3.5.2)。
输入如下命令启动Kafka服务:

.\bin\windows\kafka-server-start.bat .\config\server.properties

4、kafka操作 

Kafka2.2之后版本中使用–zookeeper hadoop01:2181会出现报错情况,2.2之后的版本使用了–bootstrap-server hadoop01:9092来替换–zookeeper hadoop01:2181。

以下命令均在D:\javas\kafka\kafka_2.12-3.5.2\bin\windows目录下:

4.1、创建topic

cmd打开一个新窗口:

kafka-topics.bat --create --bootstrap-server localhost:9092 --replication-factor 1 --partitions 1 --topic test

4.2、查看topic列表 
kafka-topics.bat --bootstrap-server localhost:9092 --list

4.3、创建生产者

cmd打开一个新窗口

kafka-console-producer.bat --broker-list localhost:9092 --topic test

4.4、创建消费者 

cmd打开一个新窗口

4.5、测试收发消息 

(1)在producer(生产者)控制台窗口输入消息:

(2)在consumer(消费者)控制台窗口查看消息:

注意:收不到消息,常见情况

  1. 在consumer没有打开之前,就在producer里面发送了消息
  2. producer和consumer使用的topic不一致

三、kafka manager控制台

为了简化开发者和服务工程师维护Kafka集群的工作,yahoo构建了一个叫做Kafka管理器的基于Web工具,叫做 Kafka Manager。这个管理工具可以很容易地发现分布在集群中的哪些topic分布不均匀,或者是分区在整个集群分布不均匀的的情况。它支持管理多个集群、选择副本、副本重新分配以及创建Topic。同时,这个管理工具也是一个非常好的可以快速浏览这个集群的工具,有如下功能:

1.管理多个kafka集群
2.便捷的检查kafka集群状态(topics,brokers,备份分布情况,分区分布情况)
3.选择你要运行的副本
4.基于当前分区状况进行
5.可以选择topic配置并创建topic(0.8.1.1和0.8.2的配置不同)
6.删除topic(只支持0.8.2以上的版本并且要在broker配置中设置delete.topic.enable=true)
7.Topic list会指明哪些topic被删除(在0.8.2以上版本适用)
8.为已存在的topic增加分区
9.为已存在的topic更新配置
10.在多个topic上批量重分区
11.在多个topic上批量重分区(可选partition broker位置)

https://github.com/yahoo/kafka-manager

下载kafka-manager的releases中的最新zip版本: https://github.com/yahoo/kafka-manager/releases

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/753094.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Kotlin/Android中执行HTTP请求

如何在Kotlin/Android中执行简单的HTTP请求 okhttp官网 okhttp3 github地址 打开build.gradle.kts文件加入依赖 dependencies {implementation("com.squareup.okhttp3:okhttp:4.9.0") }在IDEA的Gradle面板点击reload按钮便会自动下载jar

从零开始:视频直播美颜SDK的开发与接入详解

开发一款功能强大的美颜SDK并将其接入视频直播应用,成为许多开发者和企业的迫切需求。本篇文章,小编将详细介绍如何从零开始开发和接入视频直播美颜SDK。 一、美颜SDK的基本概念 美颜SDK是一组工具和库,帮助开发者在应用程序中实现美颜效果…

浅谈Mysql Innodb存储引擎

一、Mysql整体架构 二、MySQL 5.7 支持的存储引擎 类型 描述 MyISAM 拥有较高的插入、查询速度,但不支持事务 InnoDB 5.5版本后Mysql的默认数据库,5.6版本后支持全文索引,事务型数据库的首选引擎,支持ACID事务,支…

【Deep Learning】Meta-Learning:训练训练神经网络的神经网络

元学习:训练训练神经网络的神经网络 本文基于清华大学《深度学习》第12节《Beyond Supervised Learning》的内容撰写,既是课堂笔记,亦是作者的一些理解。 1 Meta-Learning 在经典监督学习中,给定训练数据 { ( x i , y i ) } i \{…

cython 笔记

数据类型 # bool 类型 // bool_type_ptactice.pyx cdef bint a 123 # 非0 为 真 , 0 为假 cdef bint b -123 cdef bint c 0 py_a a # cdef 定义的内容没法直接在python中直接引用 py_b b py_c c// main.py import pyximport pyximport.install(language_le…

超详细之IDEA上传项目到Gitee完整步骤

1. 注册gitee 账号密码,gitee官网地址:Gitee官网,注册完成后,登录。 2. 创建仓库,在主页左下角有新建按钮,点击新建后会进入到此页面填写仓库信息。 3. 创建完成后复制仓库地址 4. 打开IntelliJ IDEA新建或…

Python 语法基础一

1.变量 python 中变量很简单,不需要指定数据类型,直接使用等号定义就好。python变量里面存的是内存地址,也就是这个值存在内存里面的哪个地方,如果再把这个变量赋值给另一个变量,新的变量通过之前那个变量知道那个变量…

新品Coming Soon!OAK-D-SR-PoE:使用3D+AI视觉结合ToF实现箱体测量和鉴别!

OAKChina 新品:OAK-D SR PoE结合ToF实现箱体检测 3DAI解决方案提供商 手动测量箱体、缺陷、大小等操作可能是一项繁琐并且劳累而机械的任务,但OAK中国本次将提供了更好的解决方案:3DAI视觉处理箱体的识别和检测,使用了即将发布的…

在Ubuntu上安装VNC服务器教程

Ubuntu上安装VNC服务器方法:按照root安装TeactVnc,随后运行vncserver输入密码,安装并打开RickVNC客户端,输入服务器的IP,最后连接输入密码即可。 VNC或虚拟网络计算,可让您连接到远程Linux / Unix服务器的…

力扣 刷题 使用双指针进行数组去重分析

目录 双指针 一、26.删除有序数组中的重复项 题目 题解 二、80. 删除有序数组中的重复项 II 题目 题解 三、27. 移除元素 题目 题解 双指针 我们这里所说的双指针实际上并不是真正的指针,它只是两个变量,用于标识数组的索引等,因其…

基于AiService实现智能文章小助手

顾名思义,这个应用就是希望能利用大模型的能力来帮助我写文章,那这样一个应用该如何利用LangChain4j来实现呢?接下来我们来利用AiService进行实现。 AiService代理 首先,我们定义一个接口Writer,表示作家&#xff1a…

高质量AIGC/ChatGPT/大模型资料分享

2023年要说科技圈什么最火爆,一定是ChatGPT、AIGC(人工智能生成内容)和大型语言模型。这些技术前沿如同科技世界的新潮流,巨浪拍岸,引发各界关注。ChatGPT的互动性和逼真度让人们瞠目,它能与用户展开流畅对…

谷歌如何进行失效链接建设?

失效链接建设是一种高效的外链建设策略,通过发现并利用失效链接来提升自己网站的SEO。以下是详细的步骤: 寻找失效页面:你需要使用SEO工具,如Ahrefs,来查找与你的网站内容相关的失效页面。这些页面可能是竞争对手的失…

Vue项目生产环境的打包优化

Vue项目生产环境的打包优化 前言 在这篇文章我们讨论Vue项目生产环境的打包优化,并按步骤展示实际优化过程中的修改和前后对比。 背景 刚开始的打包体积为48.71M 优化 步骤一:删除viser-vue viser-vue底层依赖antv/g2等库一并被删除,…

【EI会议】2024年机械、计算机工程与材料国际会议 (MCEM 2024)

2024年机械、计算机工程与材料国际会议 (MCEM 2024) 2024 International Conference on Mechanical, Computer Engineering and Materials 【重要信息】 大会地点:广州 官网地址:http://www.ismcem.com 投稿邮箱:ismcemsub-conf.com 【注意…

《XR应用开发者头显运行需求调研报告》重磅发布 ,开发者更加关注集成和可扩展性!

近期,LarkXR发布了一项新的解决方案,实现了3D/XR企业级应用全面接入Apple Vision Pro等头显设备。作为长期陪伴在XR行业开发者身边的技术伙伴,Paraverse平行云发起了此次行业调研,希望通过调研更直观地了解开发者在使用头显运行XR…

IDEA 导出ER图无表关系

一、通过IDEA导出的ER图无表关系,如下: 二、解决无表关系方法 1)这是建表时,user_work表中的t_id不规范,导致idea 找不到虚拟外键,也就不能绘制虚拟外键关系。那我们把user_work表t_id命名规范,t_id是user表…

VBA 批量变换文件名

1. 页面布局 在“main”Sheet中按照下面的格式编辑。 2. 实现代码 Private wsMain As Worksheet Private intIdx As LongPrivate Sub getExcelBookList(strPath As String)Dim fso As ObjectDim objFile As ObjectDim objFolder As ObjectSet fso = CreateObject("Scrip…

Steam新用户怎么参加夏促 Steam最新注册账号+下载客户端教程

steam夏促来了,这里给新玩家科普一下,steam就是一个游戏平台,里面的海量的各种游戏,而steam经常会有各种打折的活动,夏促就是其中之一,并且是其中规模最大的之一,涵盖游戏数量多,优惠…

ZW3D二次开发_CAM_添加刀具

在ZW3D2025中可以通过库添加刀具,代码如下: int idx_tool;int ret ZwCamToolInsertFromLibrary("", "001 METRIC TOOLS.xlsx", "10 mm Flat Endmill", &idx_tool); 平台功能添加刀具如下: