欢迎您访问365答案网,请分享给你的朋友!
生活常识 学习资料

kafka的安装和简单操作

时间:2023-06-15
kafka安装步骤

1.安装zookeeper

2.修改配置文件

#server.properties#指定broker的id id必须为唯一的integer类型broker.id=1#数据存储的目录log.dirs=/data/kafka#指定zk地址zookeeper.connect=linux01:2181,linux02:2181,linux03:2181#可以删除topic的数据(生成环境不用配置)#delete.topic.enable=true

将配置好的kafka分发给其他机器

for i in {2..3};do scp -r kafka_2.12-2.7.2/ linux0$i:$PWD;done

修改其他机器上的broker.id

3.启动zookeeper

bin/zkServer.sh start

4.启动kafka

bin/kafka-server-start.sh -daemon config/server.properties-daemon 为后台启动服务

kafka基本命令

查看kafka的topic

bin/kafka-topics.sh --list --bootstrap-server linux01:9092,linux02:9092,linux03:9092--新版,直接指定broker机器 多个broker机器用,隔开bin/kafka-topics.sh --list --zookeeper linux01:2181,linux02:2181,linux03:2181--老版本,指定zookeeper的地址

 创建topic

bin/kafka-topics.sh --bootstrap-server linux01:9092,linux02:9092,linux03:9092 --create --topic test --partitions 3 --replication-factor 3//创建一个3个分区3个分区的topic

查看topic的描述信息 

bin/kafka-topics.sh --bootstrap-server linux01:9092,linux02:9092,linux03:9092 --describe --topic test

删除topic

bin/kafka-topics.sh --bootstrap-server linux01:9092,linux02:9092,linux03:9092 --delete --topic test

增加topic的分区数 (只能增加,减少分区报错)

bin/kafka-topics.sh --bootstrap-server linux01:9092,linux02:9092,linux03:9092 --alter --topic test --partitions 5

 命令行创建一个生产者

bin/kafka-console-producer.sh --broker-list linux01:9092,linux02:9092,linux03:9092 --topic hellokafka

 命令行创建一个消费者

bin/kafka-console-consumer.sh --bootstrap-server linux01:9092,linux02:9092,linux03:9092 --topic hellokafka --from-beginning

查看__consumer_offsets  topic的记录的偏移量

bin/kafka-console-consumer.sh --topic __consumer_offsets --bootstrap-server linux01:9092,linux02:9092,linux03:9092 --formatter "kafka.coordinator.group.GroupmetadataManager$OffsetsMessageFormatter" --consumer.config config/consumer.properties --from-beginning

Copyright © 2016-2020 www.365daan.com All Rights Reserved. 365答案网 版权所有 备案号:

部分内容来自互联网,版权归原作者所有,如有冒犯请联系我们,我们将在三个工作时内妥善处理。