Kafka 集群搭建

  1. Kafka 集群搭建
    1. 一, Zookeeper 集群安装
    2. 二, Kafka 集群安装

Kafka 集群搭建

一, Zookeeper 集群安装

0, 准备工作: 修改机器打开文件句柄数量为最大,格式化磁盘xfs格式, 注意:尽量保持kafka的数据放到单独的磁盘

1, 创建日志目录和数据目录

​ mkdir /data/zookeeper/logs && mkdir /data/zookeeper/data

2, 解压zookeeper压缩包:

​ tar –xvf zookeeper-xxx.tar.gz

3, 拷贝配置文件

​ cd zookeeper-xxx && cp conf/zoo_sample.cfg conf/zoo.cfg

4, 修改配置文件zoo.cfg

​ 设置 dataDir=/data/zookeeper/data 设置 dataLogDir=/data/zookeeper/logs

5, 修改集群配置(如有三台机)

​ server.1=192.168.1.1:2888:3888

​ server.2=192.168.1.2:2888:3888

​ server.3=192.168.1.3:2888:3888

6, 创建主机标识ID:

​ 在第一台机器上执行: echo “1”> /data/zookeeper/data/myid

​ 在第二台机器上执行: echo “2”> /data/zookeeper/data/myid

​ 在第三台机器上执行: echo “3”> /data/zookeeper/data/myid

​ 7,启动zookeeper: cd zookeeper-xxx/bin && sh zkServer.sh start

​ 8, 查看启动日志 cd zookeeper-xx && tail –f zookeeper.out

二, Kafka 集群安装

1, 解压缩kafka文件

​ tar –xvf kafka_2.11-xxx.tgz

2, 创建kafka数据目录

​ mkdir /data/kafka/data

3, 修改配置文件server.properties

​ 1)修改broker编号

​ broker.id=1(第一台机配置文件中修改为)

​ broker.id=2(第二台机配置文件中修改为)

​ broker.id=3(第三台机配置文件中修改为)

​ 2) 修改数据目录

​ log.dir=/data/kafka/data

​ 3)修改zookeeper 连接地址

​ zookeeper.connect=192.168.1.1:2181,192.168.1.2:2181, 192.168.1.3:2181

​ 4)修改备份因子配置:

​ default.replication.factor=2

​ 5)配置监听IP和端口

​ listeners=PLAINTEXT://192.168.1.1:9092(第一台机配置文件中修改为)

​ listeners=PLAINTEXT://192.168.1.2:9092(第二台机配置文件中修改为)

​ listeners=PLAINTEXT://192.168.1.3:9092(第三台机配置文件中修改为)

4, 启动kafka

​ cd kafka-xxx && nohup bin/kafka-server.sh config/server.properties &

5, 查看启动日志

​ cd kafka-xxx/logs && tail –f server.log


转载请注明来源,欢迎对文章中的引用来源进行考证,欢迎指出任何有错误或不够清晰的表达。可以在下面评论区评论,也可以邮件至 zoubinbf@163.com

×

喜欢就点赞,疼爱就打赏