博客 命令消费kafka报错(id: -1 rack: null) disconnected

命令消费kafka报错(id: -1 rack: null) disconnected

   数栈君   发表于 2023-07-06 11:50  486  0

CDP 717环境使用kafka-console-consumer 命令消费kafka报错如下

23/03/28 09:19:07 WARN clients.NetworkClient: [Consumer clientId=consumer-console-consumer-52833-1, groupId=console-consumer-52833] Bootstrap broker xx.xx.xx.xx:9092 (id: -1 rack: null) disconnected
1
原因
是因为kafka开启了kerberos
具体检查可见

1、In Cloudera Manager, navigate to Kafka > Configuration.
2、Set SSL Client Authentication to none.
3、Set Inter Broker Protocol to SASL_PLAINTEXT.

解决方式
1、创建文件jaas.conf
KafkaClient {
com.sun.security.auth.module.Krb5LoginModule required
useKeyTab=true
keyTab="/var/run/cloudera-scm-agent/process/11111-kafka-KAFKA_BROKER/kafka.keytab"
principal="kafka/xxxx@XXX.XXX.COM";
};
1
2
3
4
5
6
注意:这里principal不清楚的话可以先执行kinit认证后,klist查看对应信息填入即可

2、创建文件client.properties
security.protocol=SASL_PLAINTEXT
sasl.kerberos.service.name=kafka
1
2
3、执行命令
这里的jaas文件路径参考上面1存放路径
export KAFKA_OPTS="-Djava.security.auth.login.config=/home/user/jaas.conf"

4、执行消费命令
/opt/cloudera/parcels/CDH/bin/kafka-console-consumer --topic mytpoic --bootstrap-server brokerip:9092 --consumer.config client.properties --from-beginning


免责申明:

本文系转载,版权归原作者所有,如若侵权请联系我们进行删除!

《数据治理行业实践白皮书》下载地址:https://fs80.cn/4w2atu

《数栈V6.0产品白皮书》下载地址:
https://fs80.cn/cw0iw1

想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:
https://www.dtstack.com/?src=bbs

同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术群」,交流最新开源技术信息,群号码:30537511,项目地址:
https://github.com/DTStack

0条评论
上一篇:Eureka简介及使用
社区公告
  • 大数据领域最专业的产品&技术交流社区,专注于探讨与分享大数据领域有趣又火热的信息,专业又专注的数据人园地

最新活动更多
微信扫码获取数字化转型资料
钉钉扫码加入技术交流群