isPowerfulBlog
[Kafka] Consumer not receiving messages 본문
producer로 kafka server에 message를 publish했지만
consumer가 메세지를 받아오지 못하고 있다
해결
- comsume해올 partition을 지정해주라고 한다
~/kafka$ ./bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --partition 0 --from-beginning
- 성공
- consume 실행 전 publish된 메세지도 가져오기 위해서는
--from-beginning
옵션을 붙여줘야한다
✅ 왜 partition을 지정해줘야할까?
__consumer_offsets
라는 topic이 kafka에서 생성되었는지 확인해야 하며, 이 항목이 없을 때 파티션을 수동으로 지정해야 합니다. 이 주제가 만들어지지 않은 이유는 이 구성 옵션인 offset.topic.replication
때문입니다.요인, 브로커 수가 이 매개 변수보다 작으면 offset_filename이 생성되지 않습니다.
~/kafka$ ./bin/kafka-topics.sh --describe --bootstrap-server localhost:9092
- topics 자세하게 보기
음 __consumer_offsets
topic이 (0, 50) partition으로 생성이 되어있는데?,?
근데 왜 50개씩이나 생기지
default값이 50이라고 한다