Изменения документа Apache Kafka
Редактировал(а) Alexandr Fokin 2024/09/07 11:00
<
>
отредактировано Alexandr Fokin
на 2020/06/13 13:10
на 2020/06/13 13:10
отредактировано Alexandr Fokin
на 2020/08/07 15:18
на 2020/08/07 15:18
Изменить комментарий:
К данной версии нет комментариев
Комментарий
-
Свойства страницы (1 изменено, 0 добавлено, 0 удалено)
-
Объекты (4 изменено, 1 добавлено, 0 удалено)
Подробности
- Свойства страницы
-
- Содержимое
-
... ... @@ -10,8 +10,8 @@ 10 10 Producer (Отправитель) 11 11 Consumer (Получатель) 12 12 Topic (Отчасти схож с очередью) 13 -Partition (Topic может содержаться несколько разделов, позволяющих работать параллельно нескольким Consumer) 14 -CosumerGroup (Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения)) 13 +Partition (Topic может содержаться несколько разделов, позволяющих работать параллельно нескольким Consumer) (Данные находящиеся в разных partition одного topic не дублируют друг друга) 14 +CosumerGroup (Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения)) (В рамках одной ConsumerGroup кол-во активных Consumer не может быть больще чем кол-во partitions. Неактивные Consumer могут быть резервными и автоматически будут подключены, если активный Consumer выйдет из строя) 15 15 16 16 Простой запуст на Windows: 17 17 1) Раскоменнтировать и изменить строки в файле: ... ... @@ -64,4 +64,6 @@ 64 64 https://stackoverflow.com/questions/28156227/kafka-consumer-group-creation-with-specific-offset 65 65 66 66 67 +Understanding Kafka partition assignment strategies and how to write your own custom assignor 68 +https://medium.com/streamthoughts/understanding-kafka-partition-assignment-strategies-and-how-to-write-your-own-custom-assignor-ebeda1fc06f3 67 67
- XWiki.XWikiComments[0]
-
- Комментарий
-
... ... @@ -1,3 +1,3 @@ 1 -Простой способ сбросить состояние - удалить содержимое папок: 1 +Простой способ сбросить состояние тестового локального инстанса - удалить содержимое папок: 2 2 Drive:\tmp\kafka-logs 3 3 Drive:\tmp\zookeeper
- XWiki.XWikiComments[1]
-
- Комментарий
-
... ... @@ -1,1 +1,2 @@ 1 1 Если запросить группу сообщений и выполнить коммит последнего, то смещение установиться на позиции последнего элемента +1. 2 +Нет возможности закоммитить только определенное [i] сообщение.
- XWiki.XWikiComments[2]
-
- Комментарий
-
... ... @@ -1,3 +1,3 @@ 1 -При первом подключении Consumer по умолчанию подсоединиться к концу топика (параметр AutoOffsetReset)2 -и непрочитает сообщения, уже имеющиеся в топике. 3 - 1 +При первом подключении Consumer по умолчанию подсоединиться к концу топика 2 +и не прочитает сообщения, уже имеющиеся в топике. 3 +(параметр AutoOffsetReset)
- XWiki.XWikiComments[3]
-
- Комментарий
-
... ... @@ -1,5 +1,14 @@ 1 1 {{code language="cmd"}} 2 - kafka-console-consumer.bat--bootstrap-server <server> --topic <topic> --from-beginning2 +Список топиков 3 3 kafka-topics.bat --bootstrap-server <server> --list 4 + 5 +Консольный consumer 6 +kafka-console-consumer.bat --bootstrap-server <server> --topic <topic> --from-beginning 7 + 8 +Данные по ConsumerGroup(текущее смещение) 9 +kafka-consumer-groups.bat --describe --group <ConsumerGroupId> --bootstrap-server <server> 10 + 11 +Удалить ConsumerGroup(смещения по группе) 12 +kafka-consumer-groups.bat --bootstrap-server <server> --delete --group <ConsumerGroupId> 4 4 {{/code}} 5 5
- XWiki.XWikiComments[4]
-
- Автор
-
... ... @@ -1,0 +1,1 @@ 1 +XWiki.cccc1808 - Комментарий
-
... ... @@ -1,0 +1,5 @@ 1 +Вариант использования. 2 +В очереди скопилось много сообщений, которые можно пропустить. Необходимо начать читать свежие сообщения. 3 + 4 +1) Удалить ConsumerGroup. 5 +2) Подключить Consumer с заданным параметром AutoOffsetReset. (значение параметра - задать смещение с конца) - Дата
-
... ... @@ -1,0 +1,1 @@ 1 +2020-06-30 10:02:02.880