Изменения документа Apache Kafka
Редактировал(а) Alexandr Fokin 2024/09/07 11:00
<
>
отредактировано Alexandr Fokin
на 2020/06/30 10:02
на 2020/06/30 10:02
отредактировано Alexandr Fokin
на 2020/08/15 20:12
на 2020/08/15 20:12
Изменить комментарий:
К данной версии нет комментариев
Комментарий
-
Свойства страницы (1 изменено, 0 добавлено, 0 удалено)
-
Объекты (3 изменено, 0 добавлено, 0 удалено)
Подробности
- Свойства страницы
-
- Содержимое
-
... ... @@ -10,8 +10,8 @@ 10 10 Producer (Отправитель) 11 11 Consumer (Получатель) 12 12 Topic (Отчасти схож с очередью) 13 -Partition (Topic может содержаться несколько разделов, позволяющих работать параллельно нескольким Consumer) 14 -CosumerGroup (Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения)) 13 +Partition (Topic может содержаться несколько разделов, позволяющих работать параллельно нескольким Consumer) (Данные находящиеся в разных partition одного topic не дублируют друг друга) 14 +CosumerGroup (Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения)) (В рамках одной ConsumerGroup кол-во активных Consumer не может быть больще чем кол-во partitions. Неактивные Consumer могут быть резервными и автоматически будут подключены, если активный Consumer выйдет из строя) 15 15 16 16 Простой запуст на Windows: 17 17 1) Раскоменнтировать и изменить строки в файле: ... ... @@ -29,6 +29,10 @@ 29 29 kafka_2.12-2.4.0\bin\windows\kafka-server-start.bat "kafka_2.12-2.4.0\config\server.properties" 30 30 {{/code}} 31 31 32 +При запуске на Windows у ApacheKafka есть проблемы связанные с блокировкой файлов. 33 +Ошибка проявляется при быстрой манипуляции с топиками (создание/удаление). 34 +При появлении ошибки можно удалить папку tmp и перезапустить. 35 +https://stackoverflow.com/questions/50755827/accessdeniedexception-when-deleting-a-topic-on-windows-kafka 32 32 33 33 Для взаимодействия с ApacheKafka можное использовать консоль. Управляющие скрипты распологаются в папке: 34 34 kafka_2.12-2.4.0\bin\windows ... ... @@ -64,4 +64,6 @@ 64 64 https://stackoverflow.com/questions/28156227/kafka-consumer-group-creation-with-specific-offset 65 65 66 66 71 +Understanding Kafka partition assignment strategies and how to write your own custom assignor 72 +https://medium.com/streamthoughts/understanding-kafka-partition-assignment-strategies-and-how-to-write-your-own-custom-assignor-ebeda1fc06f3 67 67
- XWiki.XWikiComments[1]
-
- Комментарий
-
... ... @@ -1,2 +1,2 @@ 1 1 Если запросить группу сообщений и выполнить коммит последнего, то смещение установиться на позиции последнего элемента +1. 2 -Нет возможности закоммитить только определенное сообщение. 2 +Нет возможности закоммитить только определенное [i] сообщение.
- XWiki.XWikiComments[2]
-
- Комментарий
-
... ... @@ -1,3 +1,3 @@ 1 -При первом подключении Consumer по умолчанию подсоединиться к концу топика (параметр AutoOffsetReset)1 +При первом подключении Consumer по умолчанию подсоединиться к концу топика 2 2 и не прочитает сообщения, уже имеющиеся в топике. 3 - Задаетсяпараметром.(Подключиться к началу или к последнему сообщению)3 +(параметр AutoOffsetReset)
- XWiki.XWikiComments[4]
-
- Дата
-
... ... @@ -1,1 +1,1 @@ 1 -2020-06-30 10:02:02.88 11 +2020-06-30 10:02:02.880