Изменения документа Apache Kafka
Редактировал(а) Alexandr Fokin 2024/09/07 11:00
<
>
отредактировано Alexandr Fokin
на 2022/01/01 19:14
на 2022/01/01 19:14
отредактировано Alexandr Fokin
на 2022/06/27 15:49
на 2022/06/27 15:49
Изменить комментарий:
К данной версии нет комментариев
Комментарий
-
Свойства страницы (1 изменено, 0 добавлено, 0 удалено)
Подробности
- Свойства страницы
-
- Содержимое
-
... ... @@ -1,3 +1,5 @@ 1 +Разработан на языке [[Java>>Разработка.JVM.Java.WebHome]] 2 + 1 1 **Компоненты:** 2 2 3 3 * Message - представляет из себя набор Key-Value значений. ... ... @@ -10,16 +10,17 @@ 10 10 * Partition - Представляет из себя очередь, содержащую последовательность экземпляров сообщений, при этом у каждого сообщения есть свой уникальный порядковый номер. 11 11 Для каждого читаемого Partition у потребителя храниться значение Offset - смещение, порядковый номер текущего сообщения. После прочтения Offset увеличивается на 1. 12 12 * 13 -* CosumerGroup - Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения) 15 +* CosumerGroup - 16 +Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга (Получают одни и те же сообщения). 14 14 В рамках одной ConsumerGroup кол-во активных Consumer не может быть больше чем кол-во Partition в рамках одного Topic. 15 -Неактивные Consumer выполняет роль резервного и автоматически будут подключены, если один из активных Consumer выйдет из строя. (Или если количество Partition будет увеличино). 16 -* Offset - смещение. Содержит информации о текущей позиции читателя для каждой пары <TopicName>.<PartitionId> ,<ConsumerGroupId>.18 +Каждому активному Consumer назначается 1 и более Partition для чтения данных. Неактивные Consumer выполняет роль резервного и автоматически будут подключены, если один из активных Consumer выйдет из строя. (Или если количество Partition будет увеличино). 19 +* Offset - смещение. Содержит информации о текущей позиции читателя для каждой пары <TopicName>.<PartitionId>.<ConsumerGroupId>. 17 17 18 18 ---- 19 19 20 20 **Используемое ПО:** 21 21 22 -** Zookeeper| [[Zookeeper>>doc:Разработка.Базы данных.NoSQL.Zookeeper.WebHome]]**25 +**[[Apache ZooKeeper>>Разработка.Базы данных.NoSQL.Ключ-значение структура.Apache ZooKeeper.WebHome]]** 23 23 24 24 Ранее требовался для запуска. 25 25 Zookeeper выполняет роль хранилища метаданных и координатора. Также именно к zookeeper сперва пойдут producer и consumer, чтобы узнать, на каком брокере какие топики и партиции хранятся. ... ... @@ -37,9 +37,6 @@ 37 37 Kafka и микросервисы: обзор 38 38 https://habr.com/ru/company/avito/blog/465315/ 39 39 40 -ksqlDB Quickstart 41 -https://ksqldb.io/quickstart.html 42 - 43 43 Apache Kafka — Краткое руководство 44 44 https://coderlessons.com/tutorials/bolshie-dannye-i-analitika/vyuchit-apache-kafka/apache-kafka-kratkoe-rukovodstvo 45 45 ... ... @@ -49,7 +49,7 @@ 49 49 client.id Property 50 50 https://jaceklaskowski.gitbooks.io/apache-kafka/kafka-properties-client-id.html 51 51 52 -Offset Explorer 52 +Kafka Tool / Offset Explorer 53 53 Декстоп клиент для работы к Kafka. (Есть функционал просмотра содержимого топиков и отправки сообщений) 54 54 https://kafkatool.com/ 55 55 ... ... @@ -56,8 +56,6 @@ 56 56 Apache Kafka Use Cases (with Kafka Architecture Diagrams) 57 57 https://medium.com/softkraft/apache-kafka-use-cases-with-kafka-architecture-diagrams-577be32688e5 58 58 59 -Kafka Tool 60 - 61 61 Understanding Kafka partition assignment strategies and how to write your own custom assignor 62 62 https://medium.com/streamthoughts/understanding-kafka-partition-assignment-strategies-and-how-to-write-your-own-custom-assignor-ebeda1fc06f3 63 63