Изменения документа Apache Kafka
Редактировал(а) Alexandr Fokin 2024/09/07 11:00
<
>
отредактировано Alexandr Fokin
на 2022/06/27 15:54
на 2022/06/27 15:54
отредактировано Alexandr Fokin
на 2022/06/23 14:37
на 2022/06/23 14:37
Изменить комментарий:
К данной версии нет комментариев
Комментарий
-
Свойства страницы (1 изменено, 0 добавлено, 0 удалено)
-
Объекты (1 изменено, 0 добавлено, 0 удалено)
Подробности
- Свойства страницы
-
- Содержимое
-
... ... @@ -1,4 +1,4 @@ 1 -Разработан на языке Разработка.JVM.Java.WebHome]]1 +Разработан на языке [[Java>>url:https://wiki.denhome.ru/bin/view/%D0%A0%D0%B0%D0%B7%D1%80%D0%B0%D0%B1%D0%BE%D1%82%D0%BA%D0%B0/JVM/Java/]] 2 2 3 3 **Компоненты:** 4 4 ... ... @@ -12,17 +12,16 @@ 12 12 * Partition - Представляет из себя очередь, содержащую последовательность экземпляров сообщений, при этом у каждого сообщения есть свой уникальный порядковый номер. 13 13 Для каждого читаемого Partition у потребителя храниться значение Offset - смещение, порядковый номер текущего сообщения. После прочтения Offset увеличивается на 1. 14 14 * 15 -* CosumerGroup - 16 -Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга (Получают одни и те же сообщения). 15 +* CosumerGroup - Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения) 17 17 В рамках одной ConsumerGroup кол-во активных Consumer не может быть больше чем кол-во Partition в рамках одного Topic. 18 - Каждому активному Consumer назначается 1 и более Partition для чтения данных.Неактивные Consumer выполняет роль резервного и автоматически будут подключены, если один из активных Consumer выйдет из строя. (Или если количество Partition будет увеличино).19 -* Offset - смещение. Содержит информации о текущей позиции читателя для каждой пары <TopicName>.<PartitionId> .<ConsumerGroupId>.17 +Неактивные Consumer выполняет роль резервного и автоматически будут подключены, если один из активных Consumer выйдет из строя. (Или если количество Partition будет увеличино). 18 +* Offset - смещение. Содержит информации о текущей позиции читателя для каждой пары <TopicName>.<PartitionId>, <ConsumerGroupId>. 20 20 21 21 ---- 22 22 23 23 **Используемое ПО:** 24 24 25 -** [[Apache ZooKeeper>>Разработка.Базы данных.NoSQL.Ключ-значение структура.ApacheZooKeeper.WebHome]]**24 +**Zookeeper | [[Zookeeper>>doc:Разработка.Базы данных.NoSQL.Zookeeper.WebHome]]** 26 26 27 27 Ранее требовался для запуска. 28 28 Zookeeper выполняет роль хранилища метаданных и координатора. Также именно к zookeeper сперва пойдут producer и consumer, чтобы узнать, на каком брокере какие топики и партиции хранятся. ... ... @@ -40,6 +40,9 @@ 40 40 Kafka и микросервисы: обзор 41 41 https://habr.com/ru/company/avito/blog/465315/ 42 42 42 +ksqlDB Quickstart 43 +https://ksqldb.io/quickstart.html 44 + 43 43 Apache Kafka — Краткое руководство 44 44 https://coderlessons.com/tutorials/bolshie-dannye-i-analitika/vyuchit-apache-kafka/apache-kafka-kratkoe-rukovodstvo 45 45 ... ... @@ -49,7 +49,7 @@ 49 49 client.id Property 50 50 https://jaceklaskowski.gitbooks.io/apache-kafka/kafka-properties-client-id.html 51 51 52 - Kafka Tool /Offset Explorer54 +Offset Explorer 53 53 Декстоп клиент для работы к Kafka. (Есть функционал просмотра содержимого топиков и отправки сообщений) 54 54 https://kafkatool.com/ 55 55 ... ... @@ -56,6 +56,8 @@ 56 56 Apache Kafka Use Cases (with Kafka Architecture Diagrams) 57 57 https://medium.com/softkraft/apache-kafka-use-cases-with-kafka-architecture-diagrams-577be32688e5 58 58 61 +Kafka Tool 62 + 59 59 Understanding Kafka partition assignment strategies and how to write your own custom assignor 60 60 https://medium.com/streamthoughts/understanding-kafka-partition-assignment-strategies-and-how-to-write-your-own-custom-assignor-ebeda1fc06f3 61 61
- XWiki.XWikiComments[1]
-
- Комментарий
-
... ... @@ -1,7 +1,2 @@ 1 1 Если запросить группу сообщений и выполнить коммит последнего, то смещение установиться на позиции последнего элемента +1. 2 2 Нет возможности закоммитить только определенное [i] сообщение. 3 - 4 -Некоторые другие брокеры устроены иначе: они работают с отдельными сообщениями и позволяют подтверждать их потребление независимо. В Kafke же единственным критерием является Offset. 5 - 6 -Опциально можно реализовать собственную логику работы с сообщениями, в том числе не возлагая на броке обязанности контролировать смещение, а управляя чтением самостоятельно. 7 -Обычно в Kafka не предполагается, что сообщение будет удалено сразу, и к нему можно обращаются по его значению Offset.