Комментарий

• Свойства страницы (3 изменено, 0 добавлено, 0 удалено)
• Объекты (2 изменено, 0 добавлено, 0 удалено)
  • XWiki.XWikiComments[3]
  • XWiki.XWikiComments[4]

Подробности

Свойства страницы

Родительский документ

...	...	@@ -1,1 +1,1 @@
1		-Разработка.Брокеры сообщений.WebHome
	1	+Разработка.Очереди сообщений.WebHome

Теги

...	...	@@ -1,1 +1,1 @@
1		-Apache|БрокерСообщений|ApacheKafka
	1	+Apache|Kafka

Содержимое

...	...	@@ -7,13 +7,12 @@
7	7	В более старых версиях Kafka zookeeper отвечал и за хранение оффсетов, но сейчас они хранятся в специальном топике __consumer_offsets на брокере
8	8
9	9	**Apache Kafka**
	10	+Producer (Отправитель)
	11	+Consumer (Получатель)
	12	+Topic (Отчасти схож с очередью)
	13	+Partition (Topic может содержаться несколько разделов, позволяющих работать параллельно нескольким Consumer) (Данные находящиеся в разных partition одного topic не дублируют друг друга)
	14	+CosumerGroup (Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения)) (В рамках одной ConsumerGroup кол-во активных Consumer не может быть больще чем кол-во partitions. Неактивные Consumer могут быть резервными и автоматически будут подключены, если активный Consumer выйдет из строя)
10	10
11		-* Producer (Отправитель)
12		-* Consumer (Получатель)
13		-* Topic (Отчасти схож с очередью)
14		-* Partition (Topic может содержаться несколько разделов, позволяющих работать параллельно нескольким Consumer) (Данные находящиеся в разных partition одного topic не дублируют друг друга)
15		-* CosumerGroup (Consumers, находящиеся в разных CosumerGroup, читают данные параллельно и независимо друг от друга. (Получают одни и те же сообщения)) (В рамках одной ConsumerGroup кол-во активных Consumer не может быть больще чем кол-во partitions. Неактивные Consumer могут быть резервными и автоматически будут подключены, если активный Consumer выйдет из строя)
16		-
17	17	Статьи:
18	18	https://habr.com/ru/company/avito/blog/465315/
19	19	https://ksqldb.io/quickstart.html
...	...	@@ -26,9 +26,22 @@
26	26	https://github.com/wurstmeister/kafka-docker
27	27	https://github.com/lensesio/fast-data-dev
28	28
	28	+
29	29	Клиенты:
30	30	[[confluentinc/confluent-kafka-dotnet>>https://github.com/confluentinc/confluent-kafka-dotnet]]
31	31
	32	+KafkaConsoleTool:
	33	+https://riptutorial.com/apache-kafka/topic/8990/kafka-console-tools
	34	+https://medium.com/@TimvanBaarsen/apache-kafka-cli-commands-cheat-sheet-a6f06eac01b
	35	+https://howtoprogram.xyz/2016/07/08/apache-kafka-command-line-interface/
	36	+https://help.aiven.io/en/articles/2661525-viewing-and-resetting-consumer-group-offsets
	37	+
	38	+https://stackoverflow.com/questions/32697999/kafka-consumer-list
	39	+https://stackoverflow.com/questions/35437681/kafka-get-partition-count-for-a-topic
	40	+https://stackoverflow.com/questions/14755030/apache-kafka-consumer-state
	41	+https://stackoverflow.com/questions/28156227/kafka-consumer-group-creation-with-specific-offset
	42	+
	43	+
32	32	Understanding Kafka partition assignment strategies and how to write your own custom assignor
33	33	https://medium.com/streamthoughts/understanding-kafka-partition-assignment-strategies-and-how-to-write-your-own-custom-assignor-ebeda1fc06f3
34	34

XWiki.XWikiComments[3]

Комментарий

...	...	@@ -1,8 +1,14 @@
1		-Что такое гарантия доставки сообщений или как избавиться от дублей и потерь в Apache Kafka и других Big Data брокерах
2		-https://www.bigdataschool.ru/blog/kafka-exactly-once.html
	1	+{{code language="cmd"}}
	2	+Список топиков
	3	+kafka-topics.bat --bootstrap-server <server> --list
3	3
4		-Как ускорить работу producer’ов Kafka: параметры конфигурации производителей
5		-https://www.bigdataschool.ru/blog/kafka-producers-configuration.html
	5	+Консольный consumer
	6	+kafka-console-consumer.bat --bootstrap-server <server> --topic <topic> --from-beginning
6	6
7		-Почему ваша Kafka такая медленная и как ее ускорить: 7 главных факторов производительности этой Big Data системы
8		-https://www.bigdataschool.ru/blog/kafka-performance-factors.html
	8	+Данные по ConsumerGroup(текущее смещение)
	9	+kafka-consumer-groups.bat --describe --group <ConsumerGroupId> --bootstrap-server <server>
	10	+
	11	+Удалить ConsumerGroup(смещения по группе)
	12	+kafka-consumer-groups.bat --bootstrap-server <server> --delete --group <ConsumerGroupId>
	13	+{{/code}}
	14	+

Дата

...	...	@@ -1,1 +1,1 @@
1		-2020-09-23 11:04:41.813
	1	+2020-03-05 19:11:35.57

XWiki.XWikiComments[4]

Комментарий

...	...	@@ -1,7 +1,5 @@
1		-Изменение параметра максимального размера сообщения:
	1	+Вариант использования.
	2	+В очереди скопилось много сообщений, которые можно пропустить. Необходимо начать читать свежие сообщения.
2	2
3		-Kafka - Broker: Message size too large
4		-https://stackoverflow.com/questions/59322133/kafka-broker-message-size-too-large
5		-
6		-Increase message.max.bytes
7		-https://github.com/bitnami/bitnami-docker-kafka/issues/13
	4	+1) Удалить ConsumerGroup.
	5	+2) Подключить Consumer с заданным параметром AutoOffsetReset. (значение параметра - задать смещение с конца)

Дата

...	...	@@ -1,1 +1,1 @@
1		-2021-08-18 20:59:32.997
	1	+2020-06-30 10:02:02.880