Изменения документа Примеры

Сводка

• Свойства страницы (1 изменено, 0 добавлено, 0 удалено)
• Объекты (0 изменено, 1 добавлено, 0 удалено)
  • XWiki.XWikiComments[0]

Подробности

Свойства страницы

Содержимое

...	...	@@ -1,7 +1,9 @@
1		-|1|Родительский процесс, N дочерних процессов.|(((
2		-|(((
3		-В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
	1	+|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
	2	+|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
4	4	Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
	4	+|(((
	5	+|(((
	6	+Вариант 1: CounterTrigger.
5	5	)))
6	6	|(((
7	7	1. Родительский процесс создает триггер со счетчиком N, создает и запускает дочерние процессы, засыпает.
...	...	@@ -19,14 +19,56 @@
19	19	)))
20	20	|[[image:Родительский дочерний процесс. Sequence.jpg]]
21	21	)))
22		-|2|Transaction outbox stream process.|[[image:TransactionOutbox. Sequence.jpg]]
23		-|3|Stream trigger|(((
	24	+|(((
	25	+Вариант №2:
	26	+
	27	+Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
	28	+В этом случае будет
	29	+
	30	+* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
	31	+Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
	32	+* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
	33	+* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
	34	+** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
	35	+)))
	36	+|(((
	37	+Вариант №3:
	38	+
	39	+Дочерние процессы выполняются через родительский (ограничение в рамках одной ноды).
	40	+Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
	41	+За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
	42	+Но мы ограничены выполнением дочерних процессов одной одной сервиса.
	43	+Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
	44	+Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
	45	+)))
	46	+|(((
	47	+Вариант N4:
	48	+
	49	+SimpleStreamTrigger + Timer (один из лучших вариантов).
	50	+
	51	+* Если сигналов нет, то нет ложных срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
	52	+* Записей в БД меньше, чем от варианта 1 (счетчик нужно уменьшать, а здесь достаточно взвести флаг необработанного сигнала).
	53	+* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
	54	+** Если все обработано, то пробуждает процесс и деактивируется.
	55	+** Иначе:
	56	+*** деактивируется (до поступления хотя бы одного сигнала),
	57	+*** взводит признак стрима - процесс ожидает,
	58	+*** взводит флаг новых сигналов на 0,
	59	+*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
	60	+* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
	61	+** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
	62	+)))
	63	+)))
	64	+|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
	65	+|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
24	24	| |(((
25	25	* Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
26		-* Позволяет полностью убрать задержку после остановки процесса (если есть новое сообщения, то он сразу же будет пробужден).
	68	+* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
27	27	За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
28	28	* Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
29	29	* Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
	72	+* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
	73	+(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
30	30	)))
31	31	|Алгоритм триггера.|(((
32	32	* При получении события о засыпании процесса:
...	...	@@ -42,17 +42,16 @@
42	42	Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
43	43	Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
44	44	)))
45		-| |TODO:
	89	+|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
46	46	)))
47		-|4|Групповое действие|(((
48		-| |Действие, которое нужно применить к диапазону строк, независимо для каждой строки.
49		-Наличие у строк упорядоченного столбца.
	91	+|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
	92	+| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
	93	+Наличие у строк упорядоченного столбца (для выделения диапазонов).
50	50	| |(((
51		-1. Родительские процесс определяет границы диапазона [min, max].
52		-1. Родительский процесс нарезает диапазон [min, max] на поддиапазоны. На каждый поддиапазон создается дочерний процесс.
53		-1. Каждый дочерний процесс обрабатывает свой поддиапазон строк (параллельно).
54		-1. Родительский процесс ожидает завершения дочерних процессов.
55		-
	95	+|(% style="width:888px" %)Родительские процесс определяет границы диапазона [min, max].|(% style="width:266px" %){{code language="none"}}select min(), max()
	96	+where condition(){{/code}}
	97	+|(% style="width:888px" %)Родительский процесс нарезает диапазон [min, max] на поддиапазоны. На каждый поддиапазон создается дочерний процесс.|(% style="width:266px" %)
	98	+|(% style="width:888px" %)Каждый дочерний процесс обрабатывает свой поддиапазон строк (параллельно).|(% style="width:266px" %)Внутри поддиапазона может использоваться keyset пагинация.
	99	+|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
56	56	)))
57		-| |
58	58	)))

XWiki.XWikiComments[0]

Автор

...	...	@@ -1,0 +1,1 @@
	1	+XWiki.cccc1808

Комментарий

...	...	@@ -1,0 +1,4 @@
	1	+Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
	2	+
	3	+* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
	4	+* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.

Дата

...	...	@@ -1,0 +1,1 @@
	1	+2026-05-01 15:36:23.922