Перейти к содержимому

Изменения документа Примеры

Редактировал(а) Alexandr Fokin 2026/05/09 02:00
От версии 7.1
отредактировано Alexandr Fokin
на 2026/04/27 13:26
Изменить комментарий: Удаление картинки TransactionOutbox.%20Sequence.jpg
К версии 8.18
отредактировано Alexandr Fokin
на 2026/05/09 01:36
Изменить комментарий: К данной версии нет комментариев

Сводка

Подробности

Свойства страницы
Содержимое
... ... @@ -1,7 +1,9 @@
1 -|1|Родительский процесс, N дочерних процессов.|(((
2 -|(((
3 -В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
1 +|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
2 +|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
4 4  Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
4 +|(((
5 +|(((
6 +Вариант 1: CounterTrigger.
5 5  )))
6 6  |(((
7 7  1. Родительский процесс создает триггер со счетчиком N, создает и запускает дочерние процессы, засыпает.
... ... @@ -17,19 +17,54 @@
17 17  Для таких случаев создается страхующий триггер (1 общий на тип процесса). Этот триггер запускается периодически и проходится по всем ожидающим процессам, проверяя условие (в реализации можно использовать keyset пагинацию) (в реализации можно использовать join для проверки условия).
18 18  Этот триггер выполняется периодически с более крупной временной задержкой. В случае обнаружения потери TriggerEvent, он поднимет заклинивший родительский процесс и он будет обработан (но позже). Можно установить этому триггеру низкий приоритет.
19 19  )))
20 -|
22 +|[[image:Родительский дочерний процесс. Sequence.jpg]]
23 +)))
21 21  |(((
22 -
25 +Вариант №2:
26 +
27 +Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
28 +В этом случае будет
29 +
30 +* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
31 +Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
32 +* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
33 +* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
34 +** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
23 23  )))
36 +|(((
37 +Вариант №3:
38 +
39 +Дочерние процессы выполняются через родительский (ограничение в рамках одной ноды).
40 +Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
41 +За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
42 +Но мы ограничены выполнением дочерних процессов одной одной сервиса.
43 +Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
44 +Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
24 24  )))
25 -|2|Transaction outbox stream process.|
26 -|3|Stream trigger|(((
46 +|(((
47 +Вариант N4:
48 +
49 +SimpleStreamTrigger + Timer (один из лучших вариантов).
50 +
51 +* Если сигналов нет, то нет ложных срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
52 +* Записей в БД меньше, чем от варианта 1 (счетчик нужно уменьшать, а здесь достаточно взвести флаг необработанного сигнала).
53 +* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
54 +** Если все обработано, то пробуждает процесс и деактивируется.
55 +** Иначе, деактивируется (до поступления хотя бы одного сигнала), взводит признак стрима что процесс ожидает, взводит флаг новых сигналов на 0, выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
56 +* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
57 +** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
58 +)))
59 +)))
60 +|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
61 +|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
27 27  | |(((
28 28  * Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
29 -* Позволяет полностью убрать задержку после остановки процесса (если есть новое сообщения, то он сразу же будет пробужден).
64 +* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
30 30  За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
31 31  * Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
32 32  * Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
68 +* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
69 +(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
33 33  )))
34 34  |Алгоритм триггера.|(((
35 35  * При получении события о засыпании процесса:
... ... @@ -45,5 +45,16 @@
45 45  Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
46 46  Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
47 47  )))
48 -| |TODO:
85 +|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
49 49  )))
87 +|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
88 +| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
89 +Наличие у строк упорядоченного столбца (для выделения диапазонов).
90 +| |(((
91 +|(% style="width:888px" %)Родительские процесс определяет границы диапазона [min, max].|(% style="width:266px" %){{code language="none"}}select min(), max()
92 +where condition(){{/code}}
93 +|(% style="width:888px" %)Родительский процесс нарезает диапазон [min, max] на поддиапазоны. На каждый поддиапазон создается дочерний процесс.|(% style="width:266px" %)
94 +|(% style="width:888px" %)Каждый дочерний процесс обрабатывает свой поддиапазон строк (параллельно).|(% style="width:266px" %)Внутри поддиапазона может использоваться keyset пагинация.
95 +|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
96 +)))
97 +)))
XWiki.XWikiComments[0]
Автор
... ... @@ -1,0 +1,1 @@
1 +XWiki.cccc1808
Комментарий
... ... @@ -1,0 +1,4 @@
1 +Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
2 +
3 +* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
4 +* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.
Дата
... ... @@ -1,0 +1,1 @@
1 +2026-05-01 15:36:23.922