Перейти к содержимому

Изменения документа Примеры

Редактировал(а) Alexandr Fokin 2026/08/26 19:05
От версии 8.30
отредактировано Alexandr Fokin
на 2026/07/27 03:59
Изменить комментарий: К данной версии нет комментариев
К версии 4.1
отредактировано Alexandr Fokin
на 2026/04/27 13:25
Изменить комментарий: Вложение перемещено из xwiki:Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome.

Сводка

Подробности

Свойства страницы
Родительский документ
... ... @@ -1,1 +1,1 @@
1 -Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome
1 +Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome
Содержимое
... ... @@ -1,9 +1,7 @@
1 -|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
2 -|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
3 -Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
1 +|1|Родительский процесс, N дочерних процессов.|(((
4 4  |(((
5 -|(((
6 -Вариант 1: CounterTrigger.
3 +В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
4 +Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
7 7  )))
8 8  |(((
9 9  1. Родительский процесс создает триггер со счетчиком N, создает и запускает дочерние процессы, засыпает.
... ... @@ -19,80 +19,19 @@
19 19  Для таких случаев создается страхующий триггер (1 общий на тип процесса). Этот триггер запускается периодически и проходится по всем ожидающим процессам, проверяя условие (в реализации можно использовать keyset пагинацию) (в реализации можно использовать join для проверки условия).
20 20  Этот триггер выполняется периодически с более крупной временной задержкой. В случае обнаружения потери TriggerEvent, он поднимет заклинивший родительский процесс и он будет обработан (но позже). Можно установить этому триггеру низкий приоритет.
21 21  )))
22 -|[[image:Родительский дочерний процесс. Sequence.jpg]]
23 -)))
20 +|
24 24  |(((
25 -Вариант №2:
26 -
27 -Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
28 -В этом случае будет
29 -
30 -* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
31 -Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
32 -* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
33 -* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
34 -** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
22 +
35 35  )))
36 -|(((
37 -Вариант №3:
38 -
39 -Дочерние процессы выполняются через родительский (ограничение в рамках одной ноды).
40 -Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
41 -За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
42 -Но мы ограничены выполнением дочерних процессов одной одной сервиса.
43 -Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
44 -Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
45 45  )))
46 -|(((
47 -Вариант №4:
48 -
49 -SimpleStreamTrigger + Timer (один из лучших вариантов).
50 -
51 -* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
52 -** Если все обработано, то пробуждает процесс и деактивируется.
53 -** Иначе:
54 -*** деактивируется (до поступления хотя бы одного сигнала),
55 -*** взводит признак стрима - процесс ожидает,
56 -*** взводит флаг новых сигналов на 0,
57 -*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
58 -* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
59 -** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
60 -* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
61 -но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
62 -* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
63 -)))
64 -|(((
65 -|Вариант №5: Trigger + Счетчик в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]].
66 -|InMemory счетчик, нагрузка на БД и конкуренция.
67 -Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
68 -|(((
69 -Проблема: изменение счетчика не привязано к основной транзакции БД.
70 -
71 -Возможно:
72 -
73 -1. До коммита транзакции уменьшаем счетчик и записываем id дочернего процесса в redis hashset. Если счетчик 0, то публикуем triggerEvent через TransactionalOutbox.
74 -(На старте транзакции проверить и удалить из HashSet и если удалили, то увеличить счетчик на 1 - значит была упавшая транзакция).
75 -1. После коммита транзакции удаляем id дочернего процесса из redis hashset.
76 -(Таким устраняем возможность потери сигнала, а также дублирование прокрутки счетчика).
77 -1. Trigger при получении события смотрит значение счетчика и HashSet.
78 -Если счетчик 0 и HashSet пустой, то активируем триггер.
79 -Внутри хендлера проверяем что все процессы завершены (если нет, то значит были проблемы переходим в аварийный режим и ждем сигналов от незавершенных процессов).
80 -Иначе если HashSet не пустой, то можно попытаться проверить статус процесса (если он завершен, то можно удалить значение из HashSet).
81 -)))
82 -|Проблемы: Потеря счетчика целиком или искажения значения в случае падения Redis.
83 -В таком случае дочерние процессы переходят в аварийный режим (каждый раз публикуют событие сигнал, а также событие взведения таймера чтобы сгладить нагрузку).
84 -)))
85 -)))
86 -|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
87 -|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
25 +|2|Transaction outbox stream process.|
26 +|3|Stream trigger|(((
88 88  | |(((
89 89  * Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
90 -* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
29 +* Позволяет полностью убрать задержку после остановки процесса (если есть новое сообщения, то он сразу же будет пробужден).
91 91  За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
92 92  * Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
93 93  * Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
94 -* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
95 -(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
96 96  )))
97 97  |Алгоритм триггера.|(((
98 98  * При получении события о засыпании процесса:
... ... @@ -108,40 +108,5 @@
108 108  Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
109 109  Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
110 110  )))
111 -|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
48 +| |TODO:
112 112  )))
113 -|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
114 -| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
115 -Наличие у строк упорядоченного столбца (для выделения диапазонов).
116 -| |(((
117 -|(% style="width:888px" %)Родительские процесс определяет границы диапазона [min, max].|(% style="width:266px" %){{code language="none"}}select min(), max()
118 -where condition(){{/code}}
119 -|(% style="width:888px" %)Родительский процесс нарезает диапазон [min, max] на поддиапазоны. На каждый поддиапазон создается дочерний процесс.|(% style="width:266px" %)
120 -|(% style="width:888px" %)Каждый дочерний процесс обрабатывает свой поддиапазон строк (параллельно).|(% style="width:266px" %)Внутри поддиапазона может использоваться keyset пагинация.
121 -|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
122 -)))
123 -)))
124 -
125 -----
126 -
127 -==== Внутренние ссылки: ====
128 -
129 -====== Дочерние страницы: ======
130 -
131 -{{children/}}
132 -
133 -====== Обратные ссылки: ======
134 -
135 -{{velocity}}
136 -#set ($links = $doc.getBacklinks())
137 -#if ($links.size() > 0)
138 - #foreach ($docname in $links)
139 - #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
140 - * [[$escapetool.xml($rdoc.fullName)]]
141 - #end
142 -#else
143 - No back links for this page!
144 -#end
145 -{{/velocity}}
146 -
147 -----
Родительский дочерний процесс. Sequence.jpg
Автор
... ... @@ -1,1 +1,0 @@
1 -XWiki.cccc1808
Размер
... ... @@ -1,1 +1,0 @@
1 -280.7 KB
Содержимое
%D0%A0%D0%BE%D0%B4%D0%B8%D1%82%D0%B5%D0%BB%D1%8C%D1%81%D0%BA%D0%B8%D0%B9%20%D0%B4%D0%BE%D1%87%D0%B5%D1%80%D0%BD%D0%B8%D0%B9%20%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81.%20Sequence.jpg
Автор
... ... @@ -1,0 +1,1 @@
1 +XWiki.cccc1808
Размер
... ... @@ -1,0 +1,1 @@
1 +280.7 KB
Содержимое
TransactionOutbox.%20Sequence.jpg
Автор
... ... @@ -1,0 +1,1 @@
1 +XWiki.cccc1808
Размер
... ... @@ -1,0 +1,1 @@
1 +247.1 KB
Содержимое
XWiki.XWikiComments[0]
Автор
... ... @@ -1,1 +1,0 @@
1 -XWiki.cccc1808
Комментарий
... ... @@ -1,4 +1,0 @@
1 -Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
2 -
3 -* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
4 -* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.
Дата
... ... @@ -1,1 +1,0 @@
1 -2026-05-01 15:36:23.922