Перейти к содержимому

Изменения документа Примеры

Редактировал(а) Alexandr Fokin 2026/08/26 19:05
От версии 8.43
отредактировано Alexandr Fokin
на 2026/08/11 14:52
Изменить комментарий: К данной версии нет комментариев
К версии 8.7
отредактировано Alexandr Fokin
на 2026/04/29 11:35
Изменить комментарий: К данной версии нет комментариев

Сводка

Подробности

Свойства страницы
Родительский документ
... ... @@ -1,1 +1,1 @@
1 -Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome
1 +Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome
Содержимое
... ... @@ -1,4 +2,3 @@
1 -| |(% style="width:188px" %)**Пример задачи**|(% style="width:1268px" %)**Наборы решений**
2 2  |1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
3 3  |В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
4 4  Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
... ... @@ -23,88 +23,23 @@
23 23  |[[image:Родительский дочерний процесс. Sequence.jpg]]
24 24  )))
25 25  |(((
26 -Вариант №2:
25 +Возможен вариант №2:
27 27  
28 -Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
27 +Мы просто ставит timerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
29 29  В этом случае будет
30 30  
31 -* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
32 -Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
33 -* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
34 -* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
35 -** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
30 +* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой (хотя в задержке можно использовать функцию от количества необработанных дочерних процессов, но тогда нужно считать количество или хотя бы что оно не больше N).
31 +* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер). \
36 36  )))
37 -|(((
38 -Вариант №3:
39 -
40 -Дочерние процессы выполняются через родительский (ограничение в рамках одной ноды).
41 -Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
42 -За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
43 -Но мы ограничены выполнением дочерних процессов одной одной сервиса.
44 -Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
45 -Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
46 46  )))
47 -|(((
48 -Вариант №4:
49 -
50 -SimpleStreamTrigger + Timer.
51 -
52 -* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
53 -** Если все обработано, то пробуждает процесс и деактивируется.
54 -** Иначе:
55 -*** деактивируется (до поступления хотя бы одного сигнала),
56 -*** взводит признак стрима - процесс ожидает,
57 -*** взводит флаг новых сигналов на 0,
58 -*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
59 -* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
60 -** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
61 -* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
62 -но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
63 -* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
64 -)))
65 -|(((
66 -|Вариант №5:
67 -SimpleStreamTrigger + Счетчик в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]]. (на текущий момент самый лучший вариант).
68 -|InMemory счетчик, нагрузка на БД и конкуренция.
69 -Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
70 -Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
71 -|(((
72 -Проблема: изменение счетчика не привязано к основной транзакции БД.
73 -
74 -Возможно:
75 -
76 -1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1 (означает что процесс уже уменьшал счетчик, но потом было падение).
77 -1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent
78 -(добавляем в ручную компенсацию вызов из пункта 1 (при откате изоляции шага и компенсации транзакции)).
79 -1. После коммита транзакции удаляем запись из MemberSet.
80 -(Если мы падаем тут, то процесс уже перешел на другой шаг или даже завершился, поэтому наличие единичной остаточной записи в memberSet не будет критичным).
81 -1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
82 -
83 -MemberSet используется для уменьшения вероятности увеличить или уменьшить счетчик дважды одним экземпляром дочернего процесса.
84 -)))
85 -|(((
86 -В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
87 -
88 -Примеры проблемы:
89 -
90 -* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
91 -Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
92 -* Дублирование обновления счетчика.
93 -Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
94 -Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
95 -)))
96 -)))
97 -)))
98 98  |2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
99 99  |3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
100 100  | |(((
101 101  * Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
102 -* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
38 +* Позволяет полностью убрать задержку после остановки процесса (если есть новое сообщения, то он сразу же будет пробужден).
103 103  За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
104 104  * Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
105 105  * Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
106 -* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
107 -(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
108 108  )))
109 109  |Алгоритм триггера.|(((
110 110  * При получении события о засыпании процесса:
... ... @@ -120,7 +120,7 @@
120 120  Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
121 121  Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
122 122  )))
123 -|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
57 +| |TODO:
124 124  )))
125 125  |4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
126 126  | |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
... ... @@ -130,44 +130,6 @@
130 130  where condition(){{/code}}
131 131  |(% style="width:888px" %)Родительский процесс нарезает диапазон [min, max] на поддиапазоны. На каждый поддиапазон создается дочерний процесс.|(% style="width:266px" %)
132 132  |(% style="width:888px" %)Каждый дочерний процесс обрабатывает свой поддиапазон строк (параллельно).|(% style="width:266px" %)Внутри поддиапазона может использоваться keyset пагинация.
133 -|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
67 +|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов.|(% style="width:266px" %)
134 134  )))
135 135  )))
136 -|5|(% style="width:188px" %)Распределение заявок между исполнителями
137 -(Заготовка).|(% style="width:1268px" %)(((
138 -|(% style="width:94px" %)Описание|(% style="width:1156px" %)Есть поток заявок на деталь (создание детали требует ресурсов, 1 станок, время).
139 -Есть N станков. Опционально: у станка есть уровень ресурсов и коэффициент скорости работы.
140 -Реализация системы распределения и обработки.
141 -|(% style="width:94px" %)Вариант 1|(% style="width:1156px" %)Планирование без очереди к станку.
142 -(У процесса планировщика есть StreamTrigger на поток заявок, StreanTrigger на поток сигналов об освобождении слота станка).
143 -Процесс планировщик назначает заявку на свободный станок. Возможен учет дополнительных критериев (наибольшее количество ресурсов, наилучшая скорость обработки).
144 -Когда все станки заняты планировщик ожидает освобождения станков.
145 -|(% style="width:94px" %)Вариант 2|(% style="width:1156px" %)Планировщик с очередью к станку.
146 -(У процесса станка есть StreamTrigger, на который планировщик подает сигнал в добавления задачи в его очередь).
147 -(У процесса планировщика есть StreamTrigger на поток заявок).
148 -При поступлении заявки процесс планировщик сразу назначает в очередь на какой либо станок на основании оценки (размера очереди, достаточности у станка ресурсов для ее обработки, количества ресурсов, скорости работы станка).
149 -)))
150 -
151 -----
152 -
153 -==== Внутренние ссылки: ====
154 -
155 -====== Дочерние страницы: ======
156 -
157 -{{children/}}
158 -
159 -====== Обратные ссылки: ======
160 -
161 -{{velocity}}
162 -#set ($links = $doc.getBacklinks())
163 -#if ($links.size() > 0)
164 - #foreach ($docname in $links)
165 - #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
166 - * [[$escapetool.xml($rdoc.fullName)]]
167 - #end
168 -#else
169 - No back links for this page!
170 -#end
171 -{{/velocity}}
172 -
173 -----
XWiki.XWikiComments[0]
Автор
... ... @@ -1,1 +1,0 @@
1 -XWiki.cccc1808
Комментарий
... ... @@ -1,4 +1,0 @@
1 -Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
2 -
3 -* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
4 -* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.
Дата
... ... @@ -1,1 +1,0 @@
1 -2026-05-01 15:36:23.922