Перейти к содержимому

Изменения документа Примеры

Редактировал(а) Alexandr Fokin 2026/08/26 19:05
От версии 8.27
отредактировано Alexandr Fokin
на 2026/07/27 03:29
Изменить комментарий: К данной версии нет комментариев
К версии 8.52
отредактировано Alexandr Fokin
на 2026/08/26 19:05
Изменить комментарий: Удаленный объект

Сводка

Подробности

Свойства страницы
Содержимое
... ... @@ -1,8 +1,13 @@
1 -|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
1 +| |(% style="width:188px" %)**Пример задачи**|(% style="width:1268px" %)**Наборы решений**
2 +|1|(% style="width:188px" %)(((
3 +(% class="wikigeneratedid" id="H144043E43443844243543B44C44143A438439A043F44043E446435441441438N43443E44743544043D43844543F44043E44643544144143E432." %)
4 +1 родительский процесс и N дочерних процессов.
5 +)))|(% style="width:1268px" %)(((
2 2  |В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
3 3  Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
4 4  |(((
5 5  |(((
10 +(% class="wikigeneratedid" id="H41243044043843043D4421:CounterTrigger." %)
6 6  Вариант 1: CounterTrigger.
7 7  )))
8 8  |(((
... ... @@ -46,7 +46,7 @@
46 46  |(((
47 47  Вариант №4:
48 48  
49 -SimpleStreamTrigger + Timer (один из лучших вариантов).
54 +SimpleStreamTrigger + Timer.
50 50  
51 51  * Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
52 52  ** Если все обработано, то пробуждает процесс и деактивируется.
... ... @@ -62,51 +62,40 @@
62 62  * Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
63 63  )))
64 64  |(((
65 -|Вариант №5: Trigger + Счетчик в Redis.
70 +|Вариант №5:
71 +SimpleStreamTrigger + Счетчик (ExternalCounter) в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]]. (__на текущий момент самый лучший вариант__).
66 66  |InMemory счетчик, нагрузка на БД и конкуренция.
67 67  Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
74 +Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
68 68  |(((
69 69  Проблема: изменение счетчика не привязано к основной транзакции БД.
70 70  
71 71  Возможно:
72 72  
73 -1. До коммита транзакции уменьшаем счетчик и записываем id дочернего процесса в redis hashset. Если счетчик 0, то публикуем triggerEvent через TransactionalOutbox.
74 -(На старте транзакции проверить и удалить из HashSet и если удалили, то увеличить счетчик на 1 - значит была упавшая транзакция).
75 -1. После коммита транзакции удаляем id дочернего процесса из redis hashset.
76 -1. Trigger при получении события смотрит значение счетчика и HashSet.
77 -Если счетчик 0 и HashSet пустой, то скорее всего все корректно и триггер может активироваться.
78 -Иначе если HashSet не пустой, то можно попытаться проверить статус процесса (если он завершен, то можно удалить значение из HashSet).
80 +1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1 (означает что процесс уже уменьшал счетчик, но потом было падение).
81 +1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent
82 +(добавляем в ручную компенсацию вызов из пункта 1 (при откате изоляции шага и компенсации транзакции)).
83 +1. После коммита транзакции удаляем запись из MemberSet.
84 +(Если мы падаем тут, то процесс уже перешел на другой шаг или даже завершился, поэтому наличие единичной остаточной записи в memberSet не будет критичным).
85 +1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
86 +
87 +MemberSet используется для уменьшения вероятности увеличить или уменьшить счетчик дважды одним экземпляром дочернего процесса.
79 79  )))
80 -|Проблемы: Потеря счетчика целиком или искажения значения в случае падения Redis.
81 -)))
82 -)))
83 -|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
84 -|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
85 -| |(((
86 -* Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
87 -* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
88 -За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
89 -* Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
90 -* Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
91 -* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
92 -(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
93 -)))
94 -|Алгоритм триггера.|(((
95 -* При получении события о засыпании процесса:
96 -Фиксирует смещение процесса обработки и сравнивает со смещением сообщения.
97 -Если все сообщения обработаны, то не пробуждает процесс, иначе пробуждает процесс.
98 -* При получении события о новом сообщении:
99 -Фиксирует новое наибольшее смещение.
100 -Если процесс не спит (по флагу в триггере), то ничего не делает.
101 -Если процесс спит (по флагу), то пробуждает процесс.
89 +|(((
90 +В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
102 102  
103 -Отслеживает смещение обработки процесса и последнего события.
104 -Ожидает от процесса события о том, что он все обработал, его последнее смещение и он идет спать.
105 -Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
106 -Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
92 +Примеры проблемы:
93 +
94 +* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
95 +Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
96 +* Дублирование обновления счетчика.
97 +Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
98 +Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
107 107  )))
108 -|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
109 109  )))
101 +)))
102 +|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)Смотри stream trigger.
103 +|-|(% style="width:188px" %) |(% style="width:1268px" %)
110 110  |4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
111 111  | |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
112 112  Наличие у строк упорядоченного столбца (для выделения диапазонов).
... ... @@ -118,6 +118,34 @@
118 118  |(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
119 119  )))
120 120  )))
115 +|5|(% style="width:188px" %)Распределение заявок между исполнителями
116 +(Заготовка).|(% style="width:1268px" %)(((
117 +|(% style="width:94px" %)Описание|(% style="width:1156px" %)Есть поток заявок на деталь (создание детали требует ресурсов, 1 станок, время).
118 +Есть N станков. Опционально: у станка есть уровень ресурсов и коэффициент скорости работы.
119 +Реализация системы распределения и обработки.
120 +|(% style="width:94px" %)Вариант 1|(% style="width:1156px" %)(((
121 +| |Планирование без очереди к станку.
122 +| |(((
123 +* У процесса планировщика есть
124 +** StreamTrigger на поток заявок.
125 +(Можно использовать расширение SignalCode, чтобы временно игнорировать откладывать этот сигнал пока все слоты станков заняты).
126 +** StreanTrigger на поток сигналов об освобождении слота станка.
127 +)))
128 +| |Процесс планировщик назначает заявку на свободный станок.
129 +Вопрос наиболее эффективной функции выбора (оценка наибольшее количество ресурсов, наилучшая скорость обработки и др.).
130 +Когда все станки заняты планировщик ожидает освобождения станков.
131 +)))
132 +|(% style="width:94px" %)Вариант 2|(% style="width:1156px" %)(((
133 +| |Планировщик с очередью к станку.
134 +| |(((
135 +* У процесса станка есть StreamTrigger, на который планировщик подает сигнал в добавления задачи в его очередь.
136 +* У процесса планировщика есть StreamTrigger на поток заявок.
137 +)))
138 +| |При поступлении заявки процесс планировщик сразу назначает в очередь на какой либо станок.
139 +Хранение фактического уровня ресурсов и зарезервированного уровня ресурсов (с учетом очереди к станку).
140 +Вопрос наиболее эффективной функции выбора (оценка размера очереди, достаточности у станка ресурсов для ее обработки, общего количества ресурсов, скорости работы станка и др.).
141 +)))
142 +)))
121 121  
122 122  ----
123 123  
XWiki.XWikiComments[0]
Автор
... ... @@ -1,1 +1,0 @@
1 -XWiki.cccc1808
Комментарий
... ... @@ -1,4 +1,0 @@
1 -Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
2 -
3 -* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
4 -* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.
Дата
... ... @@ -1,1 +1,0 @@
1 -2026-05-01 15:36:23.922