Изменения документа Примеры

Сводка

• Свойства страницы (2 изменено, 0 добавлено, 0 удалено)
• Объекты (0 изменено, 0 добавлено, 1 удалено)
  • XWiki.XWikiComments[0]

Подробности

Свойства страницы

Родительский документ

...	...	@@ -1,1 +1,1 @@
1		-Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome
	1	+Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome

Содержимое

...	...	@@ -22,83 +22,23 @@
22	22	|[[image:Родительский дочерний процесс. Sequence.jpg]]
23	23	)))
24	24	|(((
25		-Вариант №2:
	25	+Возможен вариант №2:
26	26
27		-Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
	27	+Мы просто ставит timerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
28	28	В этом случае будет
29	29
30		-* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
31		-Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
32		-* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
33		-* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
34		-** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
	30	+* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой (хотя в задержке можно использовать функцию от количества необработанных дочерних процессов, но тогда нужно считать количество или хотя бы что оно не больше N).
	31	+* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер). \
35	35	)))
36		-|(((
37		-Вариант №3:
38		-
39		-Дочерние процессы выполняются через родительский (ограничение в рамках одной ноды).
40		-Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
41		-За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
42		-Но мы ограничены выполнением дочерних процессов одной одной сервиса.
43		-Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
44		-Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
45	45	)))
46		-|(((
47		-Вариант №4:
48		-
49		-SimpleStreamTrigger + Timer (один из лучших вариантов).
50		-
51		-* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
52		-** Если все обработано, то пробуждает процесс и деактивируется.
53		-** Иначе:
54		-*** деактивируется (до поступления хотя бы одного сигнала),
55		-*** взводит признак стрима - процесс ожидает,
56		-*** взводит флаг новых сигналов на 0,
57		-*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
58		-* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
59		-** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
60		-* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
61		-но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
62		-* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
63		-)))
64		-|(((
65		-|Вариант №5: Trigger + Счетчик в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]].
66		-|InMemory счетчик, нагрузка на БД и конкуренция.
67		-Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
68		-Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
69		-|(((
70		-Проблема: изменение счетчика не привязано к основной транзакции БД.
71		-
72		-Возможно:
73		-
74		-1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1.
75		-1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent.
76		-1. После коммита транзакции удаляем запись из MemberSet.
77		-1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
78		-)))
79		-|(((
80		-В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
81		-
82		-Примеры проблемы:
83		-
84		-* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
85		-Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
86		-* Дублирование обновления счетчика.
87		-Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
88		-Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
89		-)))
90		-)))
91		-)))
92	92	|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
93	93	|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
94	94	| |(((
95	95	* Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
96		-* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
	38	+* Позволяет полностью убрать задержку после остановки процесса (если есть новое сообщения, то он сразу же будет пробужден).
97	97	За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
98	98	* Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
99	99	* Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
100		-* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
101		-(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
102	102	)))
103	103	|Алгоритм триггера.|(((
104	104	* При получении события о засыпании процесса:
...	...	@@ -114,7 +114,7 @@
114	114	Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
115	115	Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
116	116	)))
117		-|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
	57	+| |TODO:
118	118	)))
119	119	|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
120	120	| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
...	...	@@ -124,30 +124,6 @@
124	124	where condition(){{/code}}
125	125	|(% style="width:888px" %)Родительский процесс нарезает диапазон [min, max] на поддиапазоны. На каждый поддиапазон создается дочерний процесс.|(% style="width:266px" %)
126	126	|(% style="width:888px" %)Каждый дочерний процесс обрабатывает свой поддиапазон строк (параллельно).|(% style="width:266px" %)Внутри поддиапазона может использоваться keyset пагинация.
127		-|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
	67	+|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов.|(% style="width:266px" %)
128	128	)))
129	129	)))
130		-
131		-----
132		-
133		-==== Внутренние ссылки: ====
134		-
135		-====== Дочерние страницы: ======
136		-
137		-{{children/}}
138		-
139		-====== Обратные ссылки: ======
140		-
141		-{{velocity}}
142		-#set ($links = $doc.getBacklinks())
143		-#if ($links.size() > 0)
144		- #foreach ($docname in $links)
145		- #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
146		- * [[$escapetool.xml($rdoc.fullName)]]
147		- #end
148		-#else
149		- No back links for this page!
150		-#end
151		-{{/velocity}}
152		-
153		-----

XWiki.XWikiComments[0]

Автор

...	...	@@ -1,1 +1,0 @@
1		-XWiki.cccc1808

Комментарий

...	...	@@ -1,4 +1,0 @@
1		-Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
2		-
3		-* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
4		-* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.

Дата

...	...	@@ -1,1 +1,0 @@
1		-2026-05-01 15:36:23.922