Изменения документа Примеры

Сводка

• Свойства страницы (2 изменено, 0 добавлено, 0 удалено)
• Объекты (1 изменено, 0 добавлено, 0 удалено)
  • XWiki.XWikiComments[0]

Подробности

Свойства страницы

Родительский документ

...	...	@@ -1,1 +1,1 @@
1		-Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome
	1	+Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome

Содержимое

...	...	@@ -1,15 +1,9 @@
1		-{{toc/}}
2		-
3		-
4		-| |(% style="width:188px" %)**Пример задачи**|(% style="width:1268px" %)**Наборы решений**
5		-|1|(% style="width:188px" %)(((
6		-=== 1 родительский процесс и N дочерних процессов. ===
7		-)))|(% style="width:1268px" %)(((
	1	+|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
8	8	|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
9	9	Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
10	10	|(((
11	11	|(((
12		-==== Вариант 1: CounterTrigger. ====
	6	+Вариант 1: CounterTrigger.
13	13	)))
14	14	|(((
15	15	1. Родительский процесс создает триггер со счетчиком N, создает и запускает дочерние процессы, засыпает.
...	...	@@ -28,78 +28,15 @@
28	28	|[[image:Родительский дочерний процесс. Sequence.jpg]]
29	29	)))
30	30	|(((
31		-Вариант №2:
	25	+Возможен вариант №2:
32	32
33		-Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
	27	+Мы просто ставит timerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
34	34	В этом случае будет
35	35
36		-* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
37		-Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
38		-* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
39		-* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
40		-** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
	30	+* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой (хотя в задержке можно использовать функцию от количества необработанных дочерних процессов, но тогда нужно считать количество или хотя бы что оно не больше N).
	31	+* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер). \
41	41	)))
42		-|(((
43		-Вариант №3:
44		-
45		-Дочерние процессы выполняются через родительский (ограничение в рамках одной ноды).
46		-Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
47		-За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
48		-Но мы ограничены выполнением дочерних процессов одной одной сервиса.
49		-Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
50		-Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
51	51	)))
52		-|(((
53		-Вариант №4:
54		-
55		-SimpleStreamTrigger + Timer.
56		-
57		-* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
58		-** Если все обработано, то пробуждает процесс и деактивируется.
59		-** Иначе:
60		-*** деактивируется (до поступления хотя бы одного сигнала),
61		-*** взводит признак стрима - процесс ожидает,
62		-*** взводит флаг новых сигналов на 0,
63		-*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
64		-* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
65		-** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
66		-* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
67		-но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
68		-* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
69		-)))
70		-|(((
71		-|Вариант №5:
72		-SimpleStreamTrigger + Счетчик в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]]. (на текущий момент самый лучший вариант).
73		-|InMemory счетчик, нагрузка на БД и конкуренция.
74		-Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
75		-Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
76		-|(((
77		-Проблема: изменение счетчика не привязано к основной транзакции БД.
78		-
79		-Возможно:
80		-
81		-1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1 (означает что процесс уже уменьшал счетчик, но потом было падение).
82		-1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent
83		-(добавляем в ручную компенсацию вызов из пункта 1 (при откате изоляции шага и компенсации транзакции)).
84		-1. После коммита транзакции удаляем запись из MemberSet.
85		-(Если мы падаем тут, то процесс уже перешел на другой шаг или даже завершился, поэтому наличие единичной остаточной записи в memberSet не будет критичным).
86		-1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
87		-
88		-MemberSet используется для уменьшения вероятности увеличить или уменьшить счетчик дважды одним экземпляром дочернего процесса.
89		-)))
90		-|(((
91		-В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
92		-
93		-Примеры проблемы:
94		-
95		-* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
96		-Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
97		-* Дублирование обновления счетчика.
98		-Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
99		-Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
100		-)))
101		-)))
102		-)))
103	103	|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
104	104	|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
105	105	| |(((
...	...	@@ -138,54 +138,3 @@
138	138	|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
139	139	)))
140	140	)))
141		-|5|(% style="width:188px" %)Распределение заявок между исполнителями
142		-(Заготовка).|(% style="width:1268px" %)(((
143		-|(% style="width:94px" %)Описание|(% style="width:1156px" %)Есть поток заявок на деталь (создание детали требует ресурсов, 1 станок, время).
144		-Есть N станков. Опционально: у станка есть уровень ресурсов и коэффициент скорости работы.
145		-Реализация системы распределения и обработки.
146		-|(% style="width:94px" %)Вариант 1|(% style="width:1156px" %)(((
147		-| |Планирование без очереди к станку.
148		-| |(((
149		-* У процесса планировщика есть
150		-** StreamTrigger на поток заявок.
151		-(Можно использовать расширение SignalCode, чтобы временно игнорировать откладывать этот сигнал пока все слоты станков заняты).
152		-** StreanTrigger на поток сигналов об освобождении слота станка.
153		-)))
154		-| |Процесс планировщик назначает заявку на свободный станок.
155		-Вопрос наиболее эффективной функции выбора (оценка наибольшее количество ресурсов, наилучшая скорость обработки и др.).
156		-Когда все станки заняты планировщик ожидает освобождения станков.
157		-)))
158		-|(% style="width:94px" %)Вариант 2|(% style="width:1156px" %)(((
159		-| |Планировщик с очередью к станку.
160		-| |(((
161		-* У процесса станка есть StreamTrigger, на который планировщик подает сигнал в добавления задачи в его очередь.
162		-* У процесса планировщика есть StreamTrigger на поток заявок.
163		-)))
164		-| |При поступлении заявки процесс планировщик сразу назначает в очередь на какой либо станок.
165		-Вопрос наиболее эффективной функции выбора (оценка размера очереди, достаточности у станка ресурсов для ее обработки, общего количества ресурсов, скорости работы станка и др.).
166		-)))
167		-)))
168		-
169		-----
170		-
171		-==== Внутренние ссылки: ====
172		-
173		-====== Дочерние страницы: ======
174		-
175		-{{children/}}
176		-
177		-====== Обратные ссылки: ======
178		-
179		-{{velocity}}
180		-#set ($links = $doc.getBacklinks())
181		-#if ($links.size() > 0)
182		- #foreach ($docname in $links)
183		- #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
184		- * [[$escapetool.xml($rdoc.fullName)]]
185		- #end
186		-#else
187		- No back links for this page!
188		-#end
189		-{{/velocity}}
190		-
191		-----

XWiki.XWikiComments[0]

Комментарий

...	...	@@ -1,4 +1,4 @@
1	1	Замечание: конфигурация задержки trigger consumer вычитывания и накопления батча trigger events.
2	2
3		-* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов от дочерних процессов в одну операцию обновления). Throughput.
4		-* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки. Latency.
	3	+* Для примера 1 предпочтительная более большая задержка т.к. это уменьшит нагрузку на БД (агрегирует больше сигналов в одну операцию обновления).
	4	+* Для примера 3 в контексте inbox stream trigger, может быть предпочтительная более низкая задержка, чтобы не раздувать задержку от поступления сообщения до его обработки.