Изменения документа Примеры

Сводка

• Свойства страницы (2 изменено, 0 добавлено, 0 удалено)

Подробности

Свойства страницы

Родительский документ

...	...	@@ -1,1 +1,1 @@
1		-Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome
	1	+Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome

Содержимое

...	...	@@ -1,13 +1,8 @@
1		-| |(% style="width:188px" %)**Пример задачи**|(% style="width:1268px" %)**Наборы решений**
2		-|1|(% style="width:188px" %)(((
3		-(% class="wikigeneratedid" id="H144043E43443844243543B44C44143A438439A043F44043E446435441441438N43443E44743544043D43844543F44043E44643544144143E432." %)
4		-1 родительский процесс и N дочерних процессов.
5		-)))|(% style="width:1268px" %)(((
	1	+|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
6	6	|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
7	7	Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
8	8	|(((
9	9	|(((
10		-(% class="wikigeneratedid" id="H41243044043843043D4421:CounterTrigger." %)
11	11	Вариант 1: CounterTrigger.
12	12	)))
13	13	|(((
...	...	@@ -34,7 +34,7 @@
34	34
35	35	* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
36	36	Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
37		-* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
	32	+* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
38	38	* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
39	39	** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
40	40	)))
...	...	@@ -49,58 +49,46 @@
49	49	Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
50	50	)))
51	51	|(((
52		-Вариант №4:
	47	+Вариант N4:
53	53
54		-SimpleStreamTrigger + Timer.
	49	+SimpleStreamTrigger + Timer (один из лучших вариантов).
55	55
	51	+* Если сигналов нет, то нет ложных срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
	52	+* Записей в БД меньше, чем от варианта 1 (счетчик нужно уменьшать, а здесь достаточно взвести флаг необработанного сигнала).
56	56	* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
57	57	** Если все обработано, то пробуждает процесс и деактивируется.
58		-** Иначе:
59		-*** деактивируется (до поступления хотя бы одного сигнала),
60		-*** взводит признак стрима - процесс ожидает,
61		-*** взводит флаг новых сигналов на 0,
62		-*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
	55	+** Иначе, деактивируется (до поступления хотя бы одного сигнала), взводит признак стрима что процесс ожидает, взводит флаг новых сигналов на 0, выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
63	63	* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
64		-** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
65		-* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
66		-но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
67		-* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
	57	+** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
68	68	)))
69		-|(((
70		-|Вариант №5:
71		-SimpleStreamTrigger + Счетчик (ExternalCounter) в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]]. (__на текущий момент самый лучший вариант__).
72		-|InMemory счетчик, нагрузка на БД и конкуренция.
73		-Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
74		-Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
75		-|(((
76		-Проблема: изменение счетчика не привязано к основной транзакции БД.
77		-
78		-Возможно:
79		-
80		-1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1 (означает что процесс уже уменьшал счетчик, но потом было падение).
81		-1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent
82		-(добавляем в ручную компенсацию вызов из пункта 1 (при откате изоляции шага и компенсации транзакции)).
83		-1. После коммита транзакции удаляем запись из MemberSet.
84		-(Если мы падаем тут, то процесс уже перешел на другой шаг или даже завершился, поэтому наличие единичной остаточной записи в memberSet не будет критичным).
85		-1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
86		-
87		-MemberSet используется для уменьшения вероятности увеличить или уменьшить счетчик дважды одним экземпляром дочернего процесса.
88	88	)))
89		-|(((
90		-В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
	60	+|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
	61	+|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
	62	+| |(((
	63	+* Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
	64	+* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
	65	+За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
	66	+* Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
	67	+* Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
	68	+* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
	69	+(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
	70	+)))
	71	+|Алгоритм триггера.|(((
	72	+* При получении события о засыпании процесса:
	73	+Фиксирует смещение процесса обработки и сравнивает со смещением сообщения.
	74	+Если все сообщения обработаны, то не пробуждает процесс, иначе пробуждает процесс.
	75	+* При получении события о новом сообщении:
	76	+Фиксирует новое наибольшее смещение.
	77	+Если процесс не спит (по флагу в триггере), то ничего не делает.
	78	+Если процесс спит (по флагу), то пробуждает процесс.
91	91
92		-Примеры проблемы:
93		-
94		-* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
95		-Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
96		-* Дублирование обновления счетчика.
97		-Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
98		-Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
	80	+Отслеживает смещение обработки процесса и последнего события.
	81	+Ожидает от процесса события о том, что он все обработал, его последнее смещение и он идет спать.
	82	+Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
	83	+Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
99	99	)))
	85	+|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
100	100	)))
101		-)))
102		-|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)Смотри stream trigger.
103		-|-|(% style="width:188px" %) |(% style="width:1268px" %)
104	104	|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
105	105	| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
106	106	Наличие у строк упорядоченного столбца (для выделения диапазонов).
...	...	@@ -112,55 +112,3 @@
112	112	|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
113	113	)))
114	114	)))
115		-|5|(% style="width:188px" %)Распределение заявок между исполнителями
116		-(Заготовка).|(% style="width:1268px" %)(((
117		-|(% style="width:94px" %)Описание|(% style="width:1156px" %)Есть поток заявок на деталь (создание детали требует ресурсов, 1 станок, время).
118		-Есть N станков. Опционально: у станка есть уровень ресурсов и коэффициент скорости работы.
119		-Реализация системы распределения и обработки.
120		-|(% style="width:94px" %)Вариант 1|(% style="width:1156px" %)(((
121		-| |Планирование без очереди к станку.
122		-| |(((
123		-* У процесса планировщика есть
124		-** StreamTrigger на поток заявок.
125		-(Можно использовать расширение SignalCode, чтобы временно игнорировать откладывать этот сигнал пока все слоты станков заняты).
126		-** StreanTrigger на поток сигналов об освобождении слота станка.
127		-)))
128		-| |Процесс планировщик назначает заявку на свободный станок.
129		-Вопрос наиболее эффективной функции выбора (оценка наибольшее количество ресурсов, наилучшая скорость обработки и др.).
130		-Когда все станки заняты планировщик ожидает освобождения станков.
131		-)))
132		-|(% style="width:94px" %)Вариант 2|(% style="width:1156px" %)(((
133		-| |Планировщик с очередью к станку.
134		-| |(((
135		-* У процесса станка есть StreamTrigger, на который планировщик подает сигнал в добавления задачи в его очередь.
136		-* У процесса планировщика есть StreamTrigger на поток заявок.
137		-)))
138		-| |При поступлении заявки процесс планировщик сразу назначает в очередь на какой либо станок.
139		-Хранение фактического уровня ресурсов и зарезервированного уровня ресурсов (с учетом очереди к станку).
140		-Вопрос наиболее эффективной функции выбора (оценка размера очереди, достаточности у станка ресурсов для ее обработки, общего количества ресурсов, скорости работы станка и др.).
141		-)))
142		-)))
143		-
144		-----
145		-
146		-==== Внутренние ссылки: ====
147		-
148		-====== Дочерние страницы: ======
149		-
150		-{{children/}}
151		-
152		-====== Обратные ссылки: ======
153		-
154		-{{velocity}}
155		-#set ($links = $doc.getBacklinks())
156		-#if ($links.size() > 0)
157		- #foreach ($docname in $links)
158		- #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
159		- * [[$escapetool.xml($rdoc.fullName)]]
160		- #end
161		-#else
162		- No back links for this page!
163		-#end
164		-{{/velocity}}
165		-
166		-----