Изменения документа Примеры

Сводка

• Свойства страницы (2 изменено, 0 добавлено, 0 удалено)

Подробности

Свойства страницы

Родительский документ

...	...	@@ -1,1 +1,1 @@
1		-Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome
	1	+Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome

Содержимое

...	...	@@ -1,8 +1,13 @@
1		-|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
	1	+| |(% style="width:188px" %)**Пример задачи**|(% style="width:1268px" %)**Наборы решений**
	2	+|1|(% style="width:188px" %)(((
	3	+(% class="wikigeneratedid" id="H144043E43443844243543B44C44143A438439A043F44043E446435441441438N43443E44743544043D43844543F44043E44643544144143E432." %)
	4	+1 родительский процесс и N дочерних процессов.
	5	+)))|(% style="width:1268px" %)(((
2	2	|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
3	3	Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
4	4	|(((
5	5	|(((
	10	+(% class="wikigeneratedid" id="H41243044043843043D4421:CounterTrigger." %)
6	6	Вариант 1: CounterTrigger.
7	7	)))
8	8	|(((
...	...	@@ -24,11 +24,14 @@
24	24	|(((
25	25	Вариант №2:
26	26
27		-Мы просто ставит timerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
	32	+Мы просто ставим TimerTrigger на условно 1-5-10 минут (насколько важна задержка) и перепроверяем условие завершения.
28	28	В этом случае будет
29	29
30		-* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой (хотя в задержке можно использовать функцию от количества необработанных дочерних процессов, но тогда нужно считать количество или хотя бы что оно не больше N).
31		-* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер). \
	35	+* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
	36	+Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
	37	+* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
	38	+* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
	39	+** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
32	32	)))
33	33	|(((
34	34	Вариант №3:
...	...	@@ -37,36 +37,62 @@
37	37	Точкой выполнения является родительский процесс, который внутри себя (параллельно или последовательно) выполняет дочерние процессы.
38	38	За счет такого способа у нас также отсутствует конкуренция передачи сигнала в родительский процесс.
39	39	Но мы ограничены выполнением дочерних процессов одной одной сервиса.
40		-Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ).
	48	+Сложнее контролировать распределение нагрузки, если будет вложенный параллелизм.
	49	+Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
41	41	)))
	51	+|(((
	52	+Вариант №4:
	53	+
	54	+SimpleStreamTrigger + Timer.
	55	+
	56	+* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
	57	+** Если все обработано, то пробуждает процесс и деактивируется.
	58	+** Иначе:
	59	+*** деактивируется (до поступления хотя бы одного сигнала),
	60	+*** взводит признак стрима - процесс ожидает,
	61	+*** взводит флаг новых сигналов на 0,
	62	+*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
	63	+* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
	64	+** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
	65	+* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
	66	+но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
	67	+* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
42	42	)))
43		-|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
44		-|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
45		-| |(((
46		-* Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
47		-* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
48		-За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
49		-* Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
50		-* Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
51		-* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
52		-(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
	69	+|(((
	70	+|Вариант №5:
	71	+SimpleStreamTrigger + Счетчик (ExternalCounter) в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]]. (__на текущий момент самый лучший вариант__).
	72	+|InMemory счетчик, нагрузка на БД и конкуренция.
	73	+Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
	74	+Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
	75	+|(((
	76	+Проблема: изменение счетчика не привязано к основной транзакции БД.
	77	+
	78	+Возможно:
	79	+
	80	+1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1 (означает что процесс уже уменьшал счетчик, но потом было падение).
	81	+1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent
	82	+(добавляем в ручную компенсацию вызов из пункта 1 (при откате изоляции шага и компенсации транзакции)).
	83	+1. После коммита транзакции удаляем запись из MemberSet.
	84	+(Если мы падаем тут, то процесс уже перешел на другой шаг или даже завершился, поэтому наличие единичной остаточной записи в memberSet не будет критичным).
	85	+1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
	86	+
	87	+MemberSet используется для уменьшения вероятности увеличить или уменьшить счетчик дважды одним экземпляром дочернего процесса.
53	53	)))
54		-|Алгоритм триггера.|(((
55		-* При получении события о засыпании процесса:
56		-Фиксирует смещение процесса обработки и сравнивает со смещением сообщения.
57		-Если все сообщения обработаны, то не пробуждает процесс, иначе пробуждает процесс.
58		-* При получении события о новом сообщении:
59		-Фиксирует новое наибольшее смещение.
60		-Если процесс не спит (по флагу в триггере), то ничего не делает.
61		-Если процесс спит (по флагу), то пробуждает процесс.
	89	+|(((
	90	+В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
62	62
63		-Отслеживает смещение обработки процесса и последнего события.
64		-Ожидает от процесса события о том, что он все обработал, его последнее смещение и он идет спать.
65		-Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
66		-Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
	92	+Примеры проблемы:
	93	+
	94	+* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
	95	+Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
	96	+* Дублирование обновления счетчика.
	97	+Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
	98	+Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
67	67	)))
68		-|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
69	69	)))
	101	+)))
	102	+|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)Смотри stream trigger.
	103	+|-|(% style="width:188px" %) |(% style="width:1268px" %)
70	70	|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
71	71	| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
72	72	Наличие у строк упорядоченного столбца (для выделения диапазонов).
...	...	@@ -78,3 +78,55 @@
78	78	|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
79	79	)))
80	80	)))
	115	+|5|(% style="width:188px" %)Распределение заявок между исполнителями
	116	+(Заготовка).|(% style="width:1268px" %)(((
	117	+|(% style="width:94px" %)Описание|(% style="width:1156px" %)Есть поток заявок на деталь (создание детали требует ресурсов, 1 станок, время).
	118	+Есть N станков. Опционально: у станка есть уровень ресурсов и коэффициент скорости работы.
	119	+Реализация системы распределения и обработки.
	120	+|(% style="width:94px" %)Вариант 1|(% style="width:1156px" %)(((
	121	+| |Планирование без очереди к станку.
	122	+| |(((
	123	+* У процесса планировщика есть
	124	+** StreamTrigger на поток заявок.
	125	+(Можно использовать расширение SignalCode, чтобы временно игнорировать откладывать этот сигнал пока все слоты станков заняты).
	126	+** StreanTrigger на поток сигналов об освобождении слота станка.
	127	+)))
	128	+| |Процесс планировщик назначает заявку на свободный станок.
	129	+Вопрос наиболее эффективной функции выбора (оценка наибольшее количество ресурсов, наилучшая скорость обработки и др.).
	130	+Когда все станки заняты планировщик ожидает освобождения станков.
	131	+)))
	132	+|(% style="width:94px" %)Вариант 2|(% style="width:1156px" %)(((
	133	+| |Планировщик с очередью к станку.
	134	+| |(((
	135	+* У процесса станка есть StreamTrigger, на который планировщик подает сигнал в добавления задачи в его очередь.
	136	+* У процесса планировщика есть StreamTrigger на поток заявок.
	137	+)))
	138	+| |При поступлении заявки процесс планировщик сразу назначает в очередь на какой либо станок.
	139	+Хранение фактического уровня ресурсов и зарезервированного уровня ресурсов (с учетом очереди к станку).
	140	+Вопрос наиболее эффективной функции выбора (оценка размера очереди, достаточности у станка ресурсов для ее обработки, общего количества ресурсов, скорости работы станка и др.).
	141	+)))
	142	+)))
	143	+
	144	+----
	145	+
	146	+==== Внутренние ссылки: ====
	147	+
	148	+====== Дочерние страницы: ======
	149	+
	150	+{{children/}}
	151	+
	152	+====== Обратные ссылки: ======
	153	+
	154	+{{velocity}}
	155	+#set ($links = $doc.getBacklinks())
	156	+#if ($links.size() > 0)
	157	+ #foreach ($docname in $links)
	158	+ #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
	159	+ * [[$escapetool.xml($rdoc.fullName)]]
	160	+ #end
	161	+#else
	162	+ No back links for this page!
	163	+#end
	164	+{{/velocity}}
	165	+
	166	+----