Изменения документа Примеры

Сводка

• Свойства страницы (2 изменено, 0 добавлено, 0 удалено)

Подробности

Свойства страницы

Родительский документ

...	...	@@ -1,1 +1,1 @@
1		-Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.WebHome
	1	+Проекты и репозитории.Библиотеки.Движок cccc1808\. ProcessEngine.Тема\. Сигналы и триггеры.WebHome

Содержимое

...	...	@@ -1,8 +1,13 @@
1		-|1|(% style="width:188px" %)1 родительский процесс и N дочерних процессов.|(% style="width:1268px" %)(((
	1	+| |(% style="width:188px" %)**Пример задачи**|(% style="width:1268px" %)**Наборы решений**
	2	+|1|(% style="width:188px" %)(((
	3	+(% class="wikigeneratedid" id="H144043E43443844243543B44C44143A438439A043F44043E446435441441438N43443E44743544043D43844543F44043E44643544144143E432." %)
	4	+1 родительский процесс и N дочерних процессов.
	5	+)))|(% style="width:1268px" %)(((
2	2	|В данном примере имеется в виду, что дочерние процессы могут выполняться параллельно другу и независимо друг от друга, но в конце должны оповестить родительский процесс о необходимости продолжения обработки.
3	3	Если речь идет о каких-либо зависимостях порядка выполнения в дочерних процессах, то это может контролировать дочерний процесс (выделяя группу, которую сейчас можно запустить и ожидая окончания).
4	4	|(((
5	5	|(((
	10	+(% class="wikigeneratedid" id="H41243044043843043D4421:CounterTrigger." %)
6	6	Вариант 1: CounterTrigger.
7	7	)))
8	8	|(((
...	...	@@ -29,7 +29,7 @@
29	29
30	30	* Из минус: что родительский процесс узнает о завершении дочерних процессов с задержкой.
31	31	Если дочерний процесс падает в ошибку, TimerTrigger все равно будет крутиться и создавать пустую нагрузку.
32		-* Из плюсов: будет меньше пишущей нагрузки на БД (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
	37	+* Из плюсов: будет меньше пишущей нагрузки на БД чем в варианте 1 (но больше читающей - на проверку) т.к. у нас не будет CounterTrigger, но будет периодический запрос на проверку завершения всех дочерних процессов (аналогично страхующему триггер).
33	33	* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
34	34	** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на TimerTrigger на сброс или установку минимальной задержки.
35	35	)))
...	...	@@ -44,46 +44,58 @@
44	44	Также решает проблему, если дочерний процесс содержит ожидание (например асинхронный запрос-ответ), тут будет конкуренция сигнала от хендлера ответа к родительскому процессу.
45	45	)))
46	46	|(((
47		-Вариант N4:
	52	+Вариант №4:
48	48
49		-SimpleStreamTrigger + Timer (один из лучших вариантов).
	54	+SimpleStreamTrigger + Timer.
50	50
51		-* Если сигналов нет, то нет ложных срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
52		-* Записей в БД меньше, чем от варианта 1 (счетчик нужно уменьшать, а здесь достаточно взвести флаг необработанного сигнала).
53	53	* Триггер проверяет условие завершения всех дочерних процессов (можно прикинуть количество незавершенных дочерних процессов).
54	54	** Если все обработано, то пробуждает процесс и деактивируется.
55		-** Иначе, деактивируется (до поступления хотя бы одного сигнала), взводит признак стрима что процесс ожидает, взводит флаг новых сигналов на 0, выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
	58	+** Иначе:
	59	+*** деактивируется (до поступления хотя бы одного сигнала),
	60	+*** взводит признак стрима - процесс ожидает,
	61	+*** взводит флаг новых сигналов на 0,
	62	+*** выставляет задержку от оценки количества необработанных процессов (< N - малая задержка, иначе большая задержка).
56	56	* [Расширенный]: Дочерние процессы в блоке wakeup condition проверяют наличие незавершенных процессов.
57	57	** Если все процессы завершены или (незавершенных процессов мало и нет процессов с ошибкой), то можно опубликовать событие на SimpleStreamTrigger на сброс или установку минимальной задержки (в дополнение к сигналу).
	65	+* Читающей нагрузки будет немного больше чем в варианте 2 (чтение триггера на поступлении сигнала),
	66	+но пишущей нагрузки будет меньше чем в варианте 1 (запись - только на активации новым сигналом).
	67	+* Если сигналов нет, то нет пустых срабатываний в отличие от варианта 2 (т.к. нет поступления сигнала от дочерних процессов).
58	58	)))
	69	+|(((
	70	+|Вариант №5:
	71	+SimpleStreamTrigger + Счетчик (ExternalCounter) в [[Redis>>doc:Разработка.Базы данных.NoSQL.Ключ-значение структура.Redis.WebHome]]. (__на текущий момент самый лучший вариант__).
	72	+|InMemory счетчик, нагрузка на БД и конкуренция.
	73	+Дочерний процесс уменьшает счетчик. И публикует событие только если счетчик достиг 0.
	74	+Совмещает преимущества из варианта 1.1 (при этом не нагружает БД), в случае ошибки переключается на режим 1.4.
	75	+|(((
	76	+Проблема: изменение счетчика не привязано к основной транзакции БД.
	77	+
	78	+Возможно:
	79	+
	80	+1. В начале транзакции (или шага) атомарно проверяем MemberSet, если есть запись то удаляем и увеличиваем счетчик на 1 (означает что процесс уже уменьшал счетчик, но потом было падение).
	81	+1. До коммита транзакции атомарно добавляем значение в MemberSet и уменьшаем счетчик на 1. Если счетчик равен 0, то публикуем TriggerEvent
	82	+(добавляем в ручную компенсацию вызов из пункта 1 (при откате изоляции шага и компенсации транзакции)).
	83	+1. После коммита транзакции удаляем запись из MemberSet.
	84	+(Если мы падаем тут, то процесс уже перешел на другой шаг или даже завершился, поэтому наличие единичной остаточной записи в memberSet не будет критичным).
	85	+1. Trigger получает событие. (Необязательно) в хендлере может првоерить значения счетчиков и MemberSet.
	86	+
	87	+MemberSet используется для уменьшения вероятности увеличить или уменьшить счетчик дважды одним экземпляром дочернего процесса.
59	59	)))
60		-|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)[[image:TransactionOutbox. Sequence.jpg]]
61		-|3|(% style="width:188px" %)Stream trigger|(% style="width:1268px" %)(((
62		-| |(((
63		-* Позволяет убрать лишние запросы пробуждения процесса (когда он и так запущен).
64		-* __Позволяет полностью убрать задержку после остановки процесса__ (если есть новое сообщения, то он сразу же будет пробужден).
65		-За счет того, что триггер точно знает, что есть новые сообщения и процесс только что уснул.
66		-* Вводит 2 типа события, 1 сигнал о новом сообщении (содержит offset значение), 2 - процесс идет спать (содержит offset значение).
67		-* Вводит дополнительное состояние в триггер: максимальный offset сообщения, максимальный offset обработанного процессом сообщения, флаг состояния сна процесса.
68		-* В некоторых случаях позволяет не выполнять wakeup код в конце сессии обработки (если отключить wakeup, оставить только stream trigger)
69		-(блокировка и обновление wakeup entity, проверка wakeup условия), __улучшает перформанс такта работы__.
70		-)))
71		-|Алгоритм триггера.|(((
72		-* При получении события о засыпании процесса:
73		-Фиксирует смещение процесса обработки и сравнивает со смещением сообщения.
74		-Если все сообщения обработаны, то не пробуждает процесс, иначе пробуждает процесс.
75		-* При получении события о новом сообщении:
76		-Фиксирует новое наибольшее смещение.
77		-Если процесс не спит (по флагу в триггере), то ничего не делает.
78		-Если процесс спит (по флагу), то пробуждает процесс.
	89	+|(((
	90	+В случае обнаружения повреждения обработка фактически переходит в режим 1.4: начинает публиковать событий каждый раз и используется задержка.
79	79
80		-Отслеживает смещение обработки процесса и последнего события.
81		-Ожидает от процесса события о том, что он все обработал, его последнее смещение и он идет спать.
82		-Если есть сообщения со смещением больше чем указал процесс, то делает гарантированное пробуждение процесса.
83		-Когда поступает сигнал о новом сообщении (от отправителя сообщения), то обновляет данные о максимальном смещении и пробуждает процесс, если он спит
	92	+Примеры проблемы:
	93	+
	94	+* Падение InMemory хранилища. Предполагается режим без снимков и удаление ключей.
	95	+Обнаружение (со стороны дочернего процесса) через отсутствие ключей (проверяется в транзакции).
	96	+* Дублирование обновления счетчика.
	97	+Обнаружение (со стороны дочернего процесса) через значение счетчика < 0.
	98	+Обнаружение (со стороны триггера) через активацию триггера (поступления сигнала от процесса), при этом обнаруживается что не все процессы завершены.
84	84	)))
85		-|Заготовка|[[https:~~/~~/github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger>>https://github.com/cccc1808/cccc1808.ProcessEngine/tree/cccc1808/feature/trigger_stream_trigger]]
86	86	)))
	101	+)))
	102	+|2|(% style="width:188px" %)Transaction outbox stream process.|(% style="width:1268px" %)Смотри stream trigger.
	103	+|-|(% style="width:188px" %) |(% style="width:1268px" %)
87	87	|4|(% style="width:188px" %)Групповое действие|(% style="width:1268px" %)(((
88	88	| |Действие, которое нужно применить к диапазону строк (сравнительно большому), независимо для каждой строки.
89	89	Наличие у строк упорядоченного столбца (для выделения диапазонов).
...	...	@@ -95,3 +95,55 @@
95	95	|(% style="width:888px" %)Родительский процесс ожидает завершения дочерних процессов (см. пример 1).|(% style="width:266px" %)
96	96	)))
97	97	)))
	115	+|5|(% style="width:188px" %)Распределение заявок между исполнителями
	116	+(Заготовка).|(% style="width:1268px" %)(((
	117	+|(% style="width:94px" %)Описание|(% style="width:1156px" %)Есть поток заявок на деталь (создание детали требует ресурсов, 1 станок, время).
	118	+Есть N станков. Опционально: у станка есть уровень ресурсов и коэффициент скорости работы.
	119	+Реализация системы распределения и обработки.
	120	+|(% style="width:94px" %)Вариант 1|(% style="width:1156px" %)(((
	121	+| |Планирование без очереди к станку.
	122	+| |(((
	123	+* У процесса планировщика есть
	124	+** StreamTrigger на поток заявок.
	125	+(Можно использовать расширение SignalCode, чтобы временно игнорировать откладывать этот сигнал пока все слоты станков заняты).
	126	+** StreanTrigger на поток сигналов об освобождении слота станка.
	127	+)))
	128	+| |Процесс планировщик назначает заявку на свободный станок.
	129	+Вопрос наиболее эффективной функции выбора (оценка наибольшее количество ресурсов, наилучшая скорость обработки и др.).
	130	+Когда все станки заняты планировщик ожидает освобождения станков.
	131	+)))
	132	+|(% style="width:94px" %)Вариант 2|(% style="width:1156px" %)(((
	133	+| |Планировщик с очередью к станку.
	134	+| |(((
	135	+* У процесса станка есть StreamTrigger, на который планировщик подает сигнал в добавления задачи в его очередь.
	136	+* У процесса планировщика есть StreamTrigger на поток заявок.
	137	+)))
	138	+| |При поступлении заявки процесс планировщик сразу назначает в очередь на какой либо станок.
	139	+Хранение фактического уровня ресурсов и зарезервированного уровня ресурсов (с учетом очереди к станку).
	140	+Вопрос наиболее эффективной функции выбора (оценка размера очереди, достаточности у станка ресурсов для ее обработки, общего количества ресурсов, скорости работы станка и др.).
	141	+)))
	142	+)))
	143	+
	144	+----
	145	+
	146	+==== Внутренние ссылки: ====
	147	+
	148	+====== Дочерние страницы: ======
	149	+
	150	+{{children/}}
	151	+
	152	+====== Обратные ссылки: ======
	153	+
	154	+{{velocity}}
	155	+#set ($links = $doc.getBacklinks())
	156	+#if ($links.size() > 0)
	157	+ #foreach ($docname in $links)
	158	+ #set ($rdoc = $xwiki.getDocument($docname).getTranslatedDocument())
	159	+ * [[$escapetool.xml($rdoc.fullName)]]
	160	+ #end
	161	+#else
	162	+ No back links for this page!
	163	+#end
	164	+{{/velocity}}
	165	+
	166	+----