Исходный код вики Инициализация процесса

Версия 1.45 от Alexandr Fokin на 2024/01/27 17:44

version	line-number	content
1.44	1	(% border="1" %)
1.42	2	\|(% style="width:157px" %)Триггер инициализации\|(% style="width:1328px" %)(((
1.44	3	(% border="1" %)
1.42	4	\|(% style="width:118px" %)Событие\|(% style="width:1191px" %)(((
	5	* Событие с UI (по вводу пользователя)
	6	* Доменное событие
	7	* Поступление сообщения
	8	* Срабатывание планировщика или периодического таймера (например [[CRON>>doc:Хостинг.Операционные системы.Linux.Механизмы.CRON.WebHome]]).
	9	)))
	10	\|(% style="width:118px" %)Тип триггера\|(% style="width:1191px" %)(((
	11	* Ручной запуск (Инициирован пользователем)
	12	* По событию (Инициирован событием)
	13	* Автоматический по расписанию (Инициирован планировщиком)
	14	)))
	15	)))
	16	\|(% style="width:157px" %)Параметры инициализации\|(% style="width:1328px" %)(((
1.44	17	(% border="1" %)
1.42	18	\|(% style="width:227px" %)Тип\|(% style="width:272px" %)Параметр\|(% style="width:1023px" %)
	19	\|(% style="width:227px" %)По сущности\|(% style="width:272px" %)1 ключ\|(% style="width:1023px" %)
	20	\|(% style="width:227px" %)По группе сущностей ()\|(% style="width:272px" %)Набор ключей сущностей\|(% style="width:1023px" %)
1.45	21	\|(% style="width:227px" %)На основе данных, по выборке с параметрами\|(% style="width:272px" %)dto с параметрами\|(% style="width:1023px" %)
1.42	22	)))
1.45	23	\|(% style="width:157px" %)Инициализация на основе данных\|(% style="width:1328px" %)(((
	24	\|(% style="width:142px" %)Тип\|(% style="width:1168px" %)
	25	\|(% style="width:142px" %)Выборка батчей до исчерпания\|(% style="width:1168px" %)(((
	26	Выборка данных до тех пор пока они не исчерпаются.
	27
	28	Замечания:
	29
	30	* Плохо подходит для больших объемов данных. Может привести к долгому выполнению выборки.
	31	* Плохо подходит для сложных условий т.к. может привезти к тому, что будет невозможно выразить полный набор условий в виде запроса или запрос получиться сложным и также будет долго выполняться.
	32	* Одна ошибка блокирует всю инициализацию.
	33	Если при обработке ключевого доменного объекта возникнет ошибка, то это окажет влияние на всю операцию инициализации.
	34	Может быть проблематично отбросить данный доменный объект, чтобы он не попал в выборку.
	35
	36	Пример:
	37	Соединение таблицы доменных сущностей с таблицей процесса и выборка тех сущностей, по которым нет записи в таблице процесса.
	38	)))
	39	\|(% style="width:142px" %)Перебор батчей данных\|(% style="width:1168px" %)(((
	40	Когда речь заходит о переборе данных, то явно касаемся вопрос пагинации.
	41
	42	Условия:
	43
	44	* Фильтрация - возможность перебрать не весь сет данных, а только часть по условию.
	45	* Параллелизм - возможность выполнения операции параллельно (с распределением блоков между обработчиками).
	46	* Модификация данных - гарантия что в процессе, данные могут быть изменены (самой инициализацией или внешним воздействием).
	47
	48	\|(% style="width:125px" %)Тип пагинации\|(% style="width:121px" %)Параллелизм\|(% style="width:176px" %)Модификация данных\|(% style="width:188px" %)Фильтрация\|(% style="width:540px" %)Описание
	49	\|(% style="width:125px" %)Offset\|(% style="width:121px" %)+\|(% style="width:176px" %)-\|(% style="width:188px" %)+\|(% style="width:540px" %)1) Распределить фиксирует общее кол-во страниц.
	50	2) Распределить запускает обработчики на диапазонах страниц данных.
	51	\|(% style="width:125px" %)Keyset\|(% style="width:121px" %)-\|(% style="width:176px" %)+\|(% style="width:188px" %)+\|(% style="width:540px" %)
	52	)))
	53	)))
1.43	54	\|(% style="width:157px" %)Валидация перед запуском\|(% style="width:1328px" %)(((
1.44	55	(% border="1" %)
1.43	56	\|(% style="width:114px" %)Доменные объекты\|(% style="width:1195px" %)(((
	57	* Валидация доменных объектов на возможность запуска экземпляра процесса
	58	(с гарантией, что доменной объект не будет изменен до конца транзакции инициализации, иначе мы можем принять некорректное решение о запуске процесса).
	59	* В случае использования [[Оптимистичная блокировка>>doc:Архитектура и модели.Блокировки.Оптимистичная блокировка.WebHome]], необходимо также гарантировать инкрементацию ключа доменных сущностей т.к. скорее всего их поля не изменятся напрямую.
	60	* Как вариант - использование более строго уровня изоляции.
	61	)))
	62	\|(% style="width:114px" %)Процессы\|(% style="width:1195px" %)(((
	63	Если существуют предыдущие экземпляры процесса (__по ключевому набору__), то они также валидируются на возможность запуска нового экземпляра
	64
	65	\|(% colspan="2" %)Отношение экземпляров процесса и ключевых доменных сущностей.
	66	\|(% style="width:199px" %)Допускается создание только одного экземпляра\|(% style="width:978px" %)__Ключевые доменные сущности__ <-(1 к 1)-> __Экземпляр процесса__.
	67	Для каждого уникального ключа может быть не более 1 экземпляра процесса.
	68	\|(% style="width:199px" %)Допускается создание более одного экземпляра\|(% style="width:978px" %)(((
	69	Здесь речь идет не только о том, что несколько экземпляров активны в один и тот-же момент времени, а о том, что допускается ситуация, что в случае если у нас уже есть существующий экземпляр процесса (выполнявшийся ранее), и вместо того, чтобы изменить его состояние и перезапустить, создаем новый экземпляр (при этом гарантируя валидность такого действия).
	70	\\В таком случае мы можем представить следующую модель данных:
	71	__Ключевые доменные сущности__ <-(1 к 1)-> __Ключевой сквозной контекст процесса__ <-(1 к N)-> __Экземпляр процесса__.
	72
	73
	74	(% border="1" %)
	75	\|Ключевой сквозной контекст не всегда может быть выражен явно, но фактически он будет существовать.
	76	\|(((
	77	Пример 1
	78
	79	Мы можем гарантировать, что в один момент времени имеется только один активный экземпляр процесса (и только он выполняется).
	80	\\Мы можем использовать указатель на активный процесс из сквозного контекста,
	81	или также мы можем добавить флажок активности в экземпляр процесса и наложить на него уникальный индекс.
	82	)))
	83	\|(((
	84	Пример 2
	85
	86	Сквозной контекст может отслеживать была ли достигнута финальная цель ключевой связки.
	87
	88	Например:
	89
	90	* Целью является создание некоторого доменного объекта, когда он будет создан, информация зафиксируется в сквозном контексте.
	91	* Эти данные не позволят запустить новый экземпляр процесса так как цель достигнута - объект создан.
	92	* Если вдруг выясняется, что по какой-то причине созданный доменный объект объявляется недействительным, и необходимо запустить новый экземпляр процесса (по тому же ключу) для создания нового экземпляра доменного объекта, то также нужно выполнить сброс данных в сквозном контексте.
	93	(ручной сброс или подписка на доменной событие, оповещающее о смене статуса созданного объекта (аннулирование, блокировка и др.))
	94	)))
	95	)))
	96	)))
	97
	98
	99	)))
1.42	100	\|(% style="width:157px" %) \|(% style="width:1328px" %)
	101
1.28	102	(% border="1" %)
1.4	103	\|(% style="width:15px" %) \|(% style="width:1470px" %)(((
1.17	104	(% border="1" %)
1.4	105	\|(% style="width:151px" %)На основе события\|(% style="width:1188px" %)Событие запуска процесса поступает извне, и обязательства о выборке данных для процесса лежат на внешнем компоненте.
1.2	106	События могут помещаться в некоторый буфер - хранилище (брокер сообщений, БД) и разбираться обработчиком до исчерпания.
1.4	107	\|(% style="width:151px" %)На основе данных\|(% style="width:1188px" %)(((
1.29	108	(% border="1" %)
1.4	109	\|(% colspan="2" %)Замечания
	110	\|Параллелизм\|Гарантия, что код планировщика выполняются в эксклюзивном режиме, в случае если он запущен в нескольких экземплярах.
1.2	111	Предполагается [[Пессимистичная блокировка>>doc:Архитектура и модели.Блокировки.Пессимистичная блокировка.WebHome]] на уровне всех экземпляров.
1.4	112
1.29	113	(% border="1" %)
1.4	114	\|(% style="width:177px" %)Тип\|(% style="width:993px" %)
	115	\|(% style="width:177px" %)Выборка до исчерпания\|(% style="width:993px" %)(((
1.2	116	Выборка данных до тех пор пока они не исчерпаются.
	117
1.3	118	Замечания:
	119
1.27	120	* Плохо подходит для больших объемов данных. Может привести к долгому выполнению выборки.
1.3	121	* Плохо подходит для сложных условий т.к. может привезти к тому, что будет невозможно выразить полный набор условий в виде запроса или запрос получиться сложным и также будет долго выполняться.
	122	* Если при обработке ключевого доменного объекта возникнет ошибка, то это окажет влияние на всю операцию инициализации. Может быть проблематично отбросить данный доменный объект, чтобы он не попал в выборку.
	123
1.2	124	Пример:
1.1	125	Соединение таблицы доменных сущностей с таблицей процесса и выборка тех сущностей, по которым нет записи в таблице процесса.
1.2	126	)))
1.4	127	\|(% style="width:177px" %)Инициализация, привязанная к дате.\|(% style="width:993px" %)Обработчик привязан к конкретной дате и рассматривает некоторый ограниченный набор, например одни сутки относительно указанной даты.
1.1	128	Таким образом мы явно ограничиваем блок данных. Но нужно учесть сценарии с возникновением ошибки, т.к. следующее срабатывание уже будет на основе новой даты.
1.4	129	\|(% style="width:177px" %)Перебор всего сета доменных сущностей.\|(% style="width:993px" %)(((
1.37	130	\| \|Пагинация\|Параллелизм\|Фильтрация сета\|
	131	\| \|Страницы\|+\|-\|
	132	\| \|Смещение\|-\|+\|
1.36	133
1.38	134	Необходимое условие: Наличие способа перебрать данные сета данных.
1.31	135	Вариант 1: Если перебираем записи без использования параллелизма, то нам достаточно организовать некоторую пагинацию и последовательно идти, обрабатывая подходящие для запуска процесса строки.
	136	\\Вариант 2:
1.32	137	Если мы уверены, что доменные объекты не удаляются, то мы можем отсортировать их по дате создания и первичному ключу (Если есть уникальный автоинкреметный числовой ключ, то можно использовать его).
	138	Таким образом мы получим детерминированные страницы данных, которые даже можно обрабатывать параллельно.
	139	Невозможно выполнить, если допускается удаление объектов т.к. оно может изменить данные в страницах.
1.35	140	Либо можно прикинуть вариант, когда мы используем блокировку доменных объектов через БД, таким образом в каждом обрабатываем батче (в один момент времени) будет уникальный набор доменных объектов, и если один и тот же объект попадет в разные батчи, то в первом случае он обработается, а во втором он будет отброшен (есть вероятность, что некоторые строки, существовавшие на момент начала операции, не попадут в выборку).
1.1	141
1.31	142	Вариант 4:
1.3	143	Если кол-во записей не очень велико и мы можем без проблем полностью уместить сет всех ключей в оперативной памяти.
1.9	144	(Не требует гарантии, что сущность нельзя удалить, т,к. в случае обнаружения удаления можно просто пропустить ключ).
1.3	145
1.34	146	[[Пагинация \| Paging>>doc:Разработка.Базы данных.Сценарии.Пагинация \| Paging.WebHome]]
	147
1.2	148	Can queries that users ORDER BY using date to sort data be non deterministic?
	149	[[https:~~/~~/dba.stackexchange.com/questions/241056/can-queries-that-users-order-by-using-date-to-sort-data-be-non-deterministic>>https://dba.stackexchange.com/questions/241056/can-queries-that-users-order-by-using-date-to-sort-data-be-non-deterministic]]
1.1	150	)))
1.2	151	)))
	152	)))
1.4	153	\|(% style="width:15px" %) \|(% style="width:1470px" %)
1.1	154
	155

Исходный код вики Инициализация процесса

Приложения

Навигация