Изменения документа Инициализация процесса

Редактировал(а) Alexandr Fokin 2024/06/12 15:27

<
От версии < 1.48 >
отредактировано Alexandr Fokin
на 2024/01/27 17:57
К версии < 1.44 >
отредактировано Alexandr Fokin
на 2024/01/27 17:19
>
Изменить комментарий: К данной версии нет комментариев

Комментарий

Подробности

Свойства страницы
Содержимое
... ... @@ -18,56 +18,93 @@
18 18  |(% style="width:227px" %)Тип|(% style="width:272px" %)Параметр|(% style="width:1023px" %)
19 19  |(% style="width:227px" %)По сущности|(% style="width:272px" %)1 ключ|(% style="width:1023px" %)
20 20  |(% style="width:227px" %)По группе сущностей ()|(% style="width:272px" %)Набор ключей сущностей|(% style="width:1023px" %)
21 -|(% style="width:227px" %)На основе данных, по выборке с параметрами|(% style="width:272px" %)dto с параметрами|(% style="width:1023px" %)
21 +|(% style="width:227px" %)По выборке с параметрами|(% style="width:272px" %)dto с параметрами|(% style="width:1023px" %)
22 22  )))
23 -|(% style="width:157px" %)Инициализация на основе данных|(% style="width:1328px" %)(((
23 +|(% style="width:157px" %)Валидация перед запуском|(% style="width:1328px" %)(((
24 24  (% border="1" %)
25 -|(% style="width:142px" %)Тип|(% style="width:1168px" %)
26 -|(% style="width:142px" %)Выборка батчей до исчерпания|(% style="width:1168px" %)(((
27 -Выборка данных до тех пор пока они не исчерпаются.
25 +|(% style="width:114px" %)Доменные объекты|(% style="width:1195px" %)(((
26 +* Валидация доменных объектов на возможность запуска экземпляра процесса
27 +(с гарантией, что доменной объект не будет изменен до конца транзакции инициализации, иначе мы можем принять некорректное решение о запуске процесса).
28 +* В случае использования [[Оптимистичная блокировка>>doc:Архитектура и модели.Блокировки.Оптимистичная блокировка.WebHome]], необходимо также гарантировать инкрементацию ключа доменных сущностей т.к. скорее всего их поля не изменятся напрямую.
29 +* Как вариант - использование более строго уровня изоляции.
30 +)))
31 +|(% style="width:114px" %)Процессы|(% style="width:1195px" %)(((
32 +Если существуют предыдущие экземпляры процесса (__по ключевому набору__), то они также валидируются на возможность запуска нового экземпляра
28 28  
29 -Замечания:
34 +|(% colspan="2" %)Отношение экземпляров процесса и ключевых доменных сущностей.
35 +|(% style="width:199px" %)Допускается создание только одного экземпляра|(% style="width:978px" %)__Ключевые доменные сущности__ <-(1 к 1)-> __Экземпляр процесса__.
36 +Для каждого уникального ключа может быть не более 1 экземпляра процесса.
37 +|(% style="width:199px" %)Допускается создание более одного экземпляра|(% style="width:978px" %)(((
38 +Здесь речь идет не только о том, что несколько экземпляров активны в один и тот-же момент времени, а о том, что допускается ситуация, что в случае если у нас уже есть существующий экземпляр процесса (выполнявшийся ранее), и вместо того, чтобы изменить его состояние и перезапустить, создаем новый экземпляр (при этом гарантируя валидность такого действия).
39 +\\В таком случае мы можем представить следующую модель данных:
40 +__Ключевые доменные сущности__ <-(1 к 1)-> __Ключевой сквозной контекст процесса__ <-(1 к N)-> __Экземпляр процесса__.
41 +
30 30  
31 -* Плохо подходит для больших объемов данных. Может привести к долгому выполнению выборки.
32 -* Плохо подходит для сложных условий т.к. может привезти к тому, что будет невозможно выразить полный набор условий в виде запроса или запрос получиться сложным и также будет долго выполняться.
33 -* Одна ошибка блокирует всю инициализацию.
34 -Если при обработке ключевого доменного объекта возникнет ошибка, то это окажет влияние на всю операцию инициализации.
35 -Может быть проблематично отбросить данный доменный объект, чтобы он не попал в выборку.
43 +(% border="1" %)
44 +|Ключевой сквозной контекст не всегда может быть выражен явно, но фактически он будет существовать.
45 +|(((
46 +Пример 1
36 36  
37 -Пример:
38 -Соединение таблицы доменных сущностей с таблицей процесса и выборка тех сущностей, по которым нет записи в таблице процесса.
48 +Мы можем гарантировать, что в один момент времени имеется только один активный экземпляр процесса (и только он выполняется).
49 +\\Мы можем использовать указатель на активный процесс из сквозного контекста,
50 +или также мы можем добавить флажок активности в экземпляр процесса и наложить на него уникальный индекс.
39 39  )))
40 -|(% style="width:142px" %)Перебор батчей данных|(% style="width:1168px" %)(((
41 -Когда речь заходит о переборе данных, то явно касаемся вопрос [[Пагинация | Paging>>doc:Разработка.Базы данных.Сценарии.Пагинация | Paging.WebHome]].
52 +|(((
53 +Пример 2
42 42  
43 -Стоит учитывать следующие моменты:
55 квозной контекст может отслеживать была ли достигнута финальная цель ключевой связки.
44 44  
45 -* Фильтрация - перебор ограниченного подмножества от всего набора данных (условие).
46 -* Параллелизм - возможность выполнения операции параллельно (с распределением блоков между обработчиками).
47 -* Модификация данных - гарантия что в процессе, данные могут быть изменены (самой инициализацией или внешним воздействием).
57 +Например:
48 48  
49 -Keyset пагинации может быть более эффективной (с точки зрения стоимости запроса).
59 +* Целью является создание некоторого доменного объекта, когда он будет создан, информация зафиксируется в сквозном контексте.
60 +* Эти данные не позволят запустить новый экземпляр процесса так как цель достигнута - объект создан.
61 +* Если вдруг выясняется, что по какой-то причине созданный доменный объект объявляется недействительным, и необходимо запустить новый экземпляр процесса (по тому же ключу) для создания нового экземпляра доменного объекта, то также нужно выполнить сброс данных в сквозном контексте.
62 +(ручной сброс или подписка на доменной событие, оповещающее о смене статуса созданного объекта (аннулирование, блокировка и др.))
50 50  )))
51 51  )))
52 -|(% style="width:157px" %)Валидация перед запуском|(% style="width:1328px" %)(((
65 +)))
66 +
67 +
68 +)))
69 +|(% style="width:157px" %) |(% style="width:1328px" %)
70 +
71 +
53 53  (% border="1" %)
54 -|(% style="width:114px" %)Доменные объекты|(% style="width:1195px" %)(((
55 -* Валидация доменных объектов на возможность запуска экземпляра процесса
56 -(с гарантией, что доменной объект не будет изменен до конца транзакции инициализации, иначе мы можем принять некорректное решение о запуске процесса).
73 +|(% style="width:15px" %) |(% style="width:1470px" %)(((
74 +(% border="1" %)
75 +|(% style="width:179px" %)Ручной и автоматический запуск процесса|(% style="width:1271px" %)(((
76 +|(% style="width:301px" %)Автоматический запуск|(% style="width:951px" %)(((
77 +|по таймеру (по выборке)|
78 +)))
79 +|(% style="width:301px" %)Ручной запуск|(% style="width:951px" %)(((
80 +|По сущности (ключу)|
81 +|По групповой выборке (список ключей)|
82 +|По групповой выборке с параметрами|
83 +)))
84 +|(% style="width:301px" %)Запуск по событию|(% style="width:951px" %)(((
85 +|По сущности (ключу)|
86 +|По групповой выборке (список ключей)|
87 +|По групповой выборке с параметрами|
88 +)))
89 +)))
90 +|(% style="width:179px" %)Валидация перед запуском|(% style="width:1271px" %)(((
91 +(% border="1" %)
92 +|(((
93 +* Валидация доменных объектов на возможность запуска экземпляра процесса (с гарантией, что доменной объект не будет изменен до конца транзакции планировщика, иначе мы можем принять некорректное решение о запуске процесса).
57 57  * В случае использования [[Оптимистичная блокировка>>doc:Архитектура и модели.Блокировки.Оптимистичная блокировка.WebHome]], необходимо также гарантировать инкрементацию ключа доменных сущностей т.к. скорее всего их поля не изменятся напрямую.
58 58  * Как вариант - использование более строго уровня изоляции.
59 59  )))
60 -|(% style="width:114px" %)Процессы|(% style="width:1195px" %)(((
97 +|(((
61 61  Если существуют предыдущие экземпляры процесса (__по ключевому набору__), то они также валидируются на возможность запуска нового экземпляра
62 62  
63 63  (% border="1" %)
64 -|(% colspan="2" %)Отношение экземпляров процесса и ключевых доменных сущностей.
65 -|(% style="width:199px" %)Допускается создание только одного экземпляра|(% style="width:978px" %)__Ключевые доменные сущности__ <-(1 к 1)-> __Экземпляр процесса__.
101 +|(% colspan="2" style="width:157px" %)Отношение экземпляров процесса и ключевых доменных сущностей.
102 +|(% style="width:172px" %)Допускается создание только одного экземпляра процесса|(% style="width:1063px" %)Экземпляр ключевой доменной сущности <-(1 к 1)-> Экземпляр процесса.
66 66  Для каждого уникального ключа может быть не более 1 экземпляра процесса.
67 -|(% style="width:199px" %)Допускается создание более одного экземпляра|(% style="width:978px" %)(((
68 -Здесь речь идет не только о том, что несколько экземпляров активны в один и тот-же момент времени, а о том, что допускается ситуация, что в случае если у нас уже есть существующий экземпляр процесса (выполнявшийся ранее), и вместо того, чтобы изменить его состояние и перезапустить, создаем новый экземпляр (при этом гарантируя валидность такого действия).
104 +|(% style="width:172px" %)Допускается создание более одного экземпляра|(% style="width:1063px" %)(((
105 +Здесь речь идет не о том, что несколько экземпляров активны в один и тот-же момент времени, а о том, что допускается ситуация, что в случае если у нас уже есть существующий экземпляр процесса (выполнявшийся ранее), мы не меняем его состояние и перезапускаем, а создаем новый экземпляр (при этом гарантируя валидность такого действия).
69 69  \\В таком случае мы можем представить следующую модель данных:
70 -__Ключевые доменные сущности__ <-(1 к 1)-> __Ключевой сквозной контекст процесса__ <-(1 к N)-> __Экземпляр процесса__.
107 +Ключевые доменные сущности <-(1 к 1)-> Ключевой сквозной контекст процесса <-(1 к N)-> Экземпляр процесса.
71 71  
72 72  
73 73  (% border="1" %)
... ... @@ -94,3 +94,57 @@
94 94  )))
95 95  )))
96 96  )))
134 +|(% style="width:179px" %) |(% style="width:1271px" %)
135 +
136 +(% border="1" %)
137 +|(% style="width:151px" %)На основе события|(% style="width:1188px" %)Событие запуска процесса поступает извне, и обязательства о выборке данных для процесса лежат на внешнем компоненте.
138 +События могут помещаться в некоторый буфер - хранилище (брокер сообщений, БД) и разбираться обработчиком до исчерпания.
139 +|(% style="width:151px" %)На основе данных|(% style="width:1188px" %)(((
140 +(% border="1" %)
141 +|(% colspan="2" %)Замечания
142 +|Параллелизм|Гарантия, что код планировщика выполняются в эксклюзивном режиме, в случае если он запущен в нескольких экземплярах.
143 +Предполагается [[Пессимистичная блокировка>>doc:Архитектура и модели.Блокировки.Пессимистичная блокировка.WebHome]] на уровне всех экземпляров.
144 +
145 +(% border="1" %)
146 +|(% style="width:177px" %)Тип|(% style="width:993px" %)
147 +|(% style="width:177px" %)Выборка до исчерпания|(% style="width:993px" %)(((
148 +Выборка данных до тех пор пока они не исчерпаются.
149 +
150 +Замечания:
151 +
152 +* Плохо подходит для больших объемов данных. Может привести к долгому выполнению выборки.
153 +* Плохо подходит для сложных условий т.к. может привезти к тому, что будет невозможно выразить полный набор условий в виде запроса или запрос получиться сложным и также будет долго выполняться.
154 +* Если при обработке ключевого доменного объекта возникнет ошибка, то это окажет влияние на всю операцию инициализации. Может быть проблематично отбросить данный доменный объект, чтобы он не попал в выборку.
155 +
156 +Пример:
157 +Соединение таблицы доменных сущностей с таблицей процесса и выборка тех сущностей, по которым нет записи в таблице процесса.
158 +)))
159 +|(% style="width:177px" %)Инициализация, привязанная к дате.|(% style="width:993px" %)Обработчик привязан к конкретной дате и рассматривает некоторый ограниченный набор, например одни сутки относительно указанной даты.
160 +Таким образом мы явно ограничиваем блок данных. Но нужно учесть сценарии с возникновением ошибки, т.к. следующее срабатывание уже будет на основе новой даты.
161 +|(% style="width:177px" %)Перебор всего сета доменных сущностей.|(% style="width:993px" %)(((
162 +| |Пагинация|Параллелизм|Фильтрация сета|
163 +| |Страницы|+|-|
164 +| |Смещение|-|+|
165 +
166 +Необходимое условие: Наличие способа перебрать данные сета данных.
167 +Вариант 1: Если перебираем записи без использования параллелизма, то нам достаточно организовать некоторую пагинацию и последовательно идти, обрабатывая подходящие для запуска процесса строки.
168 +\\Вариант 2:
169 +Если мы уверены, что доменные объекты не удаляются, то мы можем отсортировать их по дате создания и первичному ключу (Если есть уникальный автоинкреметный числовой ключ, то можно использовать его).
170 +Таким образом мы получим детерминированные страницы данных, которые даже можно обрабатывать параллельно.
171 +Невозможно выполнить, если допускается удаление объектов т.к. оно может изменить данные в страницах.
172 +Либо можно прикинуть вариант, когда мы используем блокировку доменных объектов через БД, таким образом в каждом обрабатываем батче (в один момент времени) будет уникальный набор доменных объектов, и если один и тот же объект попадет в разные батчи, то в первом случае он обработается, а во втором он будет отброшен (есть вероятность, что некоторые строки, существовавшие на момент начала операции, не попадут в выборку).
173 +
174 +Вариант 4:
175 +Если кол-во записей не очень велико и мы можем без проблем полностью уместить сет всех ключей в оперативной памяти.
176 +(Не требует гарантии, что сущность нельзя удалить, т,к. в случае обнаружения удаления можно просто пропустить ключ).
177 +
178 +[[Пагинация | Paging>>doc:Разработка.Базы данных.Сценарии.Пагинация | Paging.WebHome]]
179 +
180 +Can queries that users ORDER BY using date to sort data be non deterministic?
181 +[[https:~~/~~/dba.stackexchange.com/questions/241056/can-queries-that-users-order-by-using-date-to-sort-data-be-non-deterministic>>https://dba.stackexchange.com/questions/241056/can-queries-that-users-order-by-using-date-to-sort-data-be-non-deterministic]]
182 +)))
183 +)))
184 +)))
185 +|(% style="width:15px" %) |(% style="width:1470px" %)
186 +
187 +