Изменения документа Инициализация процесса
Редактировал(а) Alexandr Fokin 2024/06/12 15:27
<
>
отредактировано Alexandr Fokin
на 2024/01/27 17:19
на 2024/01/27 17:19
отредактировано Alexandr Fokin
на 2024/01/27 17:55
на 2024/01/27 17:55
Изменить комментарий:
К данной версии нет комментариев
Комментарий
-
Свойства страницы (1 изменено, 0 добавлено, 0 удалено)
Подробности
- Свойства страницы
-
- Содержимое
-
... ... @@ -18,8 +18,37 @@ 18 18 |(% style="width:227px" %)Тип|(% style="width:272px" %)Параметр|(% style="width:1023px" %) 19 19 |(% style="width:227px" %)По сущности|(% style="width:272px" %)1 ключ|(% style="width:1023px" %) 20 20 |(% style="width:227px" %)По группе сущностей ()|(% style="width:272px" %)Набор ключей сущностей|(% style="width:1023px" %) 21 -|(% style="width:227px" %) По выборке с параметрами|(% style="width:272px" %)dto с параметрами|(% style="width:1023px" %)21 +|(% style="width:227px" %)На основе данных, по выборке с параметрами|(% style="width:272px" %)dto с параметрами|(% style="width:1023px" %) 22 22 ))) 23 +|(% style="width:157px" %)Инициализация на основе данных|(% style="width:1328px" %)((( 24 +(% border="1" %) 25 +|(% style="width:142px" %)Тип|(% style="width:1168px" %) 26 +|(% style="width:142px" %)Выборка батчей до исчерпания|(% style="width:1168px" %)((( 27 +Выборка данных до тех пор пока они не исчерпаются. 28 + 29 +Замечания: 30 + 31 +* Плохо подходит для больших объемов данных. Может привести к долгому выполнению выборки. 32 +* Плохо подходит для сложных условий т.к. может привезти к тому, что будет невозможно выразить полный набор условий в виде запроса или запрос получиться сложным и также будет долго выполняться. 33 +* Одна ошибка блокирует всю инициализацию. 34 +Если при обработке ключевого доменного объекта возникнет ошибка, то это окажет влияние на всю операцию инициализации. 35 +Может быть проблематично отбросить данный доменный объект, чтобы он не попал в выборку. 36 + 37 +Пример: 38 +Соединение таблицы доменных сущностей с таблицей процесса и выборка тех сущностей, по которым нет записи в таблице процесса. 39 +))) 40 +|(% style="width:142px" %)Перебор батчей данных|(% style="width:1168px" %)((( 41 +Когда речь заходит о переборе данных, то явно касаемся вопрос пагинации. 42 + 43 +Стоит учитывать следующие моменты: 44 + 45 +* Фильтрация - перебор ограниченного подмножества от всего набора данных (условие). 46 +* Параллелизм - возможность выполнения операции параллельно (с распределением блоков между обработчиками). 47 +* Модификация данных - гарантия что в процессе, данные могут быть изменены (самой инициализацией или внешним воздействием). 48 + 49 +Keyset пагинации может быть более эффективной (с точки зрения стоимости запроса). 50 +))) 51 +))) 23 23 |(% style="width:157px" %)Валидация перед запуском|(% style="width:1328px" %)((( 24 24 (% border="1" %) 25 25 |(% style="width:114px" %)Доменные объекты|(% style="width:1195px" %)((( ... ... @@ -63,125 +63,5 @@ 63 63 ))) 64 64 ))) 65 65 ))) 66 - 67 - 68 68 ))) 69 69 |(% style="width:157px" %) |(% style="width:1328px" %) 70 - 71 - 72 -(% border="1" %) 73 -|(% style="width:15px" %) |(% style="width:1470px" %)((( 74 -(% border="1" %) 75 -|(% style="width:179px" %)Ручной и автоматический запуск процесса|(% style="width:1271px" %)((( 76 -|(% style="width:301px" %)Автоматический запуск|(% style="width:951px" %)((( 77 -|по таймеру (по выборке)| 78 -))) 79 -|(% style="width:301px" %)Ручной запуск|(% style="width:951px" %)((( 80 -|По сущности (ключу)| 81 -|По групповой выборке (список ключей)| 82 -|По групповой выборке с параметрами| 83 -))) 84 -|(% style="width:301px" %)Запуск по событию|(% style="width:951px" %)((( 85 -|По сущности (ключу)| 86 -|По групповой выборке (список ключей)| 87 -|По групповой выборке с параметрами| 88 -))) 89 -))) 90 -|(% style="width:179px" %)Валидация перед запуском|(% style="width:1271px" %)((( 91 -(% border="1" %) 92 -|((( 93 -* Валидация доменных объектов на возможность запуска экземпляра процесса (с гарантией, что доменной объект не будет изменен до конца транзакции планировщика, иначе мы можем принять некорректное решение о запуске процесса). 94 -* В случае использования [[Оптимистичная блокировка>>doc:Архитектура и модели.Блокировки.Оптимистичная блокировка.WebHome]], необходимо также гарантировать инкрементацию ключа доменных сущностей т.к. скорее всего их поля не изменятся напрямую. 95 -* Как вариант - использование более строго уровня изоляции. 96 -))) 97 -|((( 98 -Если существуют предыдущие экземпляры процесса (__по ключевому набору__), то они также валидируются на возможность запуска нового экземпляра 99 - 100 -(% border="1" %) 101 -|(% colspan="2" style="width:157px" %)Отношение экземпляров процесса и ключевых доменных сущностей. 102 -|(% style="width:172px" %)Допускается создание только одного экземпляра процесса|(% style="width:1063px" %)Экземпляр ключевой доменной сущности <-(1 к 1)-> Экземпляр процесса. 103 -Для каждого уникального ключа может быть не более 1 экземпляра процесса. 104 -|(% style="width:172px" %)Допускается создание более одного экземпляра|(% style="width:1063px" %)((( 105 -Здесь речь идет не о том, что несколько экземпляров активны в один и тот-же момент времени, а о том, что допускается ситуация, что в случае если у нас уже есть существующий экземпляр процесса (выполнявшийся ранее), мы не меняем его состояние и перезапускаем, а создаем новый экземпляр (при этом гарантируя валидность такого действия). 106 -\\В таком случае мы можем представить следующую модель данных: 107 -Ключевые доменные сущности <-(1 к 1)-> Ключевой сквозной контекст процесса <-(1 к N)-> Экземпляр процесса. 108 - 109 - 110 -(% border="1" %) 111 -|Ключевой сквозной контекст не всегда может быть выражен явно, но фактически он будет существовать. 112 -|((( 113 -Пример 1 114 - 115 -Мы можем гарантировать, что в один момент времени имеется только один активный экземпляр процесса (и только он выполняется). 116 -\\Мы можем использовать указатель на активный процесс из сквозного контекста, 117 -или также мы можем добавить флажок активности в экземпляр процесса и наложить на него уникальный индекс. 118 -))) 119 -|((( 120 -Пример 2 121 - 122 -Сквозной контекст может отслеживать была ли достигнута финальная цель ключевой связки. 123 - 124 -Например: 125 - 126 -* Целью является создание некоторого доменного объекта, когда он будет создан, информация зафиксируется в сквозном контексте. 127 -* Эти данные не позволят запустить новый экземпляр процесса так как цель достигнута - объект создан. 128 -* Если вдруг выясняется, что по какой-то причине созданный доменный объект объявляется недействительным, и необходимо запустить новый экземпляр процесса (по тому же ключу) для создания нового экземпляра доменного объекта, то также нужно выполнить сброс данных в сквозном контексте. 129 -(ручной сброс или подписка на доменной событие, оповещающее о смене статуса созданного объекта (аннулирование, блокировка и др.)) 130 -))) 131 -))) 132 -))) 133 -))) 134 -|(% style="width:179px" %) |(% style="width:1271px" %) 135 - 136 -(% border="1" %) 137 -|(% style="width:151px" %)На основе события|(% style="width:1188px" %)Событие запуска процесса поступает извне, и обязательства о выборке данных для процесса лежат на внешнем компоненте. 138 -События могут помещаться в некоторый буфер - хранилище (брокер сообщений, БД) и разбираться обработчиком до исчерпания. 139 -|(% style="width:151px" %)На основе данных|(% style="width:1188px" %)((( 140 -(% border="1" %) 141 -|(% colspan="2" %)Замечания 142 -|Параллелизм|Гарантия, что код планировщика выполняются в эксклюзивном режиме, в случае если он запущен в нескольких экземплярах. 143 -Предполагается [[Пессимистичная блокировка>>doc:Архитектура и модели.Блокировки.Пессимистичная блокировка.WebHome]] на уровне всех экземпляров. 144 - 145 -(% border="1" %) 146 -|(% style="width:177px" %)Тип|(% style="width:993px" %) 147 -|(% style="width:177px" %)Выборка до исчерпания|(% style="width:993px" %)((( 148 -Выборка данных до тех пор пока они не исчерпаются. 149 - 150 -Замечания: 151 - 152 -* Плохо подходит для больших объемов данных. Может привести к долгому выполнению выборки. 153 -* Плохо подходит для сложных условий т.к. может привезти к тому, что будет невозможно выразить полный набор условий в виде запроса или запрос получиться сложным и также будет долго выполняться. 154 -* Если при обработке ключевого доменного объекта возникнет ошибка, то это окажет влияние на всю операцию инициализации. Может быть проблематично отбросить данный доменный объект, чтобы он не попал в выборку. 155 - 156 -Пример: 157 -Соединение таблицы доменных сущностей с таблицей процесса и выборка тех сущностей, по которым нет записи в таблице процесса. 158 -))) 159 -|(% style="width:177px" %)Инициализация, привязанная к дате.|(% style="width:993px" %)Обработчик привязан к конкретной дате и рассматривает некоторый ограниченный набор, например одни сутки относительно указанной даты. 160 -Таким образом мы явно ограничиваем блок данных. Но нужно учесть сценарии с возникновением ошибки, т.к. следующее срабатывание уже будет на основе новой даты. 161 -|(% style="width:177px" %)Перебор всего сета доменных сущностей.|(% style="width:993px" %)((( 162 -| |Пагинация|Параллелизм|Фильтрация сета| 163 -| |Страницы|+|-| 164 -| |Смещение|-|+| 165 - 166 -Необходимое условие: Наличие способа перебрать данные сета данных. 167 -Вариант 1: Если перебираем записи без использования параллелизма, то нам достаточно организовать некоторую пагинацию и последовательно идти, обрабатывая подходящие для запуска процесса строки. 168 -\\Вариант 2: 169 -Если мы уверены, что доменные объекты не удаляются, то мы можем отсортировать их по дате создания и первичному ключу (Если есть уникальный автоинкреметный числовой ключ, то можно использовать его). 170 -Таким образом мы получим детерминированные страницы данных, которые даже можно обрабатывать параллельно. 171 -Невозможно выполнить, если допускается удаление объектов т.к. оно может изменить данные в страницах. 172 -Либо можно прикинуть вариант, когда мы используем блокировку доменных объектов через БД, таким образом в каждом обрабатываем батче (в один момент времени) будет уникальный набор доменных объектов, и если один и тот же объект попадет в разные батчи, то в первом случае он обработается, а во втором он будет отброшен (есть вероятность, что некоторые строки, существовавшие на момент начала операции, не попадут в выборку). 173 - 174 -Вариант 4: 175 -Если кол-во записей не очень велико и мы можем без проблем полностью уместить сет всех ключей в оперативной памяти. 176 -(Не требует гарантии, что сущность нельзя удалить, т,к. в случае обнаружения удаления можно просто пропустить ключ). 177 - 178 -[[Пагинация | Paging>>doc:Разработка.Базы данных.Сценарии.Пагинация | Paging.WebHome]] 179 - 180 -Can queries that users ORDER BY using date to sort data be non deterministic? 181 -[[https:~~/~~/dba.stackexchange.com/questions/241056/can-queries-that-users-order-by-using-date-to-sort-data-be-non-deterministic>>https://dba.stackexchange.com/questions/241056/can-queries-that-users-order-by-using-date-to-sort-data-be-non-deterministic]] 182 -))) 183 -))) 184 -))) 185 -|(% style="width:15px" %) |(% style="width:1470px" %) 186 - 187 -