Перейти к содержимому

Исходный код вики Движок cccc1808. ProcessEngine

Версия 1.11 от Alexandr Fokin на 2026/04/10 14:37
Скрыть последних авторов
Alexandr Fokin 1.2 1 |(% style="width:132px" %)Теги поиска|(% style="width:1301px" %)(((
2 cccc1808. ProcessEngine, cccc1808.ProcessEngine
Alexandr Fokin 1.1 3 Очередь задач, Система обработки процессов, Движок обработки процессов.
Alexandr Fokin 1.2 4 [[Процесс>>doc:Архитектура и модели.Модели.Процесс.WebHome]]
5 )))
Alexandr Fokin 1.10 6 |(% style="width:132px" %) |(% style="width:1301px" %)Универсальный движок для выполнения процессов и очередей задач, позволяющий комбинировать несколько подходов к обработке (см особенности).
7 |(% style="width:132px" %) |(% style="width:1301px" %)Процесс является единицей выполнения.
8 Система триггеров используется для таймеров и передачи сигналов для процессов (с оптимизацией нагрузки).
Alexandr Fokin 1.1 9 |(% style="width:132px" %)Особенности|(% style="width:1301px" %)(((
Alexandr Fokin 1.6 10 |(% style="width:159px" %)Батчинг|(% style="width:1168px" %)(((
Alexandr Fokin 1.1 11 Возможность использовать и комбинировать разные типы выполнения как
12
13 * (1 транзакция - 1 процесс),
14 * (1 транзакция - N процессов).
15 )))
Alexandr Fokin 1.6 16 |(% style="width:159px" %)Изоляция шагов и процессов (внутри оной транзакции)|(% style="width:1168px" %)(((
Alexandr Fokin 1.1 17 * Изоляция через db savepoint.
18 * Для [[EntityFramework ~| EntityFrameworkCore>>doc:Разработка.NET.Работа с БД.EntityFramework | EntityFrameworkCore.WebHome]] возможность делать InMemory снимок [[Создание снимка ChangeTracker>>doc:Разработка.NET.Работа с БД.EntityFramework | EntityFrameworkCore.Сценарии и проблемы.Создание снимка ChangeTracker.WebHome]].
19 )))
Alexandr Fokin 1.6 20 |(% style="width:159px" %)БД провайдер|(% style="width:1168px" %)(((
Alexandr Fokin 1.1 21 * Сейчас есть реализация под EntityFramework.
22 * Но модель позволяет сделать реализацию под другие решения (LinqToDb или чистый Ado.Net).
Alexandr Fokin 1.7 23
24 Для текущей реализации в качестве хранилище может выступать БД, поддерживающая:
25
26 * транзакции
27 * savepoint (если используются)
28 * updatelock
29 * updatelock skip locked
30 * sharelock (можно обойтись без него)
Alexandr Fokin 1.1 31 )))
Alexandr Fokin 1.6 32 |(% style="width:159px" %)Передача сигналов для процессов через систему триггеров.|(% style="width:1168px" %)(((
Alexandr Fokin 1.1 33 В том числе для передачи сигналов реализована система триггеров.
34 Она позволяет оптимизировать операции с БД.
35
36 см. пример 1.
37 )))
Alexandr Fokin 1.11 38 |(% style="width:159px" %)Перехват ошибок|(% style="width:1168px" %)Перехват и обработка ошибок, если процесс выкинул exception в движок. Реализацию простого retry с задержкой (создается триггер на следующую попытку).
Alexandr Fokin 1.6 39 |(% style="width:159px" %)Параллельное выполнение|(% style="width:1168px" %)Допускается запуск нескольких раннеров (на разных нодах), работающих с одной таблицей процессов для распределения нагрузки между ними.
Alexandr Fokin 1.9 40 Допускается фильтрация типов процессов между нодами (чтобы нода выполняла только определенные типы процессов, в том числе по приоритету).
Alexandr Fokin 1.6 41 Доступно для раннеров процессов и триггеров.
Alexandr Fokin 1.9 42 \\Также возможна частичная поставка новой версии процесса и этот процесс будет браться в обработку только ограниченным количеством новых нод исполнителей.
43 \\В перспективе возможны решения с шардированием.
Alexandr Fokin 1.6 44 |(% style="width:159px" %)Soft timeout|(% style="width:1168px" %)Возможность указывать soft timeout, который будет мягко приостанавливать цикл (внутри шага процесса), чтобы ограничить общее время транзакции (не делать транзакции долгими (например горизонт postgres)). 
Alexandr Fokin 1.1 45 Например родительский процесс может создать N/2 дочерних процессов за 1 сессию и N/2 за 2 сессию выполнения.
46 )))
47 |(% style="width:132px" %)Примеры|(% style="width:1301px" %)(((
48 |(% style="width:32px" %)1|(% style="width:171px" %)Родительский процесс, N дочерних процессов.|(% style="width:1066px" %)(((
49 |(% style="width:870px" %)(((
50 1. Родительский процесс создает триггер со счетчиком N, создает и запускает дочерние процессы, засыпает.
51 1. Дочерние процесс при завершении публикует TriggerEvent.
52 1. TriggerConsumerRunner периодически считывает батч TriggerEvent, уменьшает считчик триггера и делает запись в БД. За счет агрегации событий завершения процессов мы уменьшаем нагрузку на БД.
53 1. Когда все дочерние процессы отработали TriggerConsumerRunner получает значение счетчика 0 и взводит триггер.
54 1. Триггер пробуждает родительский процесс для дальнейшего выполнения.
55 )))
56 |(% style="width:870px" %)TriggerEvent публикуются без использования TransactionOutbox напрямую в брокер после коммита транзакции (иначе мы бы нагружали БД).
57 |(% style="width:870px" %)(((
Alexandr Fokin 1.8 58 Предполагаем, что основную часть времени система работает стабильно, но допускается ситуация, что транзакция закоммитилась, но TriggerEvent не смогли опубликоваться (остановка сервиса без graceful shutdown, проблемы соединения или работы с брокером сообщений).
Alexandr Fokin 1.1 59
60 Для таких случаев создается страхующий триггер (1 общий на тип процесса). Этот триггер запускается периодически и проходится по всем ожидающим процессам, проверяя условие (в реализации можно использовать keyset пагинацию) (в реализации можно использовать join для проверки условия).
61 Этот триггер выполняется периодически с более крупной временной задержкой. В случае обнаружения потери TriggerEvent, он поднимет заклинивший родительский процесс и он будет обработан (но позже). Можно установить этому триггеру низкий приоритет.
62 )))
63 )))
64 |(% style="width:32px" %) |(% style="width:171px" %) |(% style="width:1066px" %)
65 )))
66
67