Modus ETL
Управление корпоративным хранилищем данных

Продукт
Разработчики: Modus (БиАЙ Про)
Дата последнего релиза: 2021/07/21
Технологии: BI,  Data Quality - Качество данных

Содержание

Основные статьи:


Modus ETL - российское решение, предназначенное для управления процессами ETL и Data Quality Management. Позволяет собирать данные из множества источников, обеспечивает процессы верификации, стандартизации, категоризации и трансформации данных.TAdviser выпустил Гид по российским операционным системам 10.8 т

Modus ETL позволяет сформировать и обеспечить управление корпоративным хранилищем данных на СУБД MSSQL, PostgreSQL или Vertica.

Обеспечивает быстрое подключение источников данных за счет готовых интеграций с 1C, SAP, Oracle, различными СУБД, файлами Excel и другими веб-сервисами.

Решение реализовано на платформе 1С:Предприятие 8.3. Открытый для изменения код с возможностью самостоятельной доработки продукта 1С-разработчиками.

Работает на серверах под управлением ОС Windows и Linux.

Modus ETL включен в единый реестр российского ПО и имеет сертификацию «1С:Совместимо!».

2021

Добавление интерфейса Workflow

В обновленном релизе Modus ETL 1.5 появился интерфейс Workflow, который является более функциональной и удобной альтернативой настройке шагов сценария в виде таблицы. Об этом 21 июля 2021 года сообщила компания Modus BI.

Modus ETL развивается в концепции low-code, что подразумевает возможность настраивать ETL-операции в визуальном интерфейсе без необходимости написания кода.

Интерфейс WorkFlow дает возможность проектировать сценарии обработки данных:

  • размещая шаги на холсте и связывая шаги друг с другом для передачи данных и/или управления между шагами,
  • настраивая для шага правила обработки данных с использованием готовых шаблонов (мастеров) и правила сбора статистики и проверки качества данных.
  • при запуске сценария на выполнение в интерфейсе отображается выполнение сценария, сохраняются для последующего анализа логи выполнения и статистика по данным.

Кроме того, шаги сценария обработки данных могут выполняться параллельно, что обеспечивает гибкость настройки и большую производительность.

Пример параллельного выполнения шагов сценария в Workflow:

Также в Modus ETL 1.5 реализован обновленный дизайн приложения: изменены стили цветового оформления и существенно переработан интерфейс для большего удобства работы.

Основные возможности по управлению качеством данных

  • управление нормативно-справочной информацией
  • формирование отчетности в эталонных терминах
  • трансформация первичных данных в целевую модель
  • расчет ключевых показателей эффективности

Управление хранилищем данных Modus ETL
Архитектура Modus ETL

2017

Сертификат «1С:Совместимо!»

В 2017 году продукт «Модус:Управления корпоративным хранилищем данных (ETL)» получил сертификат «Совместимо! Система программ 1С:Предприятие».

Особенности и возможности программы

Продукт "Модус:Управление корпоративным хранилищем данных (ETL)" предназначен для построения и управления корпоративным хранилищем данных (КХД), автоматизированного сбора данных из различных источников данных, включая инструменты управления качеством данных.


(Данные актуальны на апрель 2017 года)

Управление сбором данных:

  • Использование в качестве источника "1C:Предприятие" (в т. ч. 1С:Fresh), данных баз данных (MS SQL, Oracle), веб-сервисов, файлов MS Excel;
  • Возможные приемники данных: внешние источники "1C:Предприятие", базы данных MS SQL;
  • Возможность настройки и сохранения правил сбора данных, включая настройки для указанного источника данных;
  • Возможность загрузки данных в несколько потоков (многопоточность);
  • Возможность загрузки данных по расписанию, включая визуализацию расписания загрузки данных;
  • Возможность визуального конструирования запроса на языке SQL/1C;
  • Возможность визуализации структуры метаданных базы "1C:Предприятие";
  • Управление обработкой данных:
  • Возможность настройки правил трансформации данных – сценариев на языке SQL/;
  • Возможность хранения актуальных данных и истории изменения данных (версии данных) в одной таблице;
  • Настройка правил версионирования данных: определение ключевых полей и расчет хэш-сумм;
  • Настройка правил валидации и очистки данных (использование преднастроенных шаблонов);
  • Настройка правил консолидации данных;

Другие возможности:

  • Возможность объединения правил выгрузки данных и сценариев трансформации данных в пакеты и настройку расписания под запуска пакетов;
  • Подсистема логирования процессов загрузки и трансформации данных;
  • Возможность уведомления на электронную почту о событиях системы;
  • Возможность написания произвольного алгоритма (AddOn) при загрузке и обработке данных;
  • Возможность подключения плагинов для процессов обработки данных;
  • Реализацияв системе рабочего места аналитика по сбору данных (АРМ аналитика).

Конфигурация "Хэндисофт: Управление корпоративным хранилищем данных (ETL)" не является самостоятельной, для ее работы необходимо наличие установленной платформы "1С:Предприятие 8.3" (не ниже версии 8.3.8).

Конфигурация "Хэндисофт: Управление корпоративным хранилищем данных (ETL)" разработана с использованием функционала "1С:Библиотеки стандартных подсистем".



ПРОЕКТЫ (1) ИНТЕГРАТОРЫ (1) РЕШЕНИЕ НА БАЗЕ (1)
СМ. ТАКЖЕ (4)


Подрядчики-лидеры по количеству проектов

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Прогноз (250)
  Loginom Company (ранее BaseGroup Labs Аналитические технологии) (125)
  RBC Group Украина (124)
  БизнесАвтоматика НПЦ (119)
  Консультационная группа АТК (100)
  Другие (2519)

  Сапиенс солюшнс (Sapiens solutions) (9)
  Форсайт (8)
  Navicon (Навикон) (7)
  Корус Консалтинг (6)
  Доверенная среда (5)
  Другие (101)

  БизнесАвтоматика НПЦ (12)
  Форсайт (8)
  ФТО (5)
  Manzana Group (М Софт) (4)
  Optimacros (Оптимакрос) (3)
  Другие (74)

  Инфомаксимум (Infomaximum) (5)
  Manzana Group (М Софт) (5)
  БизнесАвтоматика НПЦ (5)
  Форсайт (4)
  PIX Robotics (Пикс Роботикс) (4)
  Другие (66)

  Simetra (ранее А+С Транспроект) (9)
  БизнесАвтоматика НПЦ (7)
  GlowByte, ГлоуБайт (ранее Glowbyte Consulting, ГлоуБайт Консалтинг) (5)
  Arenadata (Аренадата Софтвер) (4)
  Инфомаксимум (Infomaximum) (3)
  Другие (47)

Распределение вендоров по количеству проектов внедрений (систем, проектов) с учётом партнёров

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Qlik (QlikTech) (59, 464)
  Форсайт (19, 332)
  SAP SE (70, 303)
  Oracle (65, 267)
  Loginom Company (ранее BaseGroup Labs Аналитические технологии) (4, 236)
  Другие (1112, 1633)

  SAP SE (6, 13)
  Форсайт (2, 8)
  Qlik (QlikTech) (2, 8)
  Microsoft (2, 6)
  Доверенная среда (1, 5)
  Другие (50, 78)

  БизнесАвтоматика НПЦ (1, 12)
  Форсайт (3, 8)
  Optimacros (Оптимакрос) (1, 6)
  Microsoft (1, 5)
  Manzana Group (М Софт) (3, 4)
  Другие (40, 50)

  Optimacros (Оптимакрос) (1, 10)
  Форсайт (2, 8)
  Analytic Workspace (ОСТ) (2, 5)
  Manzana Group (М Софт) (2, 5)
  БизнесАвтоматика НПЦ (1, 5)
  Другие (37, 59)

  Simetra (ранее А+С Транспроект) (1, 9)
  БизнесАвтоматика НПЦ (1, 7)
  SL Soft (СЛ Софт) (5, 6)
  Полиматика (Polymatica) (5, 6)
  VMware (2, 6)
  Другие (29, 51)

Распределение систем по количеству проектов, не включая партнерские решения

За всю историю
2021 год
2022 год
2023 год
Текущий год

  QlikView - 370
  Форсайт. Аналитическая платформа (ранее Prognoz Platform) - 318
  Deductor - 226
  Visary BI Платформа бизнес-аналитики - 119
  SAP NetWeaver Business Warehouse (SAP BW/4HANA) - 103
  Другие 1998

  SAP NetWeaver Business Warehouse (SAP BW/4HANA) - 8
  Форсайт. Аналитическая платформа (ранее Prognoz Platform) - 7
  Qlik Sense - 6
  Доверенная среда: Триафлай BI-платформа - 5
  Microsoft Power BI - 5
  Другие 85

  Visary BI Платформа бизнес-аналитики - 12
  Optimacros Платформа для оптимизационного и консолидационного планирования - 6
  Microsoft Power BI - 5
  Форсайт. Аналитическая платформа (ранее Prognoz Platform) - 5
  Qlik Sense - 4
  Другие 51

  Optimacros Платформа для оптимизационного и консолидационного планирования - 10
  Форсайт. Аналитическая платформа (ранее Prognoz Platform) - 7
  Visary BI Платформа бизнес-аналитики - 5
  PIX BI - 5
  Инфомаксимум: Proceset (Система класса Process mining) - 5
  Другие 53

  RITM3 - Real time integration transport measurements modelling managemet - 9
  Visary BI Платформа бизнес-аналитики - 7
  Optimacros Платформа для оптимизационного и консолидационного планирования - 6
  Инфомаксимум: Proceset (Система класса Process mining) - 5
  ADB - Arenadata DB - 5
  Другие 38

Подрядчики-лидеры по количеству проектов

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Datareon (Датареон) (272)
  Axelot (Акселот) (147)
  Loginom Company (ранее BaseGroup Labs Аналитические технологии) (125)
  HFLabs (ХФ Лабс), ранее HumanFactorLabs (48)
  АйТи Про (IT Pro) (18)
  Другие (508)

  Datareon (Датареон) (37)
  Axelot (Акселот) (25)
  АйТи Про (IT Pro) (4)
  Ростелеком (3)
  HandySoft (Хэндисофт) (2)
  Другие (58)

  Datareon (Датареон) (41)
  Axelot (Акселот) (32)
  Софрос (Sofros) (2)
  Теком (2)
  Яндекс (Yandex) (2)
  Другие (39)

  Datareon (Датареон) (32)
  Axelot (Акселот) (19)
  Софрос (Sofros) (8)
  Яндекс.Облако (Yandex Cloud) (3)
  Департамент информационных технологий Москвы (ДИТ) (2)
  Другие (50)

  Datareon (Датареон) (19)
  Axelot (Акселот) (7)
  Софрос (Sofros) (3)
  HFLabs (ХФ Лабс), ранее HumanFactorLabs (3)
  Ростелеком (2)
  Другие (55)

Распределение вендоров по количеству проектов внедрений (систем, проектов) с учётом партнёров

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Datareon (Датареон) (1, 418)
  Loginom Company (ранее BaseGroup Labs Аналитические технологии) (3, 236)
  HFLabs (ХФ Лабс), ранее HumanFactorLabs (4, 49)
  АйТи Про (IT Pro) (1, 18)
  ЮниДата (UniData) (1, 8)
  Другие (54, 37)

  Datareon (Датареон) (1, 60)
  АйТи Про (IT Pro) (1, 4)
  ЮниДата (UniData) (1, 3)
  Modus (БиАЙ Про) (1, 3)
  Informatica (2, 1)
  Другие (5, 5)

  Datareon (Датареон) (1, 71)
  HFLabs (ХФ Лабс), ранее HumanFactorLabs (2, 2)
  Loginom Company (ранее BaseGroup Labs Аналитические технологии) (1, 2)
  Теком (1, 2)
  Informatica (1, 1)
  Другие (1, 1)

  Datareon (Датареон) (1, 57)
  HFLabs (ХФ Лабс), ранее HumanFactorLabs (2, 1)
  АйТи Про (IT Pro) (1, 1)
  Мобильные ТелеСистемы (МТС) (1, 1)
  Дата-Центр Автоматика (1, 1)
  Другие (1, 1)

  Datareon (Датареон) (1, 30)
  HFLabs (ХФ Лабс), ранее HumanFactorLabs (2, 3)
  Теком (1, 2)
  Мобильные ТелеСистемы (МТС) (1, 1)
  Другие (0, 0)

Распределение систем по количеству проектов, не включая партнерские решения

За всю историю
2021 год
2022 год
2023 год
Текущий год

  Datareon Platform - 418
  Deductor - 226
  HFLabs Фактор - 28
  HFLabs Единый клиент - 23
  АйТи Про: BI.Qube - 18
  Другие 75

  Datareon Platform - 60
  АйТи Про: BI.Qube - 4
  ЮниДата Платформа управления данными - 3
  Modus BI Платформа для бизнес-аналитики - 3
  Теком: Orbox - 1
  Другие 6

  Datareon Platform - 71
  Loginom Аналитическая платформа - 2
  HFLabs Единый клиент - 2
  Теком: Orbox - 2
  Informatica Data Quality - 1
  Другие 2

  Datareon Platform - 57
  АйТи Про: BI.Qube - 1
  HFLabs Единый клиент - 1
  МТС DataOps Platform - 1
  Дата-Центр Автоматика: Data-Track Цифровая платформа - 1
  Другие 2

  Datareon Platform - 30
  HFLabs Единый клиент - 2
  Теком: Orbox - 2
  МТС DataOps Platform - 1
  HFLabs Фактор - 1
  Другие 0