Экстрактор данных 1С->BI: как выгружать данные из 1С в Yandex Datalens

Выгрузить данные из 1С достаточно сложно - программа не предусматривает, чтобы данные из нее использовались в каких-нибудь внешних сервисах. Но это не значит, что получить информацию из 1С нельзя. 

Назначение продукта

"Экстрактор данных 1С 8.3 в BI" используется для автоматизации работы по выгрузке данных для последующего анализа в BI-системе Yandex Datalens. Наши Заказчики - это:

  • бизнес-аналитики
  • программисты
  • пользователи, активно работающих с 1С 8
  • финансовые и технические директора
  • CEO

Продукт решает следующие проблемы:

  • Удобная настройка выборки данных в 1С - т.е. формирование 1С как "Источника данных"
  • Автогенерация таблиц в базе-приемнике ClickHouse
  • Автосопоставление полей между Источником данных и Базой-приемником
  • Автоматическая (по расписанию) выгрузка данных из 1С в базу-приемник (можно укзаать разное расписание для разных наборов данных, можно разделить выгрузку по периодам, потокам и прочим фильтрам)

«Экстрактор данных 1С 8 в BI» - это ETL-инструмент автоматизации массивной выгрузки данных из 1С в аналитическую базу данных Clickhouse для работы с такими инструментами BI-аналитики как:

  • Yandex Datalens, Apache Superset, Microsoft Power BI, Qlik Sense, Tableau, Processet, Omega BI, LuxmsBI, Visiology, Loginom, Форсайт, Polymatica
«Экстрактор данных» полностью автоматизирует извлечение информации в Datalens, Visiology и пр. а также трансформацию и выгрузку данных в БД Clickhouse, для последующей обработки в BI-системах Datalens, Tableau и других.

«Экстрактор данных» реализует:

  1. Данные с помощью экстрактора формируются в пользовательском режиме из 1С на основе объектов метаданных и запросов, в том числе с поддержкой вычисляемых полей, параметров, временных таблиц
  2. Автоматическая генерация и модификация структуры таблиц с маппингом к наборам данных в БД Clickhouse, при этом:
  3. БД Clickhouse поддерживается как в облаке Яндекс Datalens, так и self-hosted (http и https – доступ)
  4. Поддержка партицирования таблиц в БД Clickhouse
  5. Полная выгрузка экстрактором и выгрузка только изменений (в рамках партиции)
  6. С помощью экстрактора данные осуществляются в многопоточную выгрузку
  7. Работа с клиент-серверными и файловыми базами
  8. Экстрактор полностью автоматизирует работу в фоновом режиме

Базово, наше Решение реализовано как «Расширение» 1С 8.3, т.е. оно встраивается в вашу 1С и дополняет возможности программы необходимым функционалом. 

В каждой поставке мы предоставляем Заказчикам две версии:
Как «Расширение»
Как «Конфигурацию» для встраивания (методом объединения конфигураций)

Мы осуществляем полную методическую и консультационную поддержку нашего Решения. 

Разработка выполнена на Управляемых формах (поэтому, если у вас не запрещен запуск вашей конфигурации в режиме управляемых форм, то наше Решение будет там работать вполне успешно). 

Мы использовали стандартные методы и подходы 1С 8.3 и частично задействовали механизмы БСП (Библиотека стандартных подсистем), но только в части встраивания и создания регламентных заданий. 

Решение имеет систему лицензирования и защиты, лицензируется на количество баз 1С, где устанавливается. 
Также, Решение нормально (без доработок и адаптации) работает с любыми конфигурациями с версии платформы 8.3.16 (Для платформы ниже 8.3.16 необходима проверка под совместимость. 
На данный момент реализованы проекты, работающие с кастомными конфигурациями под 8.3.10 и 8.3.11 (потребовалась небольшая адаптация и внедрение в конфигурацию, так как данные платформы 1С полноценно не поддерживают механизм Расширений). 

Решение уже протестировано на стандартных (типовых) конфигурациях:

  • 1С Управление торговлей 11 (11.4 и 11.5);
  • 1С Розница 2 и 3;
  • 1С Бухгалтерия 3.0;
  • ЗУП;
  • ERP 2.4 и 2.5;
  • УНФ 1.6 и 3.0;
  • Далион;
  • АСТОР.

Так как Решение является универсальным, то технически может быть запущено на любой конфигурации 1С 8.3.

Идея состоит в том, чтобы без участия программистов 1С, бизнес-аналитик мог сам:
  1. Собрать себе набор данных (Датасет) в терминах 1С
  2. На его основе создать таблицу в Базе данных “одной кнопкой”
  3. при необходимости, добавить новые поля в набор данных и обновить таблицу-приемник новыми полями
  4. Настроить регулярную автоматическую выгрузку, на то чтобы данные передавались в базу данных
  5. Обеспечить многопоточную фоновую выгрузку, чтобы данные выгружались «по расписанию»
  6. При определенных настройках можно реализовать фактически real-time выгрузку данных в БД Clickhouse(все зависит от того, какого объёма данные и поставленной задачи бизнес-аналитиком)
  7. заниматься своей работой здесь и сейчас, не ожидая какие-то разработки, доработки, ручные выгрузки отчетов от программистов 1С и т.д.
  8. получать большие массивы данных здесь и сейчас для анализа в своей BI-системе (например, Datalens)

Какие данные можно выгрузить с "Экстрактор данных 1С в BI-системах в Datalens" от ДЕНВИК

Наше решение позволяет выгружать любые данные из 1С в таблицы Clickhouse, для последующей работы в BI-системах Datalens:

  • Продажи;
  • Расходы;
  • Закупки;
  • Документы;
  • Справочники;
  • Перечисления;
  • Константы;
  • Планы видов характеристик;
  • Планы счетов;
  • Хозяйственные операции (проводки);
  • Регистры сведений (цены и т.д.);
  • Регистры расчета (зарплатные);
  • Бизнес-процессы;
  • Задачи;
  • Планы обмена.
  • и т.д.
  • И все это вместе и как единый набор данных для выгрузки и как отдельные наборы данных
дашборд из Datalens демо3.png

Использование Экстрактора данных позволит вам не только упростить переносимые данные из 1С в yandex Datalens или Power BI, но и:

  • делать автоматическую выгрузку данных из любой конфигурации (даже из файловой);
  • настроить выгрузку в Datalens по расписанию;
  • подключить и настроить передаваемые в Datalens данные без участия программистов;
  • гибко добавлять и изменять таблицы в базе данных Datalens, куда выгружаются данные
  • все данные хранятся в облаке yandex Datalens, поэтому не нужно тратиться на администрирование серверов и контроль базы данных;
  • Это прямая выгрузка по расписанию из 1С в базу данных, для работы с Yandex Datalens и Power BI


схема работы экстрактора данных


Выгрузка из 1С в Yandex Datalens данных происходит следующим образом:

Экстрактор данных 1С в BI:
  • Подходит для всех конфигураций 1С 8.3 (тестировалось начиная с платформы 8.3.16);
  • Умеет выгружать абсолютно все сущности, в том числе и нетиповые;
  • Устанавливается как "Расширение 1С", а также как "Конфигурация для объединения".
Тестировалось и отлично работает под:
  • 1С Управление торговлей 11
  • 1С комплексная автоматизация 2
  • 1С ERP 2.4 и 2.5
  • 1С Розница 2 и 3
  • 1С УНФ 1.6 и 3
  • 1С Управление Холдингом
  • Далион
  • АСТОР Торговая Сеть и АСТОР Ваш Магазин
  • 1С Управление Отелем
  • и другие...
Для работы требует установленный и настроенный сервер Clickhouse (в облаке или у вас на компьютере)
  • Описание как развернуть Managed Service for Clickhouse в облаке Яндекс
    • По запросу предоставим образы для развертывания Clickhouse под Hyper-V/VirtualBox)
Чтобы выгрузить данные из 1С в Datalens, нужно открыть экстрактор данных через 1С и выбрать необходимые для выгрузки в Datalens сущности.

Далее переименовать поля, если это нужно, чтобы они корректно выгрузились в Yandex Datalens и указать, как нужно отфильтровать данные. Следующим этапом настроить расписание для выгрузки.

content_img (1).png

Теперь можно подключаться к своей базе данных через Yandex Datalens и настраивать визуализации.

content_img (2).png

У нас вышла новая версия "Экстрактора данных", которая включает в себя:

  • Многопоточную выгрузку данных
  • Пред- и пост-обработчики выгрузки для каждого "проекта"
  • Специализированную "очередь" выгрузки, с помощью которой программист конфигурации может гибко управлять выгрузкой изменений" из базы 1С
  • Работу с партициями таблиц Clickhouse (теперь система умеет перезаписывать не всю таблицу-приемник целиком, а перезаписывать отдельные ее партиции (например месяцы или дни и т.д.)
  • Проведена значительная оптимизация кода, которая позволила еще более ускорить выгрузку, в том числе и за счет "тонкой" настройки экранирования спецсимволов
  • Теперь "Экстрактор данных" поставляется и как "Расширение" и как "Конфигурация для объединения"

Примеры настроенных дашбордов в Yandex Datalens по данным, получаемым нашим решением из 1С

  • Демо на котором демонстрируются выгружаемые данные о выручке и себестоимости в Datalens
  • Демо по безналичным платежам в Datalens

Мы поможем подключить и настроить Экстрактор данных для выгрузки в Datalens, если у вас возникнут проблемы. 

Как подключить базы Clickhouse описано в этих статьях:

  • Быстрый гайд по развертыванию базы данных Clickhouse в облаке Яндекс (для работы с Yandex Datalens) (Далее, далее, далее...)

Как выгрузить данные с помощью нашего решения в Datalens, мы подробно описали в своем блоге.

Для консультации по поводу возможностей решения и совместимости его с 1С обращайтесь в наш отдел продаж.

Новинки, обновления и ответы на вопросы доступны в нашем Telegram-канале:  https://t.me/extractor_1C_to_Clickhouse
Подписывайтесь, будьте в курсе новостей.

Инструмент

Сравнительный анализ

Традиционная парадигма разработки ПО, основанная на императивном программировании, требует высокой квалификации и много ресурсов. В этой модели создание и отладка кода — трудоемкие задачи, требующие глубоких знаний и навыков.

Low-code платформы предлагают другой подход. Они используют графические элементы и упрощают кодирование. Это сокращает время разработки и делает её понятной для пользователей с любым уровнем навыков.

Заказать демо

Другие статьи

Как перейти с Excel на BI за 7 дней: Техническое руководство
Как перейти с Excel на BI за 7 дней: Техническое руководство
Переход с Microsoft Excel на полноценную BI-систему — это не про «красивые графики», а про архитектуру данных. За 7 дней вы выстроите путь от хаотичных Excel-файлов к централизованной аналитике
Выгрузка данных из 1С в XML: особенности формата, ограничения и способы их обхода
Выгрузка данных из 1С в XML: особенности формата, ограничения и способы их обхода
В материале разбираем, почему XML усложняет интеграции с 1С и какие подходы позволяют упростить обмен данными и снизить затраты.
Запись вебинара «BI без разрывов: полный контроль пути данных от 1С до аналитики - Экстрактор 1С».
Запись вебинара «BI без разрывов: полный контроль пути данных от 1С до аналитики - Экстрактор 1С».
Подвели итоги вебинара о том, как организовать непрерывный поток данных из 1С в BI, снизить зависимость от программистов и получать актуальную аналитику для бизнеса.
Выгрузка данных из 1С Фреш: особенности технологии, ограничения архитектуры и способы их обхода
Выгрузка данных из 1С Фреш: особенности технологии, ограничения архитектуры и способы их обхода
В этой статье разберем, как устроена технология 1С Фреш, какие ограничения могут возникать при выгрузке данных и с помощью чего их можно обойти.
Как получить доступ к личному кабинету DVT: пошаговая инструкция регистрации и входа
Как получить доступ к личному кабинету DVT: пошаговая инструкция регистрации и входа
В этой инструкции вы узнаете, как быстро зарегистрировать личный кабинет DVT, подтвердить учетную запись через email и получить доступ к функционалу платформы.
Выступление Игоря Финковского (CARELY Group) на форуме "Data + AI 2026"
Выступление Игоря Финковского (CARELY Group) на форуме "Data + AI 2026"
Как внедрить Data-Driven в компании: Экстрактор 1С, CDC и автоматизации данных.
Запись выступления Степана Пыстина на мероприятии: "Infostart Team Event 2026"
Запись выступления Степана Пыстина на мероприятии: "Infostart Team Event 2026"
12 марта 2026 года Денвик Аналитика в лице представителя компании - технического директора Степана Пыстина, посетили мероприятие: "Infostart Team Event 2026".
Как точно считать маржу по товарам и каналам: аналитика 1С без искажений
Как точно считать маржу по товарам и каналам: аналитика 1С без искажений
В статье разбираем, как перейти к точной аналитике по SKU и каналам, учесть все расходы и получить реальную картину прибыли. Показываем архитектуру решения на базе Экстрактора 1С и BI, а также реальные кейсы с ростом прибыли до 30%.
Как маркетингу и продажам получить одну версию данных из 1С и BI — без ручных выгрузок и Excel
Как маркетингу и продажам получить одну версию данных из 1С и BI — без ручных выгрузок и Excel
Запись с выступления Смирнова Дениса (генеральный директор Денвик Аналитика), на мероприятии: "Global Tech Forum".
Arenadata и Денвик Аналитика запускают совместное решение — Arenadata 1C Connector
Arenadata и Денвик Аналитика запускают совместное решение — Arenadata 1C Connector

Новый коннектор обеспечивает автоматическую выгрузку и подготовку данных из систем 1С в аналитические базы данных и BI-инструменты, сокращая время подготовки отчётности до 70 % и снижая нагрузку на IT-команды.

Загрузка данных в 1С с помощью Инжектора: подробное руководство по загрузке данных, интеграции и миграции
Загрузка данных в 1С с помощью Инжектора: подробное руководство по загрузке данных, интеграции и миграции
Технический обзор Инжектора 1С: архитектура, настройка источников, трансформации 
и автоматическая загрузка пользовательских данных.
Миграция данных 1С без остановки бизнеса: как спроектировать поэтапный переход и не потерять данные
Миграция данных 1С без остановки бизнеса: как спроектировать поэтапный переход и не потерять данные
Почему миграция превращается в итерационный процесс и как спроектировать переход с параллельной работой двух контуров? В статье — для ИТ-руководителей, архитекторов и инженеров данных — разбираем типовые сценарии, архитектуру с промежуточным слоем, роли инструментов Denvic Tools (Экстрактор 1С, DVT, Инжектор 1С) и дорожную карту проекта.

Подписка на новости

Хотите узнавать о лучших предложениях первыми?
Подпишитесь на наши новости!
Заказать демо