Разработчик DWH

Описание вакансии

LIAN — системный интегратор с фокусом в аналитике и управлении данными.

Мы работаем в трех направлениях:

1. Автоматизация управленческой отчетности (BI) в малом и среднем бизнесе. Строим хранилища данных, настраиваем сбор и интеграцию, разрабатываем отчеты и дэшборды. Наш стек в BI включает все современные инструменты, в том числе open-source ПО.

2. Заказная разработка аналитических систем. Когда у нашего клиента есть специфичный запрос, мы разрабатываем аналитические системы с нуля. Часто применяем подходы BigData, Data Science, актуальные подходы к программному анализу данных и прогнозированию.

3. Запуск и ресурсное обеспечение команд разработки в комплексных проектах цифровой трансформации. Мы усиливаем команды наших партнеров и клиентов собственными сотрудниками и обеспечиваем максимально быстрый старт новых проектов. Среди наших заказчиков - крупные системные интеграторы, банки, нефтегазовые, химические производства, логистические компании, стартапы.

Обязанности:

Проектирование и разработка ETL/ELT-процессов и потоков данных; реализация преобразований и интеграций данных.
Проектирование и разработка аналитических витрин (data marts) и витрин под BI/аналитику.
Участие в проекте миграции хранилища с Oracle на Greenplum: анализ существующих объектов, перенос, оптимизация и валидация.
Оптимизация производительности запросов: анализ планов выполнения, настройка cost-based оптимизации, выбор стратегий соединений, работа с памятью и управления транзакциями (undo/rollback).
Валидация данных, тестирование ETL-процессов, поддержка в продакшн-режиме.
Автоматизация оркестрации задач (Apache Airflow), мониторинг и логирование.
Взаимодействие с командой аналитиков, разработчиков и администрацией БД; ведение документации в Confluence/Jira; участие в спринтах по Agile.
Code review, подготовка технических заданий и участие в архитектурных обсуждениях.

Требования:

Опыт работы в области разработки DWH от 3 лет.
Уверенные знания SQL; опыт разработки на PL/SQL.
Практический опыт работы с Oracle и Greenplum (миграция и/или эксплуатация) — обязательно.
Умение анализировать планы запросов и применять оптимизацию на основе стоимости (cost-based), знание стратегий соединений и особенностей доступа к данным.
Опыт проектирования и разработки аналитических витрин.
Опыт работы с Apache Airflow (или аналогичной системой оркестрации).
Знание модели Data Vault и опыт её применения на практике.
Опыт участия в интеграционных проектах и валидации данных.
Опыт работы с инструментами Agile (Jira, Confluence); умение работать в командe.
Высшее техническое или математическое образование.
Наличие сертификатов Oracle / Greenplum.
Навыки администрирования Oracle/Greenplum.
Практический опыт миграций с Oracle на Greenplum.
Понимание управления и архитектуры, строительство хранилищ данных, проектирование и реализация потоков данных и преобразований
Знание PostgreSQL (включая отличия и особенности Greenplum).
Опыт работы с Python для ETL/автоматизации.
Опыт работы с Kafka и другими системами стриминга данных.