Проект по развитию сервисов платформы MWS Data
Обязанности:
- Разработка ETL-процессов на базе прототипов и технических требований;
- Изменение существующих ETL-процессов, согласно меняющимся бизнес-требованиям;
- Продуктивизация кода, DQ-проверок, постановка на регламент, контроль работы ETL-процессов;
- Оптимизация и рефакторинг кода на уровне запросов и конфигураций (SQL/Python/Spark/HDFS);
- Взаимодействие с Системными аналитиками, Инженерами данных, Второй линией поддержки, DevOps, другими смежными подразделениями;
- Оперативное решение инцидентов на уровне третьей линии поддержки;
- Работа с Централизованным OLAP-хранилищем (Hadoop) и слоем репликации витрин данных (Greenplum). Также возможна работа с PostgreSQL, Teradata, Clickhouse и другими БД.
Технический стек:
• StarRocks
• Iceberg
• SQL
• Python
• Hadoop
• HDFS
• HIVE
• Spark
• Airflow
• Linux CLI
• Greenplum или другая MPP-Database
• YAML-нотация
Проектностроительная Компания-Групп
Казань
от 200000 RUR
Казань
до 150000 RUR