Астана, проспект Туран, 42
Наш клиент - аутсорсинговая IT-компания. Работаем сейчас над мобильными приложениями для клиентов. Текущий проект: мобильное приложение для покупки и управления недвижимостью. Продукт интегрируется с CRM/ERP, работает с реальными транзакциями и персональными данными.
Команда расширется, и сейчас мы ищем data engineer.
Задачи:
Разработка и поддержка DWH (модели, витрины, слои staging / intermediate / marts)
Построение и оптимизация ETL/ELT пайплайнов
Работа с источниками данных (продуктовые БД, внешние API, события, CRM)
Обеспечение качества данных:
контроль целостности, обработка NULL / дубликатов, валидация бизнес-логики
Оптимизация SQL-запросов и производительности хранилища
Настройка прав доступа (PostgreSQL / ClickHouse)
Работа с аналитиками и продуктовой командой: помощь в формулировке метрик, проверка корректности данных
Документирование моделей и бизнес-логики
Требования:
Уверенный SQL (сложные JOIN, оконные функции, оптимизация)
Опыт работы с REST API
Опыт работы с DWH (понимание слоёв и моделирования)
dbt (моделирование, тесты, документация)
Apache Airflow ( построение и мониторинг DAG)
Python (для data-пайплайнов и дата скрапинга)
PostgreSQL (DDL/DML, права доступа, оптимизация)
ClickHouse (аналитические запросы, оптимизация)
Опыт построения ETL/ELT процессов
Опыт работы с большими объемами данных
Условия: