Data Engineer со знанием Scala

Наша команда создает ключевой продукт для аналитики Сбера — Прикладную аналитическую платформу B2C. Мы помогаем сотням команд внутри экосистемы быстро создавать надежные аналитические витрины на Облаке Данных, чтобы глубже понимать клиентские пути и формировать персонализированные предложения.

Мы ищем сильного Data Engineer, который будет напрямую влиять на архитектуру и развитие этого стратегического инструмента. Вы будете создавать решения, которыми ежедневно пользуются десятки аналитиков и дата-инженеров.

Обязанности

• участвовать в проектировании и развитии архитектуры фреймворка для построения batch- и streaming-витрин
• разрабатывать ядро платформы и ее компоненты (оркестрация, метаданные, Data Quality-фреймворк) на Scala/Java
• создавать и оптимизировать абстракции и API (включая RESTful), которые упростят работу с данными для других команд
• проводить производительность и масштабируемость платформы на больших объемах данных (петабайты)
• тесно взаимодействовать с пользователями платформы (аналитиками, дата-инженерами из бизнес-команд) для сбора требований и обратной связи
• менторить младших разработчиков

Требования

• глубокое знание Scala или Java, SQL, Bash
• опыт с Apache Spark (обязательно). Опыт с Flink, Kafka, Iceberg или аналогичными
• понимание DWH/Data Lake, ETL/ELT-процессов, SCD, Data Quality
• опыт проектирования отказоустойчивых и масштабируемых систем, понимание SOLID, опыт написания тестов (unit, integration)
• опыт кросс-функционального взаимодействия, принятия архитектурных решений, наставничества

будет преимуществом (желательные навыки)

• опыт с Hadoop-экосистемой (HDFS, YARN, Hive)
• знание Trino/Velox
• опыт работы с микросервисной архитектурой и REST API
• опыт с ClickHouse, Kubernetes, S3
• знание Python

Условия

• работа в офисе по адресу г. Москва, ул. Поклонная, 3
• годовой бонус и ежегодный пересмотр
• расширенный ДМС с первого дня + стоматология и льготное страхование для семьи
• корпоративный университет Сбера, внутренняя образовательная платформа, участие в IT-конференциях
• льготная ипотека в Сбере, корпоративная пенсионная программа, подписка СберПрайм+, скидки от партнеров и сервисов группы компаний.