Lead data engineer

О компании:

Мы создаем единую геораспределенную систему масштаба страны, которая уже преобразила опыт совершения покупок.

Это позволяет каждому покупателю быть уверенным в качестве и происхождении товара, а производителям и продавцам - не только уменьшить долю неоригинальной продукции на рынке, но и оптимизировать производственно-логистические процессы и сократить издержки за счет возможностей аналитической подсистемы.

Уже сейчас система обрабатывает миллиарды транзакций ежедневно и оперирует петабайтами данных на скоростях десятки тысяч запросов в секунду.

О команде:

Данные – это нефть 21 века. Данные «Честного Знака» - настоящий Клондайк, глобальное месторождение эксклюзивных фактов о товарообороте страны. Мы трекаем каждый экземпляр из маркированных товарных групп и на этом строим уникальные показатели.

Мы ищем в bigdata-команду лида, обладающего уверенными знаниями в области построения систем на базе Hadoop/Spark, способного реализовать дорожную карту по развитию озера данных «Честного Знака».

Технологический стек:

Текущий стек команды: Hadoop / S3 MinIO / Spark 3/4 (batch/streaming) / Scala / SQL / Hive / Kafka / HBase / ClickHouse / PostgreSQL / Airflow / k8s / Zeppelin / Jupyter / Iceberg (MOR, COW) / Cassandra.

Смотрим в сторону: DBT для «золотого» слоя данных / YTsaurus / Comet, Gluten и др.

Наши данные в числах: поток > 20k RPS, > 1,5e12 фактов, > 18 Пб данных в HDFS.

Чем предстоит заниматься:

• Руководить выделенной распределенной командой.
• Руководить разработкой и внедрением ключевых решений озера данных с высококачественным образцовым кодом.
• Тесно сотрудничать с другими командами департамента по внедрению разработанных решений.
• Влиять на стратегию развития архитектуры платформы, руководить исследованиями и разработкой пилотных решений.

От успешного кандидата мы ожидаем:

• Опыт построения хранилищ больших данных.
• Уверенные знания и опыт работы в стеке Spark (batch/streaming) on Hadoop.
• Опыт работы с реляционными БД.
• Экспертное знание SQL, уверенное знание одного или нескольких языков из Scala/Java/Python.
• Способность вести талантливых разработчиков к достижению конкретных целей в установленные сроки, а также нанимать и наставлять новых разработчиков.
• Способность руководить полным циклом процессов разработки программного обеспечения, который включает в себя: планирование, проектирование архитектуры, реализацию кода, тестирование и развертывание.
• Знание и опыт работы с DevOps, понимание принципов CI/CD в области обработки данных.

Что вам точно понравится:

• Сложные и интересные задачи, работа с реально большими объемами данных и современным востребованным стеком.
• Возможность поработать с новыми технологиями и прокачать скиллы, постоянно развиваться.
• Молодая, экспертная, увлеченная и талантливая команда, у которой можно многому научиться, культура открытости и взаимопомощи.
• Конкурентная ЗП, оформление по ТК РФ.
• ДМС со стоматологией после испытательного срока, ДМС для семьи с корпоративными скидками.
• Страхование жизни и здоровья.
• Корпоративный психолог.
• Buddy-поддержка во время адаптации.
• Обеспечиваем рабочей техникой на базе последних MacOs / Windows / Linux.
• Возможность участия в митапах, конференциях.
• Гибкое начало рабочего дня.
• Возможность работать удаленно/частично удаленно, в офисе в Москве или Санкт-Петербурге.
• Корпоративный мерч.
• “Кафетерий” льгот (возмещение расходов на любое самообразование, спорт, ДМС для членов семьи, доступ к ИТ сервисам и т.д).