Spark Developer

Описание вакансии

ОДИН ИЗ ЛУЧШИХ РАБОТОДАТЕЛЕЙ РОССИИ

Мы – Neoflex. Аккредитованная IT компания. За 20 лет работы мы создали 12+ готовых решений для бизнеса, так же занимаемся заказной разработкой программного обеспечения.

Приветствуем на странице нашей компании и благодарим за интерес к вакансии. Будем рады оказаться полезны друг другу.

Сейчас мы расширяем команду, занимающуюся проектом по миграции данных из 87 источников на единую платформу. Команда входит в Центр компетенций BDS - одно из сильнейших подразделений нашей Компании, экспертов в области работы с большими данными, построения DWH и использующих в работе современный стек BigData: Greenplum, Hadoop, NiFi, Hive, Spark/Scala, PostgreSQL, Informatica, Kafka, Apache Airflow, Apache Griffin.

ПРОЕКТ: Связан с разработкой корпоративного хранилища данных с использованием стека BigData.

СТЕК: Apache Spark (Pyspark), SQL, Airflow

Что нужно делать:

  • разработкой и оптимизацией ETL-процессов для переноса кода с MS SQL на Spark (PySpark);
  • написанием эффективного кода на PySpark, отвечающего требованиям производительности;
  • настройкой и поддержкой DAG-ов в Airflow для оркестрации процессов;
  • тестированием и отладкой кода, обеспечением качества данных;
  • взаимодействием с командой и заказчиком по уточнению требований.

Что мы хотели бы видеть:

  • опыт работы со Spark (от 1 года), знание Pyspark;

  • глубокие знания SQL;

  • опыт работы с Airflow (написание и поддержка DAG-ов);

  • понимание принципов распределенных вычислений (умение использовать нативные инструменты Spark);

  • понимание формата Parquet;

  • опыт работы с облачными хранилищами (S3 или аналоги);

  • умение работать в команде и следовать процессам заказчика;

  • опыт работы с S3, Iceberg, Kafka - будет являться большим преимуществом.

Что ты приобретёшь, присоединившись к нам:

  • достойную оплату труда + компенсационные, стимулирующие и мотивационные выплаты, бонусы за участие в реферальной программе;
  • работа в команде профессионалов готовых делиться экспертизой;
  • официальное трудоустройство по ТК РФ, аккредитация IT, расширенный социальный пакет:

✔️ страховка ДМС (с 3-го месяца работы, стоматология, возможность подключения родственников, теле медицина, полис ВЗР),

✔️ Больничный Без Больничного 4 дня в году,

✔️ сотрудникам со стажем в Neoflex более 3 месяцев при предоставлении листка нетрудоспособности устанавливается доплата до полного заработка за период болезни,

✔️ обучение детей сотрудников ИТ специальностям,

✔️ компенсация затрат на фитнес и занятия английским языком;

  • обеспечиваем техникой для работы (ноутбук, наушники, мышь);
  • профессиональное развитие - в Учебном Центре (курсы по работе с большими данными, видео лекции, тренажеры, карьерный коучинг, лекции, тренинги, конференции, участие в митапах);
  • возможность пройти проф.сертификацию;
  • прозрачную систему карьерного развития Performance Review;
  • персонального наставника с первого дня работы;
  • насыщенную корпоративную жизнь: яркие корпоративы, праздники для детей сотрудников, корпоративные спортивные мероприятия, мотивационные награждения;
  • комфортную атмосферу в филиалах компании в городах: Москва, Санкт-Петербург, Нижний Новгород, Пенза, Воронеж, Саратов, Самара, Краснодар где есть лаунж и фотозоны, вендинги в кухнях, пространство для медитаций и другие секретные места, о которых знают только наши сотрудники.

Мечты и команды работают вместе. Мы будем рады, если ты станешь частью нашей команды! Откликайся ;)

Навыки
  • SQL
  • Airflow
  • Spark
  • Apache Spark
  • S3
Посмотреть контакты работодателя

Похожие вакансии

ML-разработчик

Цитадель

Удаленная работа
  • Нижний Новгород

  • Не указана

Рекомендуем
Гарда Технологии

C++ Developer

Гарда Технологии

Удаленная работа
  • Нижний Новгород

  • Не указана

Рекомендуем
Т1
Удаленная работа
  • Нижний Новгород

  • Не указана

Рекомендуем
VK
Удаленная работа
  • Нижний Новгород

  • Не указана

Programming Store

Программист 1С

Programming Store

Удаленная работа
  • Нижний Новгород

  • Не указана

YADRO
Удаленная работа
  • Нижний Новгород

  • Не указана

Янус
Удаленная работа
  • Нижний Новгород

  • Не указана

Платформа
Удаленная работа
  • Нижний Новгород

  • до 200000 RUR

YADRO
Удаленная работа
  • Нижний Новгород

  • до 200000 RUR

Junior Python Developer

Артемьев Дмитрий Николаевич

Удаленная работа
  • Нижний Новгород

  • до 90000 RUR

Удаленная работа
  • Нижний Новгород

  • от 500000 RUR

Доктор Веб
Удаленная работа
  • Нижний Новгород

  • от 500000 RUR

1С-Архитектор бизнеса

Программист УТ 11, Розница

1С-Архитектор бизнеса

Удаленная работа
  • Нижний Новгород

  • от 80000 RUR

Топлог
Удаленная работа
  • Нижний Новгород

  • от 180000 RUR

Горизонт

Программист

Горизонт

Удаленная работа
  • Нижний Новгород

  • от 100000 RUR

ТЕРМЕКС, Группа Компаний

Программист 1С:ERP

ТЕРМЕКС, Группа Компаний

Удаленная работа
  • Нижний Новгород

  • от 100000 RUR

ШВЕЦОВ
Удаленная работа
  • Нижний Новгород

  • до 300000 RUR

РК-ТЕХНОЛОГИИ

Стажер C++ Developer

РК-ТЕХНОЛОГИИ

Удаленная работа
  • Нижний Новгород

  • до 300000 RUR

Монополия
Удаленная работа
  • Нижний Новгород

  • до 280000 RUR

Quartier Latin
Удаленная работа
  • Нижний Новгород

  • до 280000 RUR

Хотите оставить вакансию?

Заполните форму и найдите сотрудника всего за несколько минут.
Оставить вакансию