Senior Distributed Learning Engineer (Kandinsky)

Мы разрабатываем мультимодальные диффузионные трансформеры (Text2Image, Text2Video, Text2Video+Audio, Instruct Editing), масштабируемые до десятков миллиардов параметров. Задача — создание инфраструктуры для эффективного обучения и оценки таких моделей на крупных GPU-кластерах.

Задачи:

• разработка и оптимизация high-load пайплайнов распределенного обучения (PyTorch) с использованием FSDP, Tensor/Sequence Parallelism
• создание мультимодальных подгрузчиков данных
• создание системы метрического мониторинга параметров кластера, внутренних состояний модели и качества генерируемых сэмплов во время обучения
• оптимизация коммуникации (NCCL), управление памятью и загрузкой каналов связи с хранилищем для максимизации утилизации кластера
• проектирование отказоустойчивых checkpointing/resume механизмов для долгих экспериментов

Требования:

• экспертный уровень Python, PyTorch, torch.distributed
• глубокий опыт масштабного (1k+ GPU) обучения моделей с FSDP/TP/PP
• Понимание нюансов mixed-precision training (bf16, fp8)
• опыт отладки, профилирования и оптимизации распределенного кода (GDB, PyTorch Profiler)
• бонус: Опыт с CUDA kernel optimization, компиляторами (TorchDynamo, Triton, ThunderKittens)
• навыки работы с генеративными AI-моделями; опыт создания AI-агентов и использования их в работе будет преимуществом

Условия:

• крупнейшее DS&AI community — более 600 DS-специалистов банка
• дайджест о самых последних разработках в области DS&AI и отчеты с крупнейших конференций мира
• возможность быть соавтором НИРов и статей для международных конференций
• возможность выбрать удобный формат работы: гибрид или офис
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• ипотека выгоднее до 7% для каждого сотрудника
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера