SberDevices — инновационное направление экосистемы Сбера, которое создает умные устройства, виртуальных ассистентов и платформенные решения в области NLP, computer vision, speech и ML-инфраструктуры.
Команда ML HomeOS ищет ML Engineer, который будет заниматься обучением и адаптацией языковых моделей для пользовательских сценариев умных устройств: голосовой ассистент, управление HomeOS, персонализация и контекстное понимание, с фокусом на продакшен-качество и масштабирование.
Чем ты будешь заниматься:
- Обучение и дообучение языковых моделей: continued pretraining / domain-adaptive pretraining под задачи HomeOS;
- Проведение Supervised Fine-Tuning (SFT) для decoder-only LLM, обучение и адаптация encoder-моделей под прикладные сценарии;
- Применение и развитие parameter-efficient fine-tuning подходов: LoRA / adapters / prefix- и prompt-tuning;
- Обучение и адаптация BERT-подобных encoder-моделей, а также классификаторов и encoder / seq2seq моделей для NLP-задач;
- Составление требований для датасетов SFT;
- Построение и поддержка пайплайнов обучения и переобучения моделей;
- Оптимизация моделей под продакшен-ограничения (latency, память, масштабирование);
- Взаимодействие с инфраструктурными командами при интеграции моделей в ML-платформу HomeOS.
Мы ожидаем:
- Опыт работы в ML / NLP от 3 лет;
- Практический опыт fine-tuning трансформеров;
- Опыт работы с LoRA / adapters / PEFT-подходами;
- Понимание архитектур ecoder-only, decoder-only, encoder-decoder);
- Опыт обучения классификаторов и encoder / seq2seq моделей;
- Понимание ML-продакшена: воспроизводимость, версионирование, стабильность и воспроизводимость инференса;
- Опыт оптимизации обучения и инференса моделей;
- Навыки построения ML-пайплайнов и работы с оркестраторами.
Будет плюсом:
- Опыт участия в pretraining или large-scale fine-tuning проектах;
- Понимание особенностей продакшен-эксплуатации LLM;
- Опыт domain adaptation (continued pretraining, SFT, data-centric подходы) под закрытые или специфичные домены;
- Опыт распределённого обучения и оптимизации инференса;
- Опыт работы с ML-инфраструктурой для high-load систем;
- Опыт работы с:
* RLHF / preference optimization
* Distillation / quantization
* Inference optimization (KV-cache, batching и др.)
Что мы предлагаем: - Сильная команда, амбициозные задачи и продукты, которыми пользуются миллионы;
- Удобный формат работы с возможностью гибкого начала рабочего дня;
- Надёжная программа ДМС и НС с первого месяца работы;
- Обучение и развитие: курсы и тренинги от корпоративного университета, внешнее обучение за счёт компании и участие в конференциях;
- Льготная ипотека и корпоративная пенсионная программа;
- СберКлуб: cкидки от партнёров, повышенные бонусы, акции экосистемы, подписка СберПрайм+.