Senior ML Engineer (Sber AI)

Мы в Sber AI ищем Middle/Senior ML Engineer.

Коротко о нас: мы – молодая команда, которая тесно работает с людьми, принимающими решения большого масштаба. Делаем проекты, влияющие на то, как устроены процессы в стране и разрабатываем стратегии развития ИИ. Параллельно занимаемся AI Journey – одной из самых больших AI-конференций в мире.

Обязанности

• развёртывание и оптимизация локального инференса LLM: подбор моделей, квантизация, настройка производительности
• оценка требований к GPU под нагрузку
• построение и улучшение поиска по документам (RAG): эмбеддинги, гибридный поиск, реранкинг
• дообучение моделей под задачи заказчика (LoRA, SFT)
• настройка промптов, структурированного вывода и вызова инструментов для агентных сценариев
• разработка агентного харнесса: цикл агента, управление контекстом и памятью, лимиты шагов, обработка ошибок инструментов, восстановление после сбоев
• разработка MCP-серверов для доступа агентов к системам и данным заказчика: реестры, документооборот, базы знаний, внутренние API
• настройка tool calling и структурированного вывода у локальных моделей.

Требования

• опыт от 3 лет в ML/NLP, из них не менее года с LLM
• PyTorch, Hugging Face (transformers, PEFT)
• опыт локального инференса: vLLM, SGLang
• квантизация на практике: AWQ, GPTQ, GGUF, понимание компромисса между качеством и скоростью
• понимание устройства инференса: KV-cache, батчинг, latency и throughput, расчёт памяти
• опыт написания собственного MCP-сервера
• опыт построения RAG-систем
• уверенный Python, Docker на рабочем уровне

Будет плюсом:

• опыт fine-tuning с LoRA
• работа с open-weight моделями (Qwen и аналоги) на русском языке
• опыт агентных систем и tool calling.

Условия

• комфортный современный офис рядом с м. Кутузовская
• гибридный формат работы
• ежегодный пересмотр зарплаты. Годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• подписка Прайм с возможностью совместного использования на трёх близких
• вознаграждение за рекомендацию друзей в команду Сбера.