ML Engineer / LLM Engineer

ООО "Сбербанк-Сервис" - дочернее общество ПАО Сбербанк. В настоящее время компания является одной из крупнейших IT- сервисных компаний России, с присутствием во всех федеральных округах РФ, в том числе и в отдаленных уголках страны.

Мы развиваем GigaARPA — платформу для перевода бизнес-процессов в автономный режим с использованием RPA, AI-агентов и LLM.

Один из ключевых векторов развития платформы — AI PDLC: создание подхода, при котором пользователь может на естественном языке описать задачу, а Ассистент платформы поможет спроектировать процесс, сформировать сценарий автоматизации, протестировать его и подготовить к запуску.

Ищем ML Engineer / LLM Engineer, который будет отвечать за разработку агентной логики и LLM-приложений внутри платформы.

Чем предстоит заниматься:

• Разрабатывать AI-агентов и мультиагентные сценарии для автоматизации различных этапов PDLC.
• Развивать Ассистента платформы на базе LLM.
• Реализовывать генерацию сценариев автоматизации по запросу пользователя на естественном языке.
• Проектировать agentic workflow: планирование, выбор инструментов, выполнение действий, проверка результата и обработка ошибок.
• Реализовывать механизм вызова инструментов платформы через LLM: tool calling / function calling.
• Разрабатывать и развивать RAG-механизмы и работу с корпоративными базами знаний.
• Создавать LLM-приложения для анализа логов, метрик, БД, документации и других данных платформы.
• Разрабатывать агентов для тестирования, сопровождения и диагностики автоматизированных процессов.
• Проектировать механизмы памяти и управления контекстом AI-агентов.
• Разрабатывать подходы к автоматизированной оценке качества ответов и действий LLM.
• Проводить эксперименты с моделями, промптами, контекстом и агентными архитектурами.
• Оптимизировать latency, качество и потребление токенов.
• Совместно с backend- и frontend-командами интегрировать AI-функциональность в продукт.

Что для нас важно:

• Уверенное владение Python.
• Практический опыт разработки приложений на базе LLM.
• Понимание принципов работы современных языковых моделей и ограничений LLM.
• Практический опыт работы с AI Agents / Agentic AI, tool calling / function calling, RAG, embeddings и vector databases, prompt engineering, structured output, управлением контекстом и памятью агентов.
• Опыт разработки production-ready сервисов и интеграции через REST API.
• Умение самостоятельно декомпозировать исследовательскую задачу и доводить эксперимент до работающего продукта.
• Понимание того, как измерять качество LLM-приложения, а не только оценивать результат «на глаз».
• Git, Docker, базовое понимание CI/CD.

Будет плюсом

• Опыт разработки мультиагентных систем.
• Опыт работы с GigaChat, Qwen, DeepSeek, Llama или другими open-source / enterprise LLM.
• Опыт использования LangGraph, LangChain, LlamaIndex или собственных agentic-фреймворков.
• Опыт построения LLM evaluation / LLM-as-a-Judge.
• Опыт работы с MCP и архитектурой инструментов для AI-агентов.
• Опыт работы с PostgreSQL и векторными БД.
• Опыт работы с Kubernetes / OpenShift.
• Опыт inference и оптимизации локально развернутых LLM.
• Опыт Fine-tuning / LoRA будет преимуществом, но не является обязательным.
• Опыт разработки AI-функциональности для enterprise-продуктов.

Почему задача интересная

Здесь LLM — не отдельный чат-бот и не экспериментальный сервис, а часть ядра продуктовой платформы.

Мы строим систему, в которой AI должен уметь не только генерировать текст, но и: понимать задачу → проектировать решение → использовать инструменты → создавать сценарий → проверять результат → сопровождать его в промышленной эксплуатации.

Поэтому роль сочетает ML/LLM engineering, продуктовую разработку и исследование новых подходов к Agentic AI.

Мы предлагаем:

• Масштаб и стабильность: Возможность реализовать свой потенциал в крупнейшей IT-сервисной компании России, решая амбициозные задачи федерального уровня.
• Конкурентное вознаграждение: Стабильный ежемесячный оклад + годовая премия по результатам работы.
• Заботу о вас и вашей семье:
  • Полное соблюдение трудового законодательства РФ.
  • Подключение к программе ДМС
  • Льготная ипотека от Сбера на специальных условиях;
  • Бесплатная подписка «СберПрайм+» со всеми привилегиями.
• Корпоративную культуру: Интересные мероприятия и, самое главное, — коллектив профессионалов, где ценят экспертизу и вклад каждого сотрудника.