LLMOps-инженер

Высшее образование: техническое, математическое и тд.

• Опыт работы DevOps инженером от 3х лет

• Опыт в DevOps, MLOps или backend

• Уверенное владение Python

• Опыт работы с облачными платформами (AWS, Azure, GCP)

• Знание Docker, Kubernetes и CI/CD инструментов

• Управление ресурсами и оптимизация затрат

• Автоматизация процессов развертывания и масштабирования

• Интеграция систем мониторинга и оповещения

• Обеспечение безопасности и производительности LLM систем

• Преимуществом будут опыт работы на ML-проекте, понимание архитектуры генеративного ИИ и работы с LLM

Обязанности кандидата:

• Разработка и управление LLM пайплайнами для обработки данных, развертывания моделей

• Автоматизация LLM задач с использованием CI/CD и контейнерных технологий

• Настройка систем мониторинга для отслеживания производительности моделей

• Оптимизация инфраструктуры и конфигурация больших языковых моделей для высоких нагрузок

• Анализ требований проекта и оценка необходимых аппаратных ресурсов

• Мониторинг использования ресурсов и планирование масштабирования инфраструктуры