DevOps (MLOps) LLM/ML

Вместе с нами тебе предстоит:

• +Проектирование, развёртывание и развитие инфраструктуры платформы искусственного интеллекта (on‑prem и облако): Kubernetes‑кластеры, GPU‑ноды, storage, сети, безопасность.
• ​+Построение и поддержка CI/CD/CT‑пайплайнов для ML‑моделей и сервисов: от артефакта DS до продакшн‑инференса с откатами и канареечными релизами.
• ​+Интеграция и эксплуатация LLM/ML‑сервисов для внутренних команд и рыночных внедрений: упаковка моделей в сервисы, конфигурация autoscaling, SLA, observability.
• ​+Настройка мониторинга и алертинга по инфраструктуре и моделям (метрики ресурсов, latency, ошибки, дрейф данных), реагирование на инциденты, участие в post‑mortem.
• ​+Автоматизация ML‑пайплайнов: подготовка данных, обучение, переобучение, регистрация моделей, управление версиями и окружениями.
• +Поддержка внедрений у клиентов: тиражирование платформенных компонентов, адаптация инфраструктуры под контур заказчика, участие в performance‑оптимизации и cost‑cutting (GPU/CPU).

Какие знания и навыки для нас важны:

• +Глубокое понимание жизненного цикла ML‑модели: от экспериментов до продакшн‑инференса и мониторинга.
• ​+Уверенный Linux, сетевые основы, безопасность, работа с контейнерами и оркестраторами.
• ​+Опыт построения CI/CD‑пайплайнов для сервисов и ML‑артефактов (Docker images, модели, данные).
• +Опыт с LLM/GenAI‑платформами: vLLM, TGI, Hugging Face, Triton/ONNX Runtime, оптимизация инференса.

• +Языки: Python (утилиты, обвязка) / Bash.
• ​+Контейнеризация и оркестрация: Docker, Docker Compose, Kubernetes (Helm, Operators), желательно Kubeflow.
• ​+CI/CD: GitLab CI / GitHub Actions / Jenkins / Argo CD.
• ​+Инфраструктура: Terraform / Ansible, конфигурация Linux‑серверов, Nginx, cert‑manager.
• ​+Data/ML‑инфраструктура: Apache Kafka, Airflow/Argo Workflows, S3‑совместимые хранилища, MLflow/Weights&Biases.​​​​​​