DevOps-инженер (middle)

Требуется DevOps/MLOps инженер в проектную команду для сопровождения и развития платформы машинного обучения и AI-сервисов (LLM, агенты, чат-боты).

Чем предстоит заниматься:

• развёртывать ML-модели и AI-сервисы, локальные модели (LLM, ML-модели) в различных средах;
• заниматься управлением версиями моделей и их хранением (NFS/MinIO);
• заниматься подготовкой окружений для инферейса и тестирования моделей;
• развёртывать сервисы AI-агентов, чат-ботов и ML-сервисов в Kubernetes и docker compose;
• работать с большими моделями иGPU в kubernetes и docker CI/CD для ML-сервисов и инфраструктуры;
• заниматься сборкой Docker-образов, npm пакетов, артефактов;
• заниматься написанием и рефакторингом пайплайнов в Azure DevOps;
• участвовать в разработке Dockerfile для ML-сервисов, консультации;
• осуществлять сборку базовых образов;
• работать с docker-compose, рантаймами: containerd, Docker, podman;
• контролировать отсутствие секретов в docker слоях;
• заниматься эксплуатацией и сопровождением Kubernetes-кластеров;
• заниматься разработкой и рефакторингом Helm charts;
• работать с TLS/SSL сертификатами и их ротацией, в т.ч. через nginx;
• собирать логи контейнеров;
• производить интеграцию логов с Elastic/Logstash,к с VictoriaMetrics/Prometheus;
• управлять секретами Kubernetes и HC Vault Интеграция ML pipeline с CI/CD; подготавливать инфраструктуру для обучения моделей;
• диагностировать проблему запуска моделей и сервисов;
• осуществлять отладку Kubernetes workload;
• оптимизировать использование ресурсов (CPU/GPU/RAM);
• заниматься подготовкой технической документации​​​​​​​.

Чего мы ждем от тебя:

• опыт работы DevOps/MLOps инженером;
• опыт работы с Kubernetes;
• опыт контейнеризации (Docker, docker-compose);
• опыт работы с CI/CD.​​​​​​​​​​​​​​

Мы предлагаем:

Удаленный формат работы, 5/2, гибкое начало рабочего дня.