ML-инженер GenOps

Чем предстоит заниматься

- Разработка, развертывание и сопровождение внутренней GenOps платформы для работы с LLM на собственной инфраструктуре компании

- Автоматизация процессов тестирования, настройки и мониторинга производительности моделей и инфраструктуры

- Разработка и поддержка инструментов для удобного управления жизненным циклом LLM (fine-tuning, оптимизация, масштабирование)

- Интеграция GenOps платформы с внутренними сервисами и инфраструктурой компании

- Совместная работа с командами DS, Dev, DevOps для реализации надежных и масштабируемых решений на основе LLM

Что для этого нужно

- Уверенные знания в области разработки и эксплуатации распределённых систем

- Опыт работы с современными инструментами и подходами MLOps (MLFlow, Kubeflow, Seldon Core, Airflow и т.п.)

- Владение Docker, Kubernetes и опытом их применения в production.

- Python и опыт написания production-кода

- Практический опыт развертывания и поддержки больших языковых моделей (LLM) на собственной инфраструктуре

- Понимание принципов и опыт работы с GPU и оптимизацией производительности LLM