Москва, Оружейный переулок, 41
Метро: МаяковскаяЧем предстоит заниматься
- Разработка, развертывание и сопровождение внутренней GenOps платформы для работы с LLM на собственной инфраструктуре компании
- Автоматизация процессов тестирования, настройки и мониторинга производительности моделей и инфраструктуры
- Разработка и поддержка инструментов для удобного управления жизненным циклом LLM (fine-tuning, оптимизация, масштабирование)
- Интеграция GenOps платформы с внутренними сервисами и инфраструктурой компании
- Совместная работа с командами DS, Dev, DevOps для реализации надежных и масштабируемых решений на основе LLM
Что для этого нужно
- Уверенные знания в области разработки и эксплуатации распределённых систем
- Опыт работы с современными инструментами и подходами MLOps (MLFlow, Kubeflow, Seldon Core, Airflow и т.п.)
- Владение Docker, Kubernetes и опытом их применения в production.
- Python и опыт написания production-кода
- Практический опыт развертывания и поддержки больших языковых моделей (LLM) на собственной инфраструктуре
- Понимание принципов и опыт работы с GPU и оптимизацией производительности LLM