Архитектор MLOps/LLMOps

СТЕК проекта: MLflow, KubeFlow, Kubernetes, argoCD, Prometheus, Zabbix, Linux, GitLab CI, Jenkins, Apache Kafka, spark, python, Seldon Core, KServe, Airflow

Что нужно делать:

Проектировать и развивать AI-платформы:

• заниматься разработкой сквозной MLOps/LLMOps-архитектуры для платформы искусственного интеллекта;
• заниматься проектированием процессов и инфраструктуры для полного жизненного цикла ML/LLM-моделей: от разработки и экспериментов (MLflow) до промышленного развертывания (Seldon Core, KServe) и управления;
• заниматься интеграцией AI-платформы со сторонними корпоративными системами и сервисами.

Погружаться в инфраструктуру и эксплуатацию моделей:

• создавать и оптимизировать высоконагруженные системы инференса для генеративных и предиктивных моделей на базе Kubernetes с использованием современных инструментов (Seldon Core, KServe);
• обеспечивать надежность, масштабируемость и отказоустойчивость сервисов инференса;
• проектировать решения для хранения и обработки данных в контексте RAG-систем, включая raw-слой и векторные базы данных.

Управлять жизненным циклом данных и моделей:

• заниматься организацией эффективных конвейеров данных (ML pipelines) с использованием инструментов оркестрации (например, Airflow);
• заниматься внедрением и настройкой платформы для управления моделями MLflow (Model Registry) для трекинга экспериментов, версионирования и контроля моделей;
• заниматься проектированием среды для совместной разработки и экспериментов (например, на базе JupyterHub).

Выстраивать стратегию и экспертизу:

• осуществлять выбор инструментов для интеграции в платформу (включая оценку MLflow vs альтернативы, Seldon vs KServe и т.д.);
• заниматься разработкой и ведением архитектурной документации (с использованием нотации C4 и других практик).

Что мы хотели бы видеть:

• глубокие практические знания Kubernetes: опыт проектирования и развертывания отказоустойчивых кластеров для ML-нагрузок;

• опыт проектирования и внедрения end-to-end MLOps-конвейеров (ML Pipeline) в продакшн-среде;

• навыки работы с ключевыми инструментами MLOps:

MLflow для управления жизненным циклом моделей (Experiment Tracking, Model Registry).

Seldon Core (или аналогичные: KServe, Triton) для развертывания и обслуживания моделей в продакшене.
Airflow для оркестрации.
JupyterHub для организации среды разработки.

• опыт развертывания и оптимизации инферейса LLM с использованием vLLM и/или TensorRT-LLM;
• понимание принципов RAG и практический опыт выбора и интеграции векторных БД;
• опыт описания архитектуры в нотации C4;
• знание принципов надежных систем (Reliability): мониторинг, логирование, alerting, стратегии развертывания.

• достойную оплату труда + компенсационные, стимулирующие и мотивационные выплаты, бонусы за участие в реферальной программе;
• работа в команде профессионалов готовых делиться экспертизой;
• официальное трудоустройство по ТК РФ, аккредитация IT, расширенный социальный пакет:

✔️ страховка ДМС (с 3-го месяца работы, стоматология, возможность подключения родственников, теле медицина, полис ВЗР),

✔️ Больничный Без Больничного 4 дня в году,

✔️ сотрудникам со стажем в Neoflex более 3 месяцев при предоставлении листка нетрудоспособности устанавливается доплата до полного заработка за период болезни,

✔️ обучение детей сотрудников ИТ специальностям,

✔️ компенсация затрат на фитнес и занятия английским языком;

• обеспечиваем техникой для работы (ноутбук, наушники, мышь);
• профессиональное развитие - в Учебном Центре (курсы по работе с большими данными, видео лекции, тренажеры, карьерный коучинг, лекции, тренинги, конференции, участие в митапах);
• возможность пройти проф.сертификацию;
• прозрачную систему карьерного развития Performance Review;
• персонального наставника с первого дня работы;
• насыщенную корпоративную жизнь: яркие корпоративы, праздники для детей сотрудников, корпоративные спортивные мероприятия, мотивационные награждения;
• комфортную атмосферу в филиалах компании в городах: Москва, Санкт-Петербург, Нижний Новгород, Пенза, Воронеж, Саратов, Самара, Краснодар где есть лаунж и фотозоны, вендинги в кухнях, пространство для медитаций и другие секретные места, о которых знают только наши сотрудники.
• удалённый формат работы на территории России.

Здесь мечты превращаются в реальность. Мы будем рады, если ты станешь частью нашей команды! Откликайся ;)