ML архитектор

Показать контакты

Описание вакансии

Обязанности:

Анализ задач заказчика (LLM, CV, recommender, classical ML и др.) и требований к качеству/скорости
Проектирование целевой архитектуры ML‑решения с учетом ограничений инфраструктуры и продуктов
Взаимодействие с ML‑командами заказчика
Анализ задач заказчика (LLM, CV, recommender, classical ML и др.) и требований к качеству/скорости
Выбор и обоснование стека: фреймворки (PyTorch, TensorFlow и др.), библиотеки, runtime, форматы моделей, схемы шардирования/параллелизма
Определение требований к ресурсам (число GPU, тип/объем памяти, сеть, хранилище)
Решение проблем на стыке GPU Граус и прикладных бизнес‑задач
Разработка рекомендаций по конфигурации моделей (batch size, quantization, pipeline‑параллелизм и др.) для достижения SLA по задержке и пропускной
Участие в настройке мониторинга метрик ML‑сервисов: latency, throughput, quality, drift, resource utilization
Подготовка эксплуатационных best practices и шаблонов архитектур для типовых сценариев

Требования:

Опыт проектирования Архитектуры ML‑решения
Понимание GPU‑архитектуры, ограничений памяти, пропускной способности и влияния архитектуры модели на загрузку ресурсов
Знание современных ML/Deep Learning‑подходов (LLM, CV, NLP, recommender и др.)
Знание фреймворков: PyTorch, TensorFlow и др.
Архитектура inference‑сервисов (on‑prem, Kubernetes, микросервисы, сервинговые фреймворки)
Знание основ оптимизации моделей (quantization, pruning, distillation, tensor/ pipeline/ data parallelism)
Опыт работы с Python, Jupyter/VS Code, ML‑фреймворки (PyTorch, TensorFlow и др.), системы оркестрации (Kubernetes), CI/CD, системы мониторинга и логирования, инструменты профилирования и оптимизации моделей

Посмотреть контакты работодателя