Managed Inference Platform (MIP) - корпоративная PaaS-платформа для высокопроизводительного инференса классических ML-моделей и больших языковых моделей (LLM), обеспечивающая централизованное управление GPU, эластичность ресурсов, автоматизацию развертывания и доступ к AI-сервисам.
Обязанности
- писать helm-чарты для деплоя компонентов платформы;
- автоматизировать процессы создания и обслуживания кластеров Kubernetes с помощью ansible;
- заниматься интеграцией компонентов платформы с сервисами и системами Банка;
- запускать, тестировать и оптимизировать инференс ML-моделей, в том числе в мульти-нодовых конфигурациях;
- участвовать в сопровождении платформы, поиске и устранении неисправностей, решении проблем пользователей;
- изучать и внедрять новые продукты и технологии для развития платформы.
Требования
- понимаете, как работают контейнеры, можете написать Dockerfile для нового сервиса;
- имеете опыт создания и администрирования кластеров Kubernetes, понимаете принципы работы компонентов кластера;
- умеете работать с основными элементами контейнерной инфраструктуры (container registry, secret management, ingress controller, service mesh, CNI, CSI);
- имеете опыт написания и отладки сложных helm-чартов и плейбуков ansible;
- понимаете внутреннее устройство Linux, умеете решать проблемы с драйверами, модулями ядра, сетевой подсистемой;
- разбираетесь в основных концепциях машинного обучения, хотя бы в общих чертах представляете, как работает LLM-трансформер, и хотите глубоко погрузиться в изучение этой темы;
- знаете, как работают современные сети и протоколы передачи данных;
- можете читать код на Python;
- владеете bash на уровне, достаточном для автоматизации рутинных операций.
Условия
- комфортный офис БЦ «Южный Порт» (10 минут пешком от ст. м. Кожуховская),
- график 5/2 (гибрид)
- ежегодный пересмотр зарплаты, годовая премия
- корпоративный спортзал и зоны отдыха
- уникальная система обучения Сбера для профессионального развития
- расширенный ДМС и льготное страхование для семьи
- ипотека для сотрудников выгоднее
- бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
- вознаграждение за рекомендацию друзей в команду Сбера
- корпоративная пенсионная программа