Проектировать масштабируемую, надёжную и производительную архитектуру единой платформы данных;
Разрабатывать и сопровождать техническую дорожную карту платформы, синхронизированную с бизнес-целями и потребностями исследователей;
Анализировать и обеспечивать характеристики scalability, reliability и performance ключевых компонентов;
Проектировать и внедрять системы оркестрации многоэтапных пайплайнов обработки данных;
Разрабатывать ключевые компоненты платформы: панель управления, оркестраторы, агенты, API, SDK;
Создавать и развивать self-service инструменты, позволяющие дата-инженерам и аналитикам автономно запускать, мониторить и контролировать пайплайны;
Обеспечивать мультитенантность, разграничение доступа и аудит-логирование действий пользователей;
Обеспечивать целостность, надёжность и безопасность данных на всех этапах обработки;
Оптимизировать использование вычислительных и storage-ресурсов: проводить capacity planning, performance benchmarking, выявлять и устранять узкие места;
Развивать observability-направление: мониторинг, APM, алертинг для своевременного обнаружения деградаций;
Формировать и внедрять технические стандарты платформенной команды: архитектурные принципы, подходы к надёжности, code review, требования к документации;
Систематизировать процессы разработки, унифицировать технологический стек и инструментарий;
Систематизировать и вести техническую документацию по платформенным сервисам и архитектурным решениям.
Требования:
Опыт проектирования горизонтально масштабируемых, отказоустойчивых data-intensive систем на bare-metal/VM-инфраструктуре и/или в Kubernetes;
Понимание архитектурных компромиссов и умение выбирать решения под конкретные рабочие нагрузки: оркестрация, хранение, доступ, мониторинг;
Уверенное владение Python;
Опыт разработки бэкенд-сервисов и API с использованием FastAPI;
Опыт работы с оркестраторами пайплайнов: Airflow, Dagster и другие;
Понимание HTC/HPC-систем;
S3-совместимыми хранилищами;
Понимание объектного и файлового хранения для нагрузок с интенсивной обработкой данных: производительность, масштабируемость, модели доступа;
Опыт построения CI/CD-пайплайнов в GitLab (тестирование, сборка, деплой сервисов платформы);
Способность принимать и аргументировать системные архитектурные решения, увязывая требования надёжности, производительности и стоимости;
Опыт формирования технических стандартов: архитектурные принципы, code review, инженерная документация, практики эксплуатации.
Будет плюсом:
Опыт разработки на Go;
Глубокое понимание Kubernetes: запуск рабочих нагрузок, модель операторов, сетевые политики, безопасность;
Опыт работы с планировщиками типа Slurm;
Опыт работы с Singularity/Apptainer контейнерами;
Опыт в домене биотехнологий/биоинформатики и понимание специфики рабочих нагрузок (позволит быстрее войти в контекст).
Условия:
Интересные проекты федерального уровня с минимумом бюрократии, главное – результат;
Практическая направленность работы на получение реально работающих уникальных продуктов в сфере генетики / медицины / биологии, на стыке ИТ и передовой науки;
Оформление по ТК РФ, достойный уровень з/п;
Работа в быстрорастущей, стабильной организации, которой не страшен кризис;
График работы 5/2, плавающее начало рабочего дня, гибридный график работы после испытательного срока;