AI Safety Lead

Наша команда стоит на передовой GenAI трансформации Банка – мы создаем систему управления рисками AI-агентов Банка!

Мы ищем не просто технического специалиста, а настоящего пионера и глубокого эксперта в области ИИ, который займется изучением, анализом и поиском применения передовых практик для управления рисками, связанными с использованием GenAI.

Ваша задача — погрузиться в мир академических исследований и технологических трендов, чтобы понять саму суть возникающих рисков на уровне архитектуры, моделей и протоколов, и трансформировать эти знания в конкретные стратегии, стандарты и инструменты для всего Банка.

Обязанности

• Глубокие исследования и анализ: мониторинг и анализ исследований в области AI/ML (включая LLM, GenAI, мультимодальные модели, AI-агенты) на предмет потенциальных уязвимостей, атак и нежелательного поведения.
• Формирование экспертной позиции: разработка и формирование позиции Банка по управлению рисками, связанными с применением AI-агентов. Классификация угроз, создание карты рисков и уязвимостей, разработка подходов к идентификации и оценке.
• Разработка защитных ограничений (Guardrails): создание, внедрение и контроль специализированных защитных механизмов (guardrails) для AI-агентов, включая проектирование правил и фильтров, проактивно ограничивающих неуправляемое поведение AI.
• Техническая стратегия и архитектура безопасности AI: проектирование и внедрение архитектурных принципов, шаблонов и протоколов взаимодействия для безопасного и контролируемого использования AI-агентов в процессах Банка.
• Трансляция знаний: «перевод» сложных технических концепций и исследований в понятные требования, политики и стандарты для команд разработки, риск-менеджеров и бизнеса.
• Технологическая экспертиза: проведение экспертизы предлагаемых к использованию AI-решений, фреймворков и инструментов на соответствие разработанным стандартам.
• Разработка прототипов: создание proof-of-concept решений и скриптов для автоматизации анализа AI-агентов, выявления аномалий и мониторинга их поведения в production-среде.

Требования

• Глубокое понимание архитектуры и принципов работы современных AI/ML-моделей, особенно LLM и генеративных моделей.
• Опыт анализа академических статей (arXiv и др.) и способность критически оценивать новые исследования.
• Понимание уязвимостей, специфичных для AI-систем (e.g., adversarial attacks, data poisoning, model inversion, prompt injection).
• Практический опыт работы с MLOps/LLMOps-практиками и инструментами (векторные БД, фреймворки для оценки LLM, и т.д.).
• Навыки программирования (Python) и работы с фреймворками для ML (PyTorch, TensorFlow) и LLM (Hugging Face, LangChain и аналоги).
• Способность мыслить стратегически и проактивно выявлять риски.
• Опыт работы в IT/Data Science от 3-х лет, включая роли, связанные с исследованиями или разработкой сложных ML-систем.
• Высшее техническое/математическое образование (Computer Science, Data Science, Прикладная Математика и т.п.).

Будет плюсом:

• Научные публикации или активный вклад в open-source проекты в области AI/ML.
• Опыт работы в риск-менеджменте (кибербезопасность, технологические риски).
• Практическое владение инструментами AI (например, для автоматизации R&D-процессов, анализа кода или данных).
• Опыт создания или тестирования AI-агентов, понимание специфики обеспечения их безопасности и предсказуемости.
• Знание нормативной базы и стандартов в области регулирования ИИ (EU AI Act, NIST AI RMF и др.).

Условия

• комфортный современный офис рядом с м. Кутузовская
• возможность выбрать удобный график – офис/гибрид
• ежегодный пересмотр зарплаты, квартальная и годовая премия (премия указывается в зависимости от должности и системы премирования)
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
• программа адаптации и помощь руководителя на старте (для Junior позиций)
• расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• ипотека выгоднее до 7% для каждого сотрудника
• бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• вознаграждение за рекомендацию друзей в команду Сбера.