Эксперт по безопасности GenAI-моделей

Чем предстоит заниматься

• Выявлять и расследовать инциденты ИБ в рамках ASOC
• Настраивать системы управления ИБ
• Организовывать защиту персональных данных и тайны связи Компании
• Проводить проверки
• Контролировать доступ пользователей в информационных системах • Разрабатывать и создавать работающие примеры атак (PoC) для демонстрации уязвимостей разработчикам, участвовать в коммуникации с ними для митигации угроз
• Улучшать уже имеющиеся инструменты для тестирования моделей и приложений на устойчивость к новым методам атак и при необходимости создавать новые
• Оценивать защищенность существующих моделей и приложений, разрабатывать предложения по улучшению

Что для этого нужно

• Высшее образование профильное образование
• Опыт работы в сфере информационной безопасности 1-3 года
• Знание организационных и технических способов и методов защиты информации
• Наличие сертификации в областях ИБ, участие в соревнованиях по ИБ является преимуществом
• Понимание - что такое пентесты
• Готовность к графику работы: 5/2
• Участие в соревнованиях по атакам на модели/агентов GenAI
• Опыт программирования на скриптовых языках (Shell, Python)
• Понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety/security этих моделей и (мульти-)агентных систем на их основе
• Знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE ATLAS
• Опыт осознанного использования инструментов программирования с помощью ИИ
• Навыки работы с Open Source или облачными ML-платформами будут плюсом (Kubeflow, MLFlow, AWS, GCloud и так далее)