Security Researcher (AI/ML Security)

Banks Soft Systems - системно значимая российская ИТ-компания, специализирующаяся на разработке, внедрении и поддержке решений по цифровизации клиентского обслуживания для банков, финтех-компаний, госсектора, телекома, ритейла, медицины, сферы ЖКХ в России и СНГ. Мы разрабатываем системы речевой аналитики, развиваем платформы дистанционного банковского обслуживания, а также оказываем услуги по заказной и аутсорс разработке. Мы практикуем наиболее востребованные рынком технологические решения: от машинного обучения до разработки 1С.

Чем нужно будет заниматься:

• Анализ защищённости web приложений и ПО, используемых технологии больших языковых моделей (LLM);
• Анализ защищенности и выявление уязвимостей web ресурсов;
• Моделирование угроз информационной безопасности с учетом контекста информационной системы, используемой технологии больших языковых моделей (LLM);
• Идентификация и анализ выявленных по итогам работ недостатков;
• Детализация требований по устранению уязвимостей и/или внедрению компенсирующих мер;
• Проведение контрольных мероприятий выполнения требований информационной безопасности в рамках процессов управления уязвимостями;
• Участие в разработке автоматизированных тест-контролей требований информационной безопасности относящихся к разработке систем, используемых технологии больших языковых моделей (LLM);
• Подготовка отчетов по итогам проведения работ;
• Взаимодействие с командами ИТ и командами разработки ПО;
• Формирование требований по обеспечению информационной безопасности для разрабатываемых информационных систем.

Что мы ждём от кандидата:

• Опыт работы в сфере кибербезопасности от 2 лет, включая практическое проведение пентестов (Web, Mobile, Network);

• Знание архитектур и моделей ИИ (нейросети, машинное обучение, NLP и т.д.) на уровне понимания уязвимостей (например, prompt injection, adversarial attacks, data poisoning, model inversion и т.д.);

• Владение инструментами: Burp Suite, OWASP ZAP, Metasploit, а также специализированными фреймворками для ИИ-атак (Adversarial Robustness Toolbox, IBM Adversarial Robustness 360);

• Знание основных языков программирования (С, С++, С#, php, Java, JavaScript, Python) на уровне исследования исходного кода. Умение программировать на Python, включая библиотеки: TensorFlow, PyTorch, Scikit-learn, для анализа и взлома моделей, написания эксплойтов под конкретные уязвимости;

• Понимание методов защиты ИИ-систем (например, дифференциальная приватность, федеративное обучение) и способов их обхода;

• Понимание основных техник и тактик MITRE ATLAS при атаке на большие языковые модели (LLM);

• Знание основного инструментария для проведения анализа защищенности и тестирования на проникновение, а также специализированного инструментария для тестирования безопасности больших языковых моделей;

• Продвинутое владение навыками промпт инженерии, с целью написания эксплойтов для ручного тестирования LLM-моделей;

• Понимание базовых техник проведения анализа защищенности и тестирования на проникновение;

• Понимание построения векторов атак на целевые системы и формирования поверхности атаки;

• Опыт написания фаззинг-тестов или постановки задач на разработку таких тестов для тестирования безопасности LLM-моделей;

• Понимание принципов построения защиты приложений и WEB-приложений с использование технологий больших языковых моделей, в частности;

• Опыт разработки функциональных и технических заданий на реализацию требований по информационной безопасности;

• Знание ОС Windows и Linux на уровне администратора;

• Понимание сетевых технологий.

Что мы предлагаем:

• Срок проекта 9 месяцев (с возможной пролонгацией);
• Аккредитованная IT-компания;
• Трудоустройство по ТК РФ/ГПХ/ИП;
• Удалённый формат работы по РФ;
• Расширенный ДМС со стоматологией;
• Бесплатное обучение английскому языку вам и вашим детям;
• Скидки в фитнес-клубы;
• Предоставляем всю необходимую технику для работы.

Откликайтесь и присоединяйтесь к нашей дружной команде!