AI Security Разработчик

Институт ИИ МФТИ – ведущий институт по искусственному интеллекту в России. В его состав входят сильнейшие ученые и ключевые лаборатории физтеха по пяти направлениям: генеративный ИИ, оптимизации для ИИ, робототехника, компьютерное зрение и математическое моделирование.
Цель Института - создание прорывных научных исследований и прикладных разработок для ключевых отраслей экономики страны.

Немного о нас в цифрах:

• 1-е место среди технических вузов России в международных рейтинге THE и CWUR (2025);

• 1-е место в предметном рейтинге RAEX по направлению "Информационные технологии" (2025);

• 1-е место в рейтинге передовых инженерных школ (2025);

• 1-е место в рейтинге вузов России по качеству приёма (2024);

• 1-е место в рейтинге вузов по качеству подготовки специалистов в области искусственного интеллекта (2024).

Чем Вам предстоит заниматься:

• Настройка LLM и BERT-подобных моделей для задач классификации и фильтрации контента;
• Проведение исследований на стыке безопасности и интерпретируемости: выявление уязвимостей, анализ токеновых аномалий, использование Sparse Autoencoder (SAE) для детектирования harmful-контента;
• Разработка и тестирование новых атак на LLM и VLM (prompt-injection, jailbreak, adversarial prompts);
• Интеграция HiveTrace SDK с фреймворками LangChain и LangFuse (адаптация для разработки и мониторинга агентов);
• Создание и развитие бенчмарка RuGuardEval (динамический тест устойчивости гардрейлов). В перспективе — разработка легковесной открытой модели RuGuardModel-base для русского контекста;
• Сбор, фильтрация и перевод датасетов по категориям вредоносного контента и атакам для обучения и валидации.

Наши ожидания от Вас:

• Уверенное знание Python, опыт работы с NumPy, Pandas, scikit-learn;
• Опыт работы с PyTorch и HuggingFace Transformers;
• Понимание работы с эмбеддингами и retrieval-механиками (RAG);
• Навыки построения ML-бенчмарков, настройка метрик качества (accuracy, F1, latency, throughput);
• Начальный опыт fine-tuning и адаптации LLM (PEFT, LoRA, RLAIF, DPO);
• Знание инструментов разметки (Label Studio);
• Понимание интеграции ML-решений в сервисы (FastAPI / Flask, Docker, Git);
• Начальные знание экосистемы: LangChain, LangGraph, vLLM, MCP, LangFuse;
• Навыки оптимизации инференса и работы с GPU;
• Участие в исследовательских проектах или публикации (Habr, arXiv, конференции).

Условия:

• работа в ведущем техническом вузе страны;

• официальное трудоустройство;
• график работы: 5/2, с 10:00 до 19:00, выходные: суббота, воскресенье;
• современный красивый офис, возможность участия в прорывных передовых российских и международных проектах МФТИ;
• бесплатные образовательные лекции, курсы от преподавателей МФТИ и культурные мероприятия для студентов и сотрудников;
• возможность бесплатного посещения бассейна и тренажерного зала на территории кампуса МФТИ в г. Долгопрудный;

В соответствии с ТК РФ работники сферы образования обязаны предоставить справку о наличии (отсутствии) судимости и (или) факта уголовного преследования, срок изготовления которой может быть до 30 дней. Просим заранее позаботиться о ее получении.