Middle LLM Engineer/LLM инженер

Физтех-школа прикладной математики и информатики (ФПМИ МФТИ) — это крупнейший образовательный и научный центр современных компетенций в области прикладной математики, компьютерных наук и технологий работы с большими данными и искусственным интеллектом.

Немного о нас в цифрах:

• 1-е место среди технических вузов России в международных рейтингах THE, QS (2024);

• 1-е место в предметном рейтинге RAEX по направлению "информационные технологии" (2024);

• 1-е место в рейтинге вузов по качеству подготовки специалистов в области искусственного интеллекта (2024);

• 1-е место в рейтинге вузов России по качеству приёма (2024).

Работа в ФПМИ МФТИ это:

• работа в лучшем техническом вузе страны в команде с выдающимися учеными мирового уровня, талантливыми и мотивированными студентами и высококвалифицированными специалистами;

• непрерывный профессиональный рост во время работы над амбициозными задачами и уникальными проектами на стыке образования, науки и индустрии, возможность внести свой вклад в развитие образования и науки в России.

Лаборатория нейронных систем и глубокого обучения Института искусственного интеллекта МФТИ создает команду для разработки приложений на базе LLM для крупных корпоративных клиентов. В частности предполагается исследовать различные подходы к оптимизации RAG и LLM с памятью.

Чем Вам предстоит заниматься:

• отслеживать по публикациям и проводить сравнительный анализ новых подходов в части LLM с памятью и RAG;
• проводить эксперименты и проверять гипотезы для разработки и улучшения существующих LLM решений;
• работа с векторными базами данных (FAISS, Weaviate, Qdrant, Chroma, Milvus) и улучшение методов семантического поиска.
• дообучение (fine-tuning) и адаптация LLM (GPT, LLaMA, Mistral и др.) для работы в связке с RAG.
• анализ "галлюцинаций" LLM и их снижение за счёт улучшения retrieval-компонента.
• взаимодействие с инженерами для внедрения RAG-решений в production.

Наши ожидания от Вас:

• опыт работы в NLP и машинном обучении от 2+ лет (включая академические исследования);
• глубокое понимание трансформеров, механизмов внимания и современных LLM;
• практический опыт работы с фреймворками: PyTorch, Hugging Face Transformers;
• знание методов оптимизации: quantization (GGUF, AWQ), distillation, адаптивное обучение;
• умение самостоятельно проверять гипотезы, проводить экспериментальные исследования и технический анализ;
• уверенный Python, знание библиотек для обработки данных (pandas, numpy) и MLOPs-инструментов (WandB, MLflow);
• умение читать и применять научные статьи (ACL, NeurIPS, arXiv);
• понимание принципов работы современных моделей и алгоритмов машинного обучения.

Будет плюсом:

• опыт разработки RAG-систем (поиск, фильтрация, реранкинг и подача данных в модель);
• опыт адаптации LLM под специфические задачи;
• навыки работы с большими датасетами и распределённым обучением (например, Deepspeed, FSDP);
• участие в исследовательских проектах или публикации (даже на arXiv).

Условия, которые мы Вам предлагаем:

• работа в ведущем техническом вузе страны, в городе Долгопрудный (рядом со станцией Новодачная МЦД-1, 15 минут от метро Физтех или 30 минут от метро Алтуфьево или Ховрино);

• официальное трудоустройство;
• график работы: 5/2, с 10:00 до 19:00, выходные: суббота, воскресенье;
• современный красивый офис, возможность участия в прорывных передовых российских и международных проектах МФТИ;
• бесплатные образовательные лекции, курсы от преподавателей МФТИ и культурные мероприятия для студентов и сотрудников;
• возможность бесплатного посещения бассейна и тренажерного зала на территории кампуса МФТИ в г. Долгопрудный;

В соответствии с ТК РФ, работники сферы образования обязаны предоставить справку о наличии (отсутствии) судимости и (или) факта уголовного преследования, срок изготовления которой может быть до 30 дней. Просим заранее позаботиться о ее получении.