AI-разработчик // LLM-инженер

NeoFamily — EdTech-компания, разрабатывающая web-решения для эффективной подготовки к ЕГЭ. Мы создаем цифровые продукты, которые помогают школьникам достигать высоких результатов на экзаменах. Сейчас мы в поиске LLM Backend инженера / AI-разработчика, который сможет поддерживать и развивать сервис проверки домашних заданий на базе LLM, а также внедрять ИИ в рабочие процессы компании.

Обязанности:
- Внедрять ИИ в процессы компании;
- Поддерживать и развивать FastAPI-сервис;
- Работать с PostgreSQL, RabbitMQ, Docker/Docker Compose;
- Развивать пайплайн асинхронной обработки задач: постановка задач в очередь, relay-сервис, worker’ы, retries и обработка ошибок;
- Интегрировать LLM-провайдеров через OpenAI-compatible API;
- Настраивать fallback-модели, ретраи, таймауты и обработку ошибок;
- Улучшать промпты и пайплайн проверки домашних заданий;
- Запускать и анализировать бенчмарки качества, стоимости и скорости моделей;
- Разбирать ошибки модели и искать способы улучшить качество проверки.

- Опыт разработки backend-сервисов на Python;
- Опыт работы с PostgreSQL;
- Навыки работы с Docker, Docker-Compose и Git;
- Понимание принципов написания читаемого, поддерживаемого и масштабируемого кода;
- Опыт работы с брокерами сообщений по типу RabbitMQ;
- Понимание принципов отказоустойчивости и масштабируемости backend-сервисов;
- Умение делать LLM-интеграции;
- Умение писать промпты для LLM;
- Понимание устройства LLM изнутри;
- Опыт построения бенчмарков для ML моделей: как собрать датасет, как посчитать метрики качества, определить, как посчитать latency;
- Умение работать с нестабильными внешними API: понимать, как устроены rate limit-ы, как можно построить fallback механизмы и т.д.

Будет плюсом:
- MLflow или похожие инструменты для экспериментов с ML моделями;
- Опыт работы с OCR / vision-моделями / обработкой изображений;
- Опыт деплоя сервисов.

Что мы предлагаем:
- Наставничество: code review, регулярная обратная связь
- Возможность влиять на решения и предлагать улучшения
- Опытная и дружелюбная команда
- Работа над реальными задачами и участие в продакшене
- Поддержка профессионального роста