ML-инженер (LLM, продакшн)

Мы ищем инженера, который умеет разрабатывать собственные LLM-решения и разбираться в чужом коде: доводить до ума, чинить или переписывать. Нужен практик, понимающий модели изнутри и умеющий запускать их в продакшн (рассматриваем в том числе студентов).

Рассматриваем кандидатов из Санкт-Петербурга.

Что делать:
• Проектировать, обучать и дообучать модели (выбор архитектуры, fine tuning, квантизация, оптимизация инференса).
• Аудировать и исправлять решения подрядчиков — находить утечки, переобучение, ошибки в метриках и конфигах.
• Строить инфраструктуру обучения и инференса (Ollama, vLLM, TGI, GPU, Docker).
• Внедрять оценку качества: бенчмарки, LLM-as-judge, регрессионные тесты.
• Работать с данными: чистка, разметка, синтетика, версионирование.
• Собирать RAG и агентные сценарии (Hermes, tool calling, MCP), честно оценивать необходимость дообучения.
• Использовать облачные API (Claude, OpenAI, Gemini) в комбинации с локальными моделями.
• Применять агентные инструменты разработки (Claude Code, Cursor) и писать skills/инструкции для агентов.
• Развивать модели версия за версией: continual learning, merging, управление адаптерами, релизный цикл.
• Писать понятную техническую документацию.

Что нужно:
• Глубокое понимание трансформеров, обучения, оптимизации, регуляризации.
• Опыт дообучения LLM в продакшене (PyTorch, HF, PEFT, TRL, Unsloth, Axolotl).
• Квантизация и локальный запуск (GGUF, GPTQ, AWQ; Ollama, vLLM, llama.cpp).
• Уверенный Python, Git, Docker, Linux, рефакторинг чужого кода.
• Работа с датасетами (JSONL, чат-шаблоны, балансировка, чистка).
• Умение строить eval-наборы и интерпретировать метрики.
• Понимание лицензий, безопасности (PII, prompt injection), guardrails.
• Опыт с агентными фреймворками (LangGraph, OpenAI Agents, CrewAI) и API моделей (tool use, structured output, cost control).
• Практика с агентными средами разработки (Claude Code, Cursor) и написание skills.
• Опыт развития модели во времени (дообучение без забывания, слияние адаптеров, сравнение версий).

Будет плюсом:
• Приёмка аутсорсного ML-кода.
• Методы merging (SLERP, TIES, DARE), DPO/ORPO.
• Векторные БД и RAG (Qdrant, Chroma, LlamaIndex).
• Русскоязычные модели и корпуса.
• Мультимодальность, speech, CV.
• Навык объяснять технические вещи нетехническим людям.

Условия:
• Официальное трудоустройство по ТК РФ, полностью белая заработная плата
• Удаленный формат работы, график 5/2
• Стабильная заработная плата + премии
• Заработная плата — по результатам собеседования (обсуждается индивидуально)
• Испытательный срок – 3 месяца