AI/ML Engineer в направление «Интеллектуальные решения»

Астана, улица Динмухамеда Кунаева, 10

Показать контакты

Описание вакансии

Ключевые задачи:

Разбирать запросы заказчиков и предлагать, каким классом решений их закрывать;
Разрабатывать и улучшать RAG-пайплайны: поиск, реранжирование, сборка контекста, цитирование;
Поднимать и оптимизировать инференс на своём GPU-кластере: выбор модели, квантизация, батчинг, KV-кэш;
Проектировать агентную логику: маршрутизация запросов, вызов инструментов, память диалога;
Измерять качество системно: golden-датасеты, офлайн-метрики, A/B на проде, разбор жалоб пользователей;
Доводить прототипы до продакшена вместе с backend и DevOps-командой;
Что мы ожидаем:
3+ года в ML/AI-инженерии с реальным опытом вывода моделей в прод, а не только исследований в ноутбуках
Самостоятельность в постановке задач: превратить размытый запрос в проверяемую гипотезу и оценить, стоит ли она реализации;
Python на уровне промышленной разработки;
Практический опыт с LLM: промптинг, RAG или дообучение, доведённое до работающего результата;
Понимание устройства трансформера: attention, токенизация, контекстное окно, природа галлюцинаций;
Фреймворк инференса: vLLM, TGI, Triton, Ollama или аналог;
Векторный поиск: Qdrant, pgvector, Milvus, FAISS - любой;
Умение измерять качество цифрами: метрики, датасеты, воспроизводимые эксперименты;
Docker, git, понимание, как код доезжает до прода.

Навыки, которые нам желательны:

LangGraph, LangChain или LlamaIndex;
fine-tuning (LoRA, QLoRA, DPO) ;
квантизация и профилирование GPU;
Whisper, STT/TTS, диаризация, мультимодальность;
Kubernetes, Langfuse, RAGAS и другие инструменты оценки LLM;
казахский язык в NLP open-source и публикации.
Что мы предлагаем:
Собственная инфраструктура. Работаем на своём железе, без ограничений и квот чужого облака;
Содержательные задачи. Направление молодое, готовых шаблонов нет подходы вырабатываем сами;
Масштаб. Продукты для десятков тысяч пользователей группы компаний
Влияние. Ключевые архитектурные решения принимаются сейчас, и ваш голос в них весит.