Специалист разработки ИИ управления разработки LLM-процессов

Астана

Показать контакты

Описание вакансии

Обязанности:

Разрабатывать LLM/NLP-компоненты и backend-сервисы (prompt-логика, шаблоны, бизнес-правила, пост-обработка).
Интегрировать ИИ-сервисы с системами банка через API (валидация входов, авторизация, таймауты/ретраи, обработка отказов/деградаций).
Внедрять и улучшать RAG-подходы (подготовка источников, индексация, retrieval/grounding, citations при необходимости).
Обеспечивать качество решений (golden set, метрики, анализ ошибок, регрессия после изменений промптов/данных/индексов/версий модели).
Сопровождать решение в продуктиве (логи/диагностика, участие в инцидентах, выпуск исправлений, актуализация техдокументации) с соблюдением ИБ/Privacy.

Требования:

Высшее образование: ИТ / техническое / математическое / инженерное или иное профильное, соответствующее разработке ПО и ИИ.
Уверенная база: программирование, алгоритмы и структуры данных, работа с данными, проектирование API-интеграций.
1–3 года практического опыта в разработке ИИ/NLP/LLM решений или backend-сервисов с интеграцией ИИ.
Участие в проектах полного цикла: разработка → тестирование → интеграция → пилот/прод.
Опыт разработки сервисов и интеграций:
REST API, авторизация, обработка ошибок, таймауты/ретраи;
интеграция с корпоративными системами/шинами/сервисами (по проекту).
Опыт улучшения качества ИИ-ответов: анализ ошибок, настройка промптов/контекста, корректировка пайплайнов, регрессионные проверки.
Опыт сопровождения в продуктиве: диагностика, участие в устранении инцидентов, выпуск хотфиксов/обновлений.
Уверенное владение Python и практический опыт с LLM-стеком: embeddings/RAG, HuggingFace (PyTorch/TensorFlow — как плюс).
Понимание принципов LLM/NLP: embeddings, retrieval, prompt engineering; ограничений LLM (галлюцинации, чувствительность к контексту, prompt-injection).
Опыт работы с модельными API/SDK (OpenAI/Claude/Gemini или корпоративные аналоги): лимиты/квоты, latency, rate-limits, безопасная передача данных и защита ключей.
Понимание жизненного цикла ИИ-решений: тестирование, оптимизация, мониторинг качества; регрессия при изменениях промптов/данных/индексов/версий модели.
Базовое понимание LLMOps: контроль версий (модель/промпт/данные/индекс), логирование, мониторинг, CI/CD для сервисов.
Знание требований ИБ и защиты ПДн: запрет утечек ПДн/банковской тайны, маскирование/минимизация данных, контроль доступа.
Навыки эксплуатации: чтение логов, диагностика деградаций качества/ошибок интеграции, участие в инцидентах, выпуск исправлений.
Навыки документирования: технические спецификации, инструкции, результаты тестов, поддержание документации актуальной.
Windows + базово Linux (CLI/ssh), работа с логами.
Python и SQL для разработки/интеграций и работы с данными.
REST API (JSON, Swagger/OpenAPI), базовая авторизация, обработка ошибок.
Git (ветки/merge, code review), базовый Docker.
Диагностика по дашбордам/алертам, понимание причин latency/error-rate.
Инструменты работы: Jira/Confluence/SharePoint, MS Office; соблюдение ИБ/Privacy (ПДн, секреты).
Надежные интеграции: таймауты/ретраи/backoff, деградационные режимы.
LLM/RAG-пайплайны: embeddings, retrieval/grounding, prompt templates, регресс-контроль.
Векторные БД: индексация, фильтрация, схемы коллекций (Milvus/Pinecone/pgvector/OpenSearch).
LLMOps/CI/CD: версионирование промптов/данных/индексов/моделей, автоматизированные тесты, релизы.
Observability (logs/metrics/traces) и RCA; оптимизация latency/стоимости (кэш, сокращение контекста).
Kubernetes + Terraform + базовый cloud (IAM/networking/serverless) и защита от prompt-injection/утечек.

Условия:

Достойная оплата труда
Участие в проектах Банка
Премирование (от выполнения KPI)
Возможность профессионального развития
Обучение за счет работодателя
Медицинское страхование (узкие специалисты, лечение у стоматолога, получение медикаментов, УЗИ и т.д.)
Материальная помощь (заключение брака, рождение ребенка и т.д.)
Отпуск 30 календарных дней
Лечебное пособие на оздоровление
Скидка на абонемент в популярный спортивный зал города
Участие в корпоративной жизни Банка
Участие в спортивных мероприятиях Банка (шахматы, теннис, футбол и т.д.)
Карьерный рост
Дружная команда