Алматы, комплекс Нурлы-Тау
Разрабатывать бэкенд-сервисы GenAI: чат-боты, ассистенты/«агенты» с инструментами (tools/function calling), автомations и интеграции с внутренними системами.
Реализовывать RAG-потоки: подготовка пайплайна эмбеддингов, поиск/ранжирование, контекстуализация, защита от prompt-injection/PII-leaks.
Проектировать и внедрять API (REST/gRPC), поддерживать версионирование, совместимость и контрактные тесты.
Интеграции с внешними API и каналами (телеграм/вотсап/веб-виджет/контакт-центр), обработка веб-хуков, очередей и ретраев.
Писать надёжный асинхронный код: timeouts, backoff, bulkheads, идемпотентность, транзакционные outbox-паттерны.
Настраивать наблюдаемость: метрики/логи/трейсы, алерты по SLO; разбор и профилирование узких мест.
Писать тесты (unit/интеграционные/контрактные), конфигурировать пайплайны CI/CD, автоматизировать релизы.
Взаимодействовать с DS/ML по вопросам инференса/оценок качества (RAGAS/precision/latency), улучшать промпты/инструменты.
Поддерживать безопасность: секреты, токены, контроль доступа (RBAC), маскирование PII, ограничения по скоростям/квотам.
Подготавливать документацию (ADR, runbooks, OpenAPI), участвовать в код-ревью и внутренних RFC.
LLM и агенты
Опыт с OpenAI/Azure OpenAI и локальными моделями (Llama, Mistral).
Function calling, структурированные ответы (JSON Schema), управление состоянием (memory/state).
RAG и данные
LangChain, LlamaIndex, RAGFlow или аналоги.
Эмбеддинги, чанкирование, перезапросы, ранжирование.
Векторные БД
pgvector, FAISS, Qdrant, Milvus; проектирование схем хранения и индексов.
Очереди и фоновые задачи
Kafka/Redpanda, KEDA, Celery/Temporal.
Сервис инференса
vLLM, Triton, KServe — интеграция через API.
Интеграции с каналами
Telegram Bot API, WhatsApp (Infobip/Twilio), вебхуки; управление rate-limits и идемпотентностью.
Feature flags / конфигурация
LaunchDarkly, Unleash или собственные решения.
Фронтенд (желательно)
React или Vue для внутренних тулов.
Годовой бонус по результатам работы
ДМС, материальная помощь, социальная поддержка, ежедневное медицинское сопровождение и др.
Команда экспертов, которые любят своё дело и всегда готовы поддержать
Современный офис и вся необходимая техника предоставляется.
INVESTBANQ TECH LAB LIMITED
Алматы
Не указана
Plexy Platform Kazakhstan
Алматы
Не указана
Plexy Platform Kazakhstan
Алматы
Не указана
Plexy Platform Kazakhstan
Алматы
до 1600000 KZT