Разработчик Python (ML\ LLM)

Ваша зона ответственности:

Разработка микросервисов:
— Сервис парсинга документов (PDF, DOC, DOCX) с извлечением структурированных данных
— Сервис векторизации текстов для семантического поиска
— Сервис оркестрации ML-пайплайнов с управлением состояниями
API Gateway для внешних интеграций

Работа с LLM:
— Интеграция с корпоративным LLM API (управление лимитами, очередями)
— Оптимизация промптов для снижения затрат (батчинг, кеширование)
— Обработка и валидация ответов LLM (парсинг JSON, обработка ошибок)
— Реализация fallback-стратегий при недоступности LLM

Обеспечение надежности:
— Реализация retry-механизмов с exponential backoff
— Идемпотентность операций
— Graceful degradation при сбоях внешних сервисов
— Мониторинг и алертинг критических метрик

Оптимизация производительности:
— Асинхронная обработка для высокой пропускной способности
— Кеширование векторов и результатов LLM
— Оптимизация запросов к БД (индексы, батчинг)
— Горизонтальное масштабирование под нагрузку

Необходимые навыки:

Стек: Python: FastAPI, asyncio, aiokafka, pydantic
Kafka: продвинутый уровень (exactly-once semantics, transactional producers)
DB: MongoDB / PostgreSQL LLM интеграции: REST API, rate limiting, основы промпт-инжениринга Инфраструктура: Базовые знания K8s Мониторинг: понимание метрик (latency, throughtput, error rate

Организация пайплайна из микросервисов.

Работа с корпоративными API и очередями, понимание CI/CD в крупном бизнесе.