Дирекция мониторинга Agile занимается созданием дашборда для руководителей в Сбере. Мы собираем данные по всем процессам в Банке, анализируем их и предоставляем необходимую информацию для принятия решений.
Мы продолжаем увеличивать охват и глубину мониторинга, поэтому нуждаемся в новых силах. Мы ищем в команду Prompt инженера, который будет создавать данные и описание запроса для LLM-моделей, и следить за их качеством работы.
Разработка и оптимизация диалоговых сценариев, сложных запросов (prompt-engineering) и примеров ответов для взаимодействия с LLM.
Оценка качества ответов моделей (ручная и автоматическая), их корректировка, фактчекинг, проверка на этичность и достоверность.
Формирование, систематизация и разметка обучающих данных для улучшения качества моделей.
Внедрение и оптимизация RAG-систем, включая интеграцию векторных баз данных (Pinecone, FAISS) и оценку их эффективности.
Проведение A/B-тестирования промптов, моделей и подходов к генерации.
Разработка и поддержка базы знаний для LLM, включая актуализацию контента.
Обеспечение мониторинга работы AI-систем, выявление проблемных зон и в разных этапах работы системы
Написание автотестов для проверки стабильности и качества систем на каждом этапе.
Создание инструкций и рекомендаций по использованию AI в различных сценариях.
Мониторинг трендов в области AI, оценка новых инструментов и технологий.
Будет плюсом
Москва
до 450000 RUR
Москва
до 450000 RUR