NLP/LLM engineer Middle+

Компания KVINT – ведущая компания по разработке и внедрению голосовых роботов/виртуальных ассистентов.

Основной продукт – голосовые виртуальные ассистенты, способные заменить живого человека на телефоне на входящих и исходящих звонках, во время которых роботы полностью имитируют живое человеческое общение по телефону, и люди не догадываются, что общаются с роботом.
Решение построено на нейронных моделях, содержит технологии синтеза и распознавания речи, обработки естественного языка и управления диалогом.
Мы ищем человека, который хочет принимать участие в создании крупного и интересного проекта, обладает высокой квалификацией и готов работать в команде. Если вы уверены в своих способностях и ищете новые вызовы, мы будем рады видеть вас в нашей команде!

Основные задачи:

— Разработка и оптимизация моделей LLM для голосовых ассистентов, включая fine-tuning opensource LLM для обработки звонков на русском языке, с адаптацией моделей под специфику телефонного домена.
— Подбор и дообучение моделей LLM для оптимального использования ресурсов, улучшения производительности и точности инференса.
— Проведение стресс-тестирования моделей для гарантии надежности и производительности в высоконагруженной среде.
— Разработка и интеграция решений по созданию и обновлению базы знаний на основе документов различных типов, с прицелом на телефонные сценарии.
— Эффективное взаимодействие с командой для согласования приоритетов и своевременного решения критически важных задач, блокирующих развитие продукта.
— Направление разработки сервисов, связанных с LLM, в соответствии с общими целями и потребностями продукта.

Требования:

• Уверенные знания Python (Data Science), PyTorch, Docker.
• Опыт работы с LLM: сбор и подготовка данных, последовательное дообучение, владение различными инструментами и фреймворками для обучения (TRL, torchrun, DeepSpeed и др.)
• Глубокое понимание DL и NLP для работы с текстовыми данными.
• Опыт работы с векторными базами данных.
• Опыт применения методов квантизации моделей и практик ускорения инференса.
• Опыт подготовки LLM к продакшн-развертыванию на фреймворке vLLM или аналогичных фреймворках.
• Приветствуется опыт с омнимоделями (текст+звук).

Условия:

— Независимость и самостоятельность в реализации задач, поощрение инициативы, гибкий менеджмент и отсутствие бюрократии.
— Работа в команде профессионалов, обучение в рамках предметной области.
— Крупный перспективный проект федерального масштаба с возможностями для профессионального развития.
— Конкурентная заработная плата.
— Возможность работать на полной удаленке.
— Интересные задачи и самые современные технологии.
— Зарплатные ожидания обсуждаются на собеседовании и всегда принимаются во внимание при оффере.