Проект: AIMRIS Hub edge-first платформа мультимодального промышленного мониторинга для горнодобычи и строительства. Мы используем Vision- and Large Language Models и компьютерное зрение для автоматизированного контроля безопасности и эффективности на карьерах, стройках и заводах.
Суть: Запускаем VLM (2-7B) и CV на Edge (NVIDIA Jetson Orin) там, где нет облака.
Челлендж: Уместить лучшие open-source модели в 16GB VRAM на Edge, обеспечив <2 сек задержку и высокую стабильность в условиях карьеров и строек.
ТЕХНОЛОГИЧЕСКИЙ СТЕК
- Hardware: NVIDIA Jetson Orin NX/AGX (ARM64).
- Models: YOLOv8/v10 (TensorRT), VLM (Qwen2.5-VL, Phi-3.5, Moondream2).
- Optimization: TensorRT, Quantization (AWQ/GPTQ), vLLM, ONNX.
- Pipeline: GStreamer, DeepStream, Python, Docker.
ЗАДАЧИ
- VLM на Edge: Портирование и квантизация (4-bit) тяжелых моделей. Достижение баланса между точностью и скоростью (<2s latency).
- Dual-Pipeline Архитектура: Реализация асинхронной связки: быстрый детектор (YOLO триггерит умный анализ (VLM). Балансировка нагрузки GPU.
- Video Pipeline: Обработка до 8 RTSP-потоков без утечек памяти и задержек (Hardware decode -> Inference).
- Production Deployment: Сборка легких Docker-образов под ARM64, настройка Watchdog и автовосстановления.
ТРЕБОВАНИЯ
Must Have:
- 2+ года в ML Engineering (акцент на Inference & Deployment).
- CV & Object Detection: Глубокое понимание YOLO, метрик трекинга, препроцессинга видео.
- Optimization: Опыт с TensorRT, ONNX, методами квантизации (Int8/FP16/AWQ).
- Python Stack: PyTorch, OpenCV, NumPy, Asyncio, Pandas.
- Linux/Docker: Уверенная работа с Docker, bash, системными сервисами.
Nice to Have:
- Опыт работы с NVIDIA Jetson или другими Embedded системами.
- Практика с LLM/VLM (Prompt Engineering, vLLM, llama.cpp).
- GStreamer / DeepStream.
- C++ and CUDA for High-Performance AI/ML Pipelines.
- AWS platform, specifically EC2, Bedrock, Sagemaker AI.
Условия:
- Зарплата в долларах.
- Медстраховка и покрытие спорта.
- 26 календарных дней отпуска.
- 3 sick leave в год.
- 100% оплата больничных.
- Обмен знаниями и поддержка в развитии.
- Сильная команда и классные коллеги.
- Корпоративная культура с ориентиром на людей.