Senior MLOps engineer

Кого мы ищем

Мы ищем Senior MLOps Engineer, который примет активное участие в создании надежной и маштабируемой платформы для разработки, внедрения и мониторинга ML моделей. Платформа предусматривает два режима работы - batch и real-time.

Наш стэк: k8s, Flux2, Airflow, Redis, Qdrant, ClearML, Ray, FastAPI, MongoDB, Spark, Kafka, Prometheus, Grafana.

Чем предстоит заниматься:

• Создание MLOps-практик (стенды, DevOps, процессы) для задач запуска кампаний продаж, обработки аудиоконтента, инференса LLM, развития внутренних LLM-агентов: среды разработки, тестирования, инференса и мониторинга моделей в различных режимах (Batch, Streaming) и использования ресурсов (CPU, GPU)
• Внедрение и поддержка инструментов версионирования артефактов (ClearML, MLFlow, DVC, AirFlow и т.п.)
• Развитие LLMOps-практик (эффективный инференс LLM для ChatGPT-like решений)
• Помощь команде DS в выводом моделей в прод

У тебя все получится, если ты имеешь:

• Опыт работы в качестве DevOps/MLOps/ML Engineer не менее 2 лет
• Опыт работы с k8s, умение разрабатывать и поддерживать сервисы в этой среде
• Опыт развертывания и использования MLOps инструментов (ClearML, Ray Serve, DVC, MLflow и т.п.)
• Опыт выстраивания CI/CD, DAG пайплайнов для разработки/тестирования/инференса моделей/витрин
• Опыт отладки Spark-job'ов, умение разбираться в ML-алгоритмах (бустинги, сетки, LLM, распределённые вычисления)
• Знание принципов организации распредёленных информационных систем и баз данных

Будет плюсом:

• Теоретические и практические знания векторных баз данных (Qdrant, Open Search или аналогов)
• Опыт работы с Feature Store и обеспечения ежедневной работы потоков данных
• Знания и опыт оптимизации GPU-инференса для LLM
• Опыт разработки REST-сервисов