Senior Data Engineer
Senior Москва От 3 до 6 лет
Компания Cinimex – разработчик ПО и системный интегратор. Мы работаем с российскими банками ТОП-20, ритейлерами, производственными и добывающими компаниями. К своему 28-летию компания имеет уникальный опыт разработки программных решений и продолжает развивать свою экспертизу: разработка на микросервисной архитектуре, машинное обучение и искусственный интеллект, IoT, продуктовое направление и автоматизация предприятий.
Сейчас мы в поисках Senior Data Engineer к нам в команду.
Задачи:
- Разработка ETL-пайплайнов (Apache Spark on java, HDFS (parquets), ClickHouse, Hive, Greenplum);
- Разработка витрин данных в Greenplum и ClickHouse;
- Оркестрация ETL-процессов;
- Оптимизация ETL-процессов (батчинг, ретраи, SLA-контроль);
- Взаимодействие с BI-разработчиками и DevOps для своевременной доставки данных в Superset.
Ожидаем от Вас:
- Глубокий экспертный опыт работы с Apache Spark от 4-5 лет (оптимизация джобов, работа с широкими и узкими зависимостями, настройка памяти и shuffle-операций);
- Опыт работы с ClickHouse;
- Опыт работы с Hadoop (HDFS, Hive);
- Опыт проектирования и разработки потоков данных, алгоритмов загрузки и обработки данных;
- Опыт оптимизации ETL-пайплайнов и SQL кода;
- Продвинутые знания SQL;
- Готовность осваивать Java для использования Spark.
Мы предлагаем:
Как работается в Синимекс
Трудоустройство и онбординг
6.5
Финансовое вознаграждение
6.8
Рабочая среда и культура
7.6