Назад к вакансиям

QA Specialist (Data Engineering)

ИТ-компанияУдалённо
PythonSQLGitGitLab CIData EngineeringPytestS3Big DataData Lakeunittest

Описание

Обязанности

  • Тестирование backend-систем в среде Big Data
  • Разработка автоматизированных тестов и скриптов для анализа данных на Python
  • Написание и поддержка тестов с использованием pytest и unittest
  • Проверка корректности обработки и хранения данных, анализ результатов выполнения запросов SQL
  • Настройка и поддержка CI/CD-пайплайнов для автоматического запуска тестов
  • Мониторинг и анализ метрик выполнения пайплайнов с использованием Grafana и Prometheus
  • Работа с распределёнными хранилищами данных и инструментами обработки больших объёмов информации

Требования

  • Опыт тестирования backend-систем в Big Data
  • Уверенное владение Python для автоматизации тестирования и анализа данных
  • Продвинутый уровень SQL: оконные функции, CTE, оптимизация запросов
  • Понимание различий между диалектами SQL, включая Trino, StarRocks и PostgreSQL
  • Опыт работы с Git и GitLab CI/CD, включая настройку пайплайнов тестирования
  • Знание архитектуры Data Lake/Data Lakehouse, опыт работы с S3 и форматами Parquet/ORC
  • Базовое понимание принципов работы Apache Spark или Flink
  • Опыт работы с PostgreSQL
  • Навыки использования Grafana и Prometheus для мониторинга и анализа метрик

Условия

  • Формат: Удаленный