QA Specialist (Data Engineering)
ИТ-компанияУдалённо
PythonSQLGitGitLab CIData EngineeringPytestS3Big DataData Lakeunittest
Описание
Обязанности
- Тестирование backend-систем в среде Big Data
- Разработка автоматизированных тестов и скриптов для анализа данных на Python
- Написание и поддержка тестов с использованием pytest и unittest
- Проверка корректности обработки и хранения данных, анализ результатов выполнения запросов SQL
- Настройка и поддержка CI/CD-пайплайнов для автоматического запуска тестов
- Мониторинг и анализ метрик выполнения пайплайнов с использованием Grafana и Prometheus
- Работа с распределёнными хранилищами данных и инструментами обработки больших объёмов информации
Требования
- Опыт тестирования backend-систем в Big Data
- Уверенное владение Python для автоматизации тестирования и анализа данных
- Продвинутый уровень SQL: оконные функции, CTE, оптимизация запросов
- Понимание различий между диалектами SQL, включая Trino, StarRocks и PostgreSQL
- Опыт работы с Git и GitLab CI/CD, включая настройку пайплайнов тестирования
- Знание архитектуры Data Lake/Data Lakehouse, опыт работы с S3 и форматами Parquet/ORC
- Базовое понимание принципов работы Apache Spark или Flink
- Опыт работы с PostgreSQL
- Навыки использования Grafana и Prometheus для мониторинга и анализа метрик
Условия
- Формат: Удаленный