Разработчик системы трейсинга

Описание

Обязанности

• Масштабирование и повышение доступности системы
• Обеспечение стабильной работы системы распределённого трассирования в условиях роста нагрузки, включая анализ текущих узких мест, проектирование и внедрение решений для горизонтального масштабирования, отказоустойчивости и балансировки нагрузки
• Работа с распределённым хранилищем трасс, компонентами ingestion и обработки, а также создание стратегии обеспечения высокой доступности (high availability) всей системы
• Разработка подсистемы горячего хранения трассировок, которая обеспечивает высокую скорость приёма трасс, хранение в оперативной памяти и выполнение вычислений (агрегация, расчёт метрик, выделение аномалий и других форм аналитики)
• Структурирование и отправка данных в долговременное (холодное) хранилище, обеспечение стабильной работы при высоких объёмах данных и реализация гибких механизмов управления жизненным циклом трассировок в памяти
• Улучшение пользовательского опыта при работе с системой трассировки: разработка сценариев, позволяющих быстрее выявлять причины деградаций, ошибок и аномалий
• Создание механизмов фильтрации и группировки трассировок, построение автоматических срезов (например, «медленные запросы», «ошибочные трассы», «редкие паттерны»), а также интеграция с другими источниками информации: логами, метриками, алертами
• Активное участие в исследовании возможностей применения AI/ML к данным трассировок, включая генерацию собственных идей и проверку сформулированных гипотез
• Создание MVP-инструментов, использующих большие языковые модели (BLM) для анализа и интерпретации трассировок, генерации кратких описаний, ответов на запросы инженеров и построения пользовательских сценариев
• Участие в архитектурной и технической проработке решений на стыке логирования, метрик, алертов и пользовательских сценариев
• Обеспечение корреляции трасс с логами и метриками, участие в унификации пользовательского интерфейса и API, выстраивание единых принципов хранения, навигации и анализа данных

Требования

• Уверенное владение Golang
• Разработка высоконагруженных распределённых систем
• Понимание принципов observability: трассировка, метрики, логи
• Умение работать в команде, принимать технические решения и брать на себя ответственность
• Желание решать сложные задачи, которые напрямую влияют на весь Яндекс

Будет плюсом

• Опыт работы с различными инструментами трейсинга
• Опыт работы с базами данных, аналогичными ClickHouse

Условия

• Формат работы: удалённо или гибрид