Руководитель разработки юнита LLM Tech

Описание

Наша команда обучает собственные базовые LLM и внедряет их в бизнес-сценарии Авито, адаптируя решения с открытым исходным кодом под русский язык и доменную специфику Авито. Мы исследуем новые методы и пайплайны, включая RL и синтетические данные, а также работаем с датасетами.

Обязанности

• Отвечать за GPU-инфраструктуру для LLM: от железа до утилизации
• Определять и реализовывать стратегию развития инференса LLM
• Оптимизировать инференс LLM
• Определять стратегию использования внешних LLM-провайдеров и развивать LLM Gateway
• Развивать платформы оценки качества, RAG и LLM Gateway
• Быть надёжным партнёром для DS UL
• Работать с ключевыми метриками: cost per token × model size, утилизация, SLA, удовлетворённость пользователей LLM Gateway, экономические показатели LLM

Требования

• Иметь экспертизу в GPU
• Работать с DS в области LLM и оптимизации инференса
• Понимать, как работают LLM, инфраструктура вокруг них и оценка качества моделей
• Иметь опыт оптимизации инференса LLM
• Управлять несколькими командами, применять системный подход к менеджменту и работать через лидов и цели
• Вести проекты для стейкхолдеров уровня кластер-лидов и СЕО
• Уметь переводить сложные технические темы на понятный язык
• Понимать задачи DS и уметь договариваться с командами
• Уметь оценивать ситуацию и решать проблемы до того, как они повлияют на результат

Условия

• Расширенная забота о здоровье: ДМС, страхование жизни, онкострахование
• Сервис психологической поддержки, а также финансовые, юридические и ЗОЖ-консультации для вас и ваших близких
• Корпоративный спорт: групповые тренировки, велбиинг-приложение
• Спецпредложения от партнёров и скидки на сервисы Авито: бронирование жилья, услуги продвижения, ипотечное страхование
• Компенсация питания
• Возможность развиваться в сильной команде лидеров и помогать расти другим
• Чёткая матрица компетенций с прозрачными ожиданиями на всех уровнях
• Уникальный культурный код и сильное экспертное комьюнити
• Место работы: Москва, удалённая работа

Процесс отбора

• Мы рассмотрим ваше резюме и обязательно свяжемся, если навыки и опыт подойдут к требованиям вакансии
• Пройдите короткий опрос и расскажите, где вы слышали про команду Авито. Это займёт менее 30 секунд