Описание

Ищем LLM / ML Engineer с практическим опытом обучения языковых моделей. Задача — обучение с нуля специализированных моделей на 1B–10B параметров. Основные направления: разработка ПО, понимание сложных русскоязычных текстов и function calling. Проекты для заказчиков под NDA — подробности обсудим лично.

Обязанности

Подготавливать данные и выстраивать пайплайны обучения
Проводить эксперименты с архитектурами, методами и режимами обучения
Обучать модели с нуля и адаптировать их под целевые задачи
Оценивать качество моделей, анализировать ошибки и улучшать результаты

Требования

Практический опыт обучения языковых моделей: от подготовки данных до оценки результата
Опыт аналогичных проектов либо адаптации готовых моделей методами, выходящими за рамки SFT
Уверенное владение Python и PyTorch
Понимание принципов обучения трансформеров и опыт работы с GPU

Будет плюсом

Опыт распределённого обучения, оптимизации памяти и скорости обучения, работы с моделями для кода и вызова инструментов

Процесс отбора

Если у вас есть такой опыт или можете кого-то порекомендовать — пишите •••
Будет здорово, если кратко расскажете о проектах и своей роли в них