Lead ML Engineer — LLM Inference & NLP
Joi AIУдалённоот 5 летПолная занятость
PythonLLMGoC#MLPyTorchNLPML EngineerCUDASGLangTensorRT-LLMCVTransformersTritonInference OptimizationDistributed Inference
Описание
Joi AI - платформа AI-компаньонов, развивающая эмоционально интеллектуальные ИИ-модели. Ищем ведущего ML-инженера для оптимизации LLM и технического руководства командами NLP и CV.
Обязанности
- Оптимизация и масштабирование LLM-инференса (SGLang, vLLM, TensorRT-LLM).
- Работа с моделями до 1T+ параметров и распределённой GPU-инфраструктурой.
- Обучение и дообучение LLM, развитие AI-агентов.
- Техническое руководство ML-инженерами и определение технической стратегии.
Требования
- Production-опыт оптимизации LLM-инференса.
- Знание распределённых вычислений, MoE, KV-cache, квантования и GPU-профилирования.
- Опыт обучения LLM и постобучения (RLHF/DPO).
- PyTorch, Transformers, Python.
- Техническое лидерство и готовность писать код самостоятельно.
- Продвинутый английский или русский.
Будет плюсом
- CUDA/Triton, мультимодальные модели, open-source вклад, научные публикации.
Условия
- Полностью удалённая работа, полная занятость.
- Возможность получить долю в компании и вырасти до Head of ML.
- 28 дней отпуска + 7 wellness-дней.
- Медицинская поддержка до $1 000 в год или страховка.
- Компенсация рабочего места, обучения и конференций.