Назад к вакансиям

Lead ML Engineer — LLM Inference & NLP

Joi AIУдалённоот 5 летПолная занятость
PythonLLMGoC#MLPyTorchNLPML EngineerCUDASGLangTensorRT-LLMCVTransformersTritonInference OptimizationDistributed Inference

Описание

Joi AI - платформа AI-компаньонов, развивающая эмоционально интеллектуальные ИИ-модели. Ищем ведущего ML-инженера для оптимизации LLM и технического руководства командами NLP и CV.

Обязанности

  • Оптимизация и масштабирование LLM-инференса (SGLang, vLLM, TensorRT-LLM).
  • Работа с моделями до 1T+ параметров и распределённой GPU-инфраструктурой.
  • Обучение и дообучение LLM, развитие AI-агентов.
  • Техническое руководство ML-инженерами и определение технической стратегии.

Требования

  • Production-опыт оптимизации LLM-инференса.
  • Знание распределённых вычислений, MoE, KV-cache, квантования и GPU-профилирования.
  • Опыт обучения LLM и постобучения (RLHF/DPO).
  • PyTorch, Transformers, Python.
  • Техническое лидерство и готовность писать код самостоятельно.
  • Продвинутый английский или русский.

Будет плюсом

  • CUDA/Triton, мультимодальные модели, open-source вклад, научные публикации.

Условия

  • Полностью удалённая работа, полная занятость.
  • Возможность получить долю в компании и вырасти до Head of ML.
  • 28 дней отпуска + 7 wellness-дней.
  • Медицинская поддержка до $1 000 в год или страховка.
  • Компенсация рабочего места, обучения и конференций.