Lead ML Engineer

Описание

Требования

• Глубокий практический опыт оптимизации инференса LLM (SGLang, vLLM, TensorRT-LLM)
• Распределённый инференс/обучение: MoE, tensor/expert/pipeline parallelism, multi-node кластеры
• KV cache, attention kernels, batching, quantization, GPU profiling
• Обучение и дообучение LLM, включая post-training (RLHF, DPO)