ML/NLP Developer

Описание

Проект МТС: разработка голосового диалогового ассистента и перевод системы с графов сценариев на LLM-based диалог с минимальной задержкой.

Обязанности

• Поэтапный перевод системы с графа сценариев на управляемый LLM-based диалог
• Дебаг голосового пайплайна: поиск причин high latency, галлюцинаций LLM, проблем с передачей аудио и графовых ошибок
• Оперативное принятие архитектурных решений и их самостоятельная реализация в коде
• Поддержка и отладка few-shot классификации сценариев (Qwen, BERT), исправление ошибочных срабатываний интентов
• Finetuning локальных LLM при необходимости (извлечение сущностей, удерживание инструкций)
• Интеграция и поддержка ASR (GigaAMv2), дообучение и настройка инференса TTS и систем клонирования голоса

Требования

• Уверенный опыт работы с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов)
• Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи
• Уверенный дебаг LLM: умение быстро понять причину некорректного ответа и исправить это промптом, гиперпараметром или файнтюном
• Опыт дообучения и оптимизации TTS-моделей
• Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2), понимание работы VAD
• Практика работы с потоковым аудио в реальном времени (streaming ASR/TTS)
• Уверенное владение Python (PyTorch, HuggingFace, фреймворки инференса)
• Опыт оптимизации инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime)
• Понимание дизайна сервисов, паттернов SOLID, DRY и KISS
• Типизация в Go (строки, числа, слайсы, мапы)
• Примитивы синхронизации и конкуренция (синхронизация горутин, работа с каналами)
• Указатели и работа с ними
• Понимание принципов Observability

Будет плюсом

• Опыт работы с gRPC-контрактами
• Умение настроить инфраструктуру, знания k8s / inventory
• Глубокое понимание работы сетевого стека (TCP)

Условия

• Локация/Гражданство: РФ
• Наличие оформленного военного билета или приписного свидетельства обязательно!
• Ставка: обсуждается
• Грейд: Middle+ / Senior
• Загрузка: Full-time (полная занятость)
• Формат: Удалённо