6 дней назад
ML/NLP разработчик
180 000 – 210 000 ₽в месяц
- РФ
- Удалённо
- Полная занятость
PythonLLMGoMLPyTorchNLPTTSASRPEFTBERT
Описание
О проекте
- переход системы с графа сценариев на LLM-based диалог с оптимизацией голосового пайплайна
Обязанности
- Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог
- Дебаг голосового пайплайна (поиск причин high latency, галлюцинаций LLM, проблем с передачей аудио, графовых ошибок)
- Оперативное принятие архитектурных решений и их самостоятельная реализация в коде
- Поддержка и быстрая отладка few-shot классификации сценариев на базе Qwen и классификаторов на BERT
- Учёт краевых случаев, исправление ошибочных срабатываний интентов
- Finetuning локальных LLM (извлечение сущностей, удерживание инструкций)
- Интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD)
- Дообучение и настройка инфереса собственных и опенсорсных TTS и систем клонирования голоса
Требования
- Экспертиза в NLP и LLM: практический опыт с LLM/SLM (Few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов)
- Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи
- Уверенный дебаг LLM: умение быстро понять, почему модель ответила не так, и исправить это промптом, гиперпараметром или файнтюном
- Опыт дообучения и оптимизации TTS-моделей
- Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2)
- Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами
- Высокая скорость диагностики проблем в инференсе, локализации багов и принятия инженерных решений
- Уверенное владение Python (PyTorch, huggingface, фреймворки инференса)
- Уверенное владение Go
- Опыт работы с оптимизацией инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime)
- Практика работы со потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты)
- Типизация в Go, базовые типы (строки, числа, слайсы и мапы)
- Примитивы синхронизации и конкуренция (синхронизация горутин, работа с каналами)
- Указатели и работа с ними
- Observability
- Оперативность в принятии архитектурных решений
- Самостоятельность в реализации решений
- Высокая скорость диагностики проблем
Будет плюсом
- Понимание SOLID, DRY и KISS паттерны
- Базовое понимание дизайна сервисов на Go
Процесс отбора
- Направить CV