Описание

Разрабатывать агентов на LangGraph: tool calling, многошаговые сценарии, human-in-the-loop, обработка ошибок
Строить RAG по внутренним документам: разбор PDF/DOCX, сканов и таблиц, индексация, гибридный поиск (BM25 + dense), реранкинг
Делать и развивать агентов для корпоративных систем (Bitrix, Jira, Alfresco, Exchange, 1С): text-to-SQL по MS SQL / PostgreSQL, интеграции через REST API
Разбирать ошибки агентов по трейсам, вести регрессионные наборы и метрики качества
Вместе с заказчиками вести решение от прототипа до передачи в эксплуатацию и документировать его

От 2 лет разработки на Python, из них от 1 года — LLM-проекты (агенты, ассистенты, RAG). asyncio, FastAPI, pydantic, тесты
LangGraph, LangChain или аналоги; function calling, structured output, паттерны агентов (ReAct, plan-and-execute, роутинг)
RAG на практике: chunking, эмбеддинги, векторный и гибридный поиск (Qdrant, pgvector или аналоги)
Понимание ограничений LLM и способов их обходить: контекстное окно, галлюцинации, недетерминизм. Умение решить, где нужна LLM, где достаточно детерминированного решения, а где — классического ML, и обосновать выбор по качеству, стоимости и надёжности
Оценка качества: собрать тестовый набор, выбрать метрики (recall@k, faithfulness, RAGAS или аналоги), провести офлайн-оценку и side-by-side сравнение версий промпта или пайплайна
Уверенный SQL; Docker / Docker Swarm, GitLab CI
Умение общаться с бизнес-заказчиками, переводить задачу в техническую постановку и писать понятную документацию

Работа с open-weight моделями (Qwen, DeepSeek) и их деплой на vLLM: квантование (FP8/AWQ), guided decoding
Опыт с российскими LLM (GigaChat, YandexGPT) через API
LiteLLM как шлюз к моделям; OpenWebUI (Functions, Tools, Pipelines)
Langfuse или LangSmith, LLM-as-a-judge
MCP: создание и подключение серверов
Защита LLM-систем: prompt injection, маскирование конфиденциальных данных
Классический ML для текстов: классификация, кластеризация, бустинги, sklearn (например, для маршрутизации запросов)

AI-инженер / LLM-инженер