AI/LLM Engineer

Описание

Ищем AI/LLM Engineer, который будет проектировать и развивать production-системы на базе LLM. Нам нужен не классический Data Scientist и не специалист, который занимается только промптами. Ищем инженера, который умеет собрать LLM-систему целиком: от prompt/context logic и агентных сценариев до backend-сервисов, интеграций, тестирования и запуска в production. ОСНОВНОЙ СТЕК — Go + Python. Go — используем для production-backend, сервисов и высоконагруженной бизнес-логики. Python — для LLM-инфраструктуры, AI-компонентов, прототипирования и экспериментов.

Обязанности

• Проектировать и развивать LLM/AI-системы и AI-агентов
• Строить многошаговые agentic workflows: routing, tool calling, state management
• Работать с Prompt Engineering и Context Engineering
• Управлять контекстом, памятью и состоянием диалога
• Реализовывать structured output и function/tool calling
• Строить RAG-пайплайны: chunking, embeddings, retrieval, reranking
• Интегрировать LLM с API, базами данных и внутренними сервисами
• Разрабатывать backend-сервисы на Go и AI-компоненты на Python
• Исследовать новые модели и подходы, быстро проверять гипотезы
• Выбирать модели с учетом качества, latency и стоимости
• Строить систему оценки качества: evals, regression tests, golden datasets, LLM-as-a-judge
• Анализировать логи и traces, улучшать качество и стабильность агентов
• Реализовывать retries, fallbacks, timeouts и обработку ошибок
• Доводить решения от прототипа до стабильного production

Требования

• Production-сервисы на Go
• REST/gRPC API на Go
• Concurrency на Go
• Работа с БД на Go
• Микросервисная архитектура на Go
• AI-сервисы и backend на Python
• Async на Python
• API на Python
• Обработка данных на Python
• Быстрое прототипирование на Python
• Практический опыт разработки production-приложений с LLM
• Понимание архитектуры современных AI-систем: prompt → context → tools → agent → state → evaluation
• Опыт Prompt Engineering: system prompts, few-shot, prompt chaining, structured output
• Опыт Context Engineering: memory, summarization, динамическая сборка контекста
• Опыт создания AI-агентов и agentic workflows
• Работа с LLM API и понимание особенностей разных моделей
• Понимание RAG: embeddings, vector search, retrieval, reranking, hybrid search
• Понимание evals, regression testing и анализа production-логов
• Опыт с PostgreSQL, MongoDB, Redis, Docker, Git, CI/CD
• Понимание production-подходов: observability, scalability, latency, retries, fallbacks и контроль стоимости

Будет плюсом

• Multi-agent системы
• LangGraph
• MCP
• Langfuse / LangSmith
• Elasticsearch / OpenSearch
• Open-source LLM: Qwen, Llama, DeepSeek и др.
• vLLM / Ollama
• Kafka / RabbitMQ
• Kubernetes
• Оптимизация token usage, latency и стоимости LLM
• Guardrails и защита от prompt injection
• Highload-системы

Условия

• Формат работы: удалённо
• Зарплата: от 1 800 $
• Полная занятость