AI application security engineer

Описание

Мы — команда безопасности ИИ в Центре киберзащиты Контура. Ищем специалиста по кибербезопасности, который поможет внедрять и сопровождать решения на базе AI — от продуктовых сервисов и RAG-систем до внутренних AI-инструментов разработки. Наша задача — сделать так, чтобы эти инструменты были безопасными, а разработчик получал защищенный результат, соответствующий ИБ-политикам, без необходимости погружаться во все тонкости ИБ.

Обязанности

• Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями
• Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents
• Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций
• Укреплять внутренний AI/ML-тулинг совместно с платформенными командами
• Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы
• Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management
• Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов
• Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы

Требования

• Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security
• Уверенное владение одним из языков программирования: Python, Go, C#, TS, Rust
• Умение читать чужой код, искать уязвимости и писать PoC
• Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP
• Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами)
• Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров
• Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки — Secure SDLC, Threat Modeling
• Умение аргументированно объяснять риски, находить компромиссы с разработкой

Условия

• Гибридный формат работы в Екатеринбурге
• Офис на ул. Малопрудной, 5
• Полный рабочий день
• Предоставим все необходимое: технику, рабочее место, библиотеку с профессиональной литературой, место для отдыха и кухонную зону с фруктами и снеками
• Уровень дохода зависит от ваших технических знаний и навыков
• Регулярно пересматриваем зарплаты с учетом профессионального роста
• Финансовые бонусы
• Сильное инженерное комьюнити
• Регулярно проводим внутренние технические конференции, обмениваемся опытом между командами
• Возможность сменить продукт, команду или предметную область внутри компании
• Поддерживаем развитие в любом направлении
• Общение на «ты» и максимум горизонтальных связей в коллективе
• Возможность делиться экспертизой
• Помогаем выступать на конференциях, участвовать в подкастах или видео, писать статьи
• Поддержка профессионального развития
• Организуем внутреннее и внешнее обучение