DevOps/MLOps
ЛоцияУдалённоот 3 лет5/2Полная занятость
AIKubernetesCI/CDDockerLLMDevSecOpsMLMLOpsHelmAzure DevOpsMinIONFS
Описание
Вам предстоит заниматься развёртыванием ML-моделей и AI-сервисов, локальных моделей (LLM, ML-модели) в различных средах, а также управлением версиями моделей и их хранением.
Обязанности
- Развёртывание ML-моделей и AI-сервисов, локальных моделей (LLM, ML-модели) в различных средах
- Управление версиями моделей и их хранением (NFS/MinIO)
- Подготовка окружений для инференса и тестирования моделей
- Развёртывание сервисов AI-агентов, чат-ботов и ML-сервисов в Kubernetes и docker compose
- Работа с большими моделями и GPU в kubernetes и docker
- CI/CD для ML-сервисов и инфраструктуры
- Сборка Docker-образов, npm пакетов, артефактов
- Написание и рефакторинг пайплайнов в Azure DevOps
- Участие в разработке Dockerfile для ML-сервисов, консультации
- Сборка базовых образов
- Работа с docker-compose, рантаймами: containerd, Docker, podman
- Контроль отсутствия секретов в docker слоях
- Эксплуатация и сопровождение Kubernetes-кластеров
- Разработка и рефакторинг Helm charts
- Работа с TLS/SSL сертификатами и их ротацией, в т.ч. через nginx
- Сбор логов контейнеров
- Интеграция логов с Elastic/Logstash, с VictoriaMetrics/Prometheus
- Управление секретами Kubernetes и HC Vault
- Интеграция ML pipeline с CI/CD
- Подготовка инфраструктуры для обучения моделей
- Диагностика проблем запуска моделей и сервисов
- Отладка Kubernetes workload
- Оптимизация использования ресурсов (CPU/GPU/RAM)
- Подготовка технической документации
Требования
- Опыт работы DevOps/MLOps инженером
- Опыт работы с Kubernetes
- Опыт контейнеризации (Docker, docker-compose)
- Опыт работы с CI/CD
Условия
- Полная занятость
- График: 5/2
- Формат работы: удалённо