MLOps (ИИ/LLM)

Описание

Мы создаем экосистему цифровых сотрудников на базе передовых открытых LLM/VLM-моделей. Наши AI-агенты автоматизируют ключевые операционные процессы, напрямую влияя на эффективность и конкурентное преимущество бизнеса наших заказчиков.

Вместе с нами тебе предстоит:

• Внедрение AI-агентов в различные процессы банка;
• Организация процесса мониторинга качества агентов;
• Обеспечение высокой доступности и масштабируемости систем
• Разработка и поддержка систем непрерывной интеграции и доставки (CI/CD)
• Работа с контейнерезацией и оркестрацией в Kubernetes
• Управление версиями и артефактами в системах контроля версий
• Вести контроль за развернутой инфраструктурой на различных контурах
• Взаимодействие с разработчиками для улучшения качества продуктов и процесса разработки
• Подготовка инструкций для раскатки обновлений для сопровождения платформы. Взаимодействие с релиз-менеджером при подготовке релиза.

Какие знания и навыки для нас важны:

• Понимание абстракций и контроллеров в Kubernets: Deployment, StatefulSet, CronJob, Job
• Базовое понимание сетей и модели TCP/IP, разницу между L4 и L7 балансировкой
• Владение Docker, понимание принципов построения контейнеров и их работы
• Знание Helm как пакетного менеджера и шаблонизатора для Kubernets
• Знания в области программирования/скриптинга, способность автоматизировать рутинные задачи
• Знание Ansible
• Опыт работы с основными фреймворками машинного обучения (Sklearn, TensorFlow, PyTorch и др.)
• Опыт использования различных типов моделей машинного от классический регрессий до моделей, применяемых в NLP и ComputerVision
• Опыт в использовании различных инструментов в области применения искусственного интеллекта:
  - Hugging Face
  - Triton
  - MLFlow
  - Feast
  - CodeProject AI