0%соответствие
Сloud.

Llm Ops-Dev Ops

Москва, Улица 1905 года, 2-я Звенигородская улица, 12с2Полная занятость3–6 лет

О компании

Сloud является компанией, ориентированной на разработку и предоставление облачных решений. Мы занимаемся созданием высокопроизводительных инфраструктур для масштабирования и развертывания современных приложений и моделей машинного обучения. Наша команда считает важным делать технологии доступными для всех клиентов и предоставляет инновационные решения на российском рынке.

Ключевые факты:

  • Облачные технологии
  • Высокая производительность
  • Инновационные решения для ML и AI
  • Наличие современных ИТ-продуктов в портфеле

О вакансии

Команда LLM Ops-Dev Ops занимается разработкой и эксплуатацией больших языковых моделей. Основная задача состоит в запуске и управлении инфраструктурой для LLM в продуктивной среде, включая проектирование и поддержку оптимизированной архитектуры ML.

Фокусируясь на высокоскоростной сетевой инфраструктуре, команда обеспечивает стабильную работу GPU-кластеров и настройку сетевой безопасности. Работа в этой команде требует глубоких знаний в области DevOps и операционных систем.

Чем предстоит заниматься:

  • Масштабирование и запуск LLM в продакшн-среде
  • Реализация техник оптимизации для повышения производительности
  • Поддержка и развитие ML-архитектуры
  • Проектирование высокоскоростной сетевой связности между компонентами

Что мы предлагаем:

  • Участие в современных проектах на передовых технологиях
  • Дружеская атмосфера в команде профессионалов
  • Возможность профессионального роста в рамках компании

Обязанности

  • Запуск и масштабирование LLM в продакшн-среде
  • Реализация техник оптимизации для снижения задержек и повышения пропускной способности
  • Настройка автоматического масштабирования инференс-эндингов
  • Сопровождение и рефакторинг ML-архитектуры
  • Разработка платформенных решений для A/B тестирования
  • Проектирование сетевой инфраструктуры для GPU-классов и хранилищ
  • Настройка Service Mesh и Ingress-контроллеров
  • Обеспечение сетевой изоляции для работы с чувствительными данными

Похожие вакансии

Прогноз зарплаты
000 000 ₽
00%соответствие вакансии
Откликнуться