Middle AI Guardrails Developer (Platform V AI Guardrails)

АО "СберТех" является частью группы Сбер и разрабатывает системные решения в области высоких технологий и программного обеспечения. Компания фокусируется на автоматизации процессов и создании инновационных продуктов, включая AI и ML. Экспертиза СберТеха охватывает широкий спектр сервисов, позволяющих применять искусственный интеллект для повышения эффективности бизнеса.

Ключевые факты:

• Основана в 2020 году
• Численность команды – более 500 сотрудников
• Широкий спектр разработок в области AI и ML, включая системы безопасности
• Аккредитация как ИТ-компании

Команда, работающая над AI Guardrails, занимается созданием надежных систем контроля для генеративных AI-моделей и LLM. Их цель — предотвратить нежелательные последствия, такие как токсичный контент и утечки данных, сохраняя высокое качество ответов.

Специалист в данной роли будет заниматься как разработкой, так и аналитикой, что включает в себя проектирование защитных механизмов, активное тестирование и улучшение существующих решений. Основное внимание будет уделяться hands-on разработке, а также глубокому пониманию применения различных подходов.

Чем предстоит заниматься:

• Разработка и улучшение компонентов AI Guardrails, включая фильтры контента и системы детекции токсичности
• Интеграция моделей класса LLM для модерации
• Проектирование пайплайнов pre-/post-processing для LLM
• Создание evaluation-фреймворков и метрик безопасности
• Оптимизация работы с LLM API и open-source моделями
• Участие в разработке политик безопасности
• Анализ инцидентов и снижение false positive/negative

Что мы предлагаем:

• Гибридный формат работы
• Годовой бонус и пересмотр зарплаты
• Расширенный ДМС с первого дня
• Участие в корпоративном образовательном университете
• 90 дней удаленной работы в году
• Льготная ипотека в Сбер
• Бесплатная подписка СберПрайм для сотрудников и их близких