💫 СберБанк предлагает возможность присоединиться к проектам в новом, динамично развивающемся направлении безопасности генеративного искусственного интеллекта (GenAI).
Ваши задачи будут связанны с поиском и исследованием уязвимостей GenAI-моделей (LLM/MLM) и приложений с их использованием, в том числе AI-агентов. В дружном коллективе опытных экспертов вы будете участвовать в исследовании и развитии существующих методов и создании новых методов исследования и тестирования безопасности ИИ. Разнообразие архитектур и компонентов в ИИ решениях требует широкого кругозора от исследователя безопасности ИИ, а также умения быстро разбираться в новых инструментах и технологиях 🔥
✨Эксперт по безопасности GenAI-моделей (LLM/MLM) и приложений ✨
☑️ Вам предстоит:
🔘анализ новых инцидентов и методов проведения атак, подготовка рекомендаций по улучшению защищенности
🔘разработка и создание практических примеров атак (Proof-of-Concept, PoC) для исследования и демонстрации уязвимостей ИИ
🔘улучшение имеющихся программных инструментов для тестирования моделей ИИ и приложений на основе ИИ, включая ИИ агентов, анализ устойчивости к новым методам атак
🔘оценка уровня защищенности существующих моделей ИИ и приложений в Банке и предложение улучшений
🔘участие и выступление на ключевых внешних и внутренних ИТ-мероприятиях
💡 Что для нас важно:
🔘
профиль и образование: законченное высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин, либо эквивалентный практический опыт
🔘
программирование на Python, понимание и использование принципов «чистого кода», знание основных python библиотек, установка/настройка/применение, опыт использования ИИ python библиотек (например, torch, transformers, langchain), работа с huggingface
🔘
технический (ИТ, ИБ) английский язык для беглого чтения и понимания статей (arXiv и аналоги), опыт разбора статей на английском языке
🔘
технологии ИИ: знание основных задач и принципов машинного обучения, знание основных метрик оценки качества, общее понимание архитектуры, принципов работы и обучения LLM/MLM
🔘
знание основ информационной безопасности, понимание принципов работы основных методов атаки и защиты LLM и AI агентов, знание актуального состояния фреймворков OWASP, MITRE, БДУ ФСТЭК, «Модель угроз кибербезопасности AI Сбер» и других, понимание их структуры и принципов использования в работе
🔘
2+ лет релевантного опыта работы, включая опыт в академической среде
⚡️ Будет преимуществом:
🔘
участие в соревнованиях по атакам на модели/агентов GenAI
🔘
опыт представления результатов своей работы широкой аудитории, публикации, репозитории git, kaggle и т.п.
⭐️ Что мы предлагаем:
🔘
комфортный современный офис
🔘
офисный формат работы
🔘
ежегодный пересмотр зарплаты, годовая премия
🔘
корпоративный спортзал и зоны отдыха
🔘
более 400 образовательных программ СберУниверситета для профессионального и карьерного развития
🔘
программа адаптации и помощь руководителя на старте
🔘
расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
🔘
гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
🔘
бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
🔘
вознаграждение за рекомендацию друзей в команду Сбера
➡️ В теме письма обязательно укажите вакансию — Эксперт по безопасности GenAI-моделей (LLM/MLM) и приложений!
#вакансия
🤩 Контакты:
🤩 bt_hr@bmstu.ru
🤩 ib.bmstu.ru
@baumantech
@baumantech_hr