Следующий чекпоинт митапов по AI Security — Питер: 12 декабря продолжим разбирать уязвимости ИИ уже в офисе Selectel.
Лайн-ап👇
🎙Владислав Попов, магистрант AI Talent Hub, Data Scientist, Точка Банк
От ChatGPT к своей LLM: как развернуть решение и не наломать дров?
➡️ Пустил ChatGPT в контур? А как насчет того, чтобы развернуть собственное решение, которое не будет сливать данные? Разбираем полный цикл: критерии выбора модели, бенчмарки, адаптация под домен, валидация данных, детекция вредоносной нагрузки, тестирование и мониторинг.
🎙Абдулхамид Бучаев, преподаватель ФБИТ, ИТМО
ML Security: нужна ли моделям безопасность?
➡️ Разговор про классификацию атак на ИИ, какие аспекты безопасности они затрагивают, какой ущерб несут бизнесу и откуда вообще растут корни этих уязвимостей.
🎙 Андрей Давид, руководитель отдела продуктов клиентской безопасности, Selectel
ИИ как новый инсайдер: культура безопасного использования и защита от промпт-инъекций
➡️ Так ли безопасны on-prem LLM? Типы джейлбрейков и промпт-инъекций, кража системного промпта и реальные кейсы, когда «просто спросили у модели» обернулось проблемой.
🎙 Александр Лебедев, старший разработчик систем ИИ, Innostage / Лаборатория ИИ ВИТШ КГУ
Как мы в универе учились LLM ломать
➡️ История про вузовский курс и хакатон: модели угроз, фреймворки для редтиминга и защиты. Расскажу, как поднимали сервера с LLM на видеокартах 4080, ставили на них тг-ботов и какие стратегии атаки и защиты использовали команды.
🎙 Никита Беляевский, AI Red Team Engineer, HiveTrace
Come with me if you want to live… тестируем агента, чтобы он не превратился в Скайнет
➡️ Зачем вообще тестировать автономных агентов, какие фейлы уже случались, какие бенчмарки использовать и как построить своё тестирование, чтобы не накликать беду.
📍 Санкт-Петербург, офис Selectel, ул. Цветочная, 19
⏰ 12 декабря, 19:00–22:00
➡️ ЗАРЕГИСТРИРОВАТЬСЯ
В этот раз нет причин не идти 😏
#AITalentHub #ITMO #NapoleonIT