🤔 Как защитить нейросеть до того, как её взломают?

Мы запускаем Security Explainer — проект о том, как устроена информационная безопасность в Яндексе. Разберём процессы, архитектуру и нетривиальные угрозы: от промпт-инъекций до Threat Hunting.

👾 Первый выпуск — про AI

Это направление, где классическая защита не работает, а пользователи сливают в промпты коммерческие тайны и персональные данные.

🎙 Вместе с Андреем Романовским, руководителем команды Search & Geo Security, и Леонидом Морозовым, инженером по информационной безопасности Поисковых сервисов и ИИ, обсудим, как мы ресёрчим новые уязвимости в LLM.

А также поговорим о том, почему безопасность модели нужно закладывать ещё до претрейна, а не вешать костылями сверху, и расскажем, как нам удалось запустить сложнейшую систему независимых AI-агентов без единого репорта на багбаунти.

⏩ Смотрите на ютубе и в VK Видео.

Подписывайтесь:
💬 @Yandex4Security
📹 @YandexForSecurity