На Форуме Евгений расскажет о рисках агентных систем и актуальных подходах к их защите.
В отличие от классических LLM-приложений, AI-агенты не только отвечают на запросы, но и самостоятельно действуют: вызывают инструменты, обращаются к данным и памяти, взаимодействуют с другими агентами и выполняют операции без постоянного участия человека. Вместе с новыми возможностями возникает и новый класс угроз.
Из его выступления вы узнаете:
✅ чем риски агентных ИИ-систем отличаются от угроз для классических LLM-приложений;
✅ какие уязвимости характерны для enterprise-агентов, coding-агентов, персональных OpenClaw и инфраструктурных AI-систем;
✅ какие реальные сценарии воздействия на агентные системы были выявлены за последние годы;
✅ как работают популярные методы защиты (runtime monitoring, guardrails, контроль tool calls, управление agent identity и пр.).
И многое другое.
Евгений Кокуйкин — основатель компании HiveTrace, руководитель лаборатории безопасности искусственного интеллекта ИТМО. Специализируется на безопасности LLM и агентных систем, защите от промпт-атак и разработке инструментов для тестирования ИИ. Участвует в создании международных стандартов в сообществе OWASP Agentic Security Initiative.
👉 Сайт и программа Форума