Модель отвечает, агент действует: как снизить риски ИИ-агентов

ИИ-агенты могут не только генерировать ответы, но и самостоятельно вызывать API, изменять данные и передавать информацию во внешние сервисы. Поэтому их внедрение требует дополнительных мер контроля.

8 сентября в 19:00 пройдёт бесплатный вебинар от эксперта ФКН НИУ ВШЭ Владимира Никулина, управляющего директора по технорискам в Сбере.

На вебинаре разберём:

📌 чем риски ИИ-агентов отличаются от рисков обычных моделей;
📌 что показали эксперименты Anthropic, OpenAI и Apollo Research;
📌 какие ограничения стоит заложить до запуска агента;
📌 зачем нужны минимальные права, изоляция инструментов и журналирование;
📌 почему системного промпта и встроенных механизмов безопасности может быть недостаточно.

Зарегистрироваться

#мероприятия_ИИ

@aileadershse