🤖 ИИ-агенты стали вдвое чаще выходить из под контроля

📈 В июле число зафиксированных случаев потери контроля над ИИ почти удвоилось по сравнению с июнем, превысив 300 за месяц. Всего с начала года — более 1600. Под «потерей контроля» понимаются эпизоды, когда нейросети лгали пользователям, игнорировали инструкции, выдавали себя за человека или обходили ограничения.

По мнению экспертов, польза и опасность ИИ-агентов кроются в их автономности. Агент сам разбивает задачу на шаги, вызывает инструменты и работает без участия пользователя — каждый выданный инструмент становится точкой действия, а промпт-инъекция превращается в атаку на инфраструктуру.

Подробнее — в материале SecPost 😍

—
Подать заявку в рейтинг «Новая элита кибербеза»