На TFR в этом году я показывала слайд с одной цифрой, у которой два прямо противоположных прочтения.

Cloud Security Alliance опросила 418 компаний в апреле 2026 года. 82% обнаружили у себя ИИ-агентов, о существовании которых даже не знали. 65% пережили инцидент с агентом за последний год. Из последствий — 61% утечка данных, 43% операционные сбои, 35% финансовые потери. И только 21% компаний вообще имеют формальный процесс вывода агента из работы, когда его задача выполнена.

Вот эта последняя цифра меня зацепила больше всего. Агент, который доработал задачу, обычно не теряет права доступа — прямо как уволенный сотрудник, у которого забыли отключить пропуск. Только у пропуска обычно есть срок действия, а у прав доступа агента — не всегда.

RWS в апреле того же года опросила уже не бизнес, а больше 4900 обычных потребителей по всему миру. Тоже 82% — но с другой стороны: люди хотят, чтобы в решениях, которые их касаются, оставался человек. CEO RWS Бенджамин Фес сформулировал точно: «Мы видим, что переопределяется дистрибуция перевода — но человек в контуре остаётся незаменим в медицине, праве, маркетинге и креативе». Human-in-the-loop — это не защитная позиция переводческих компаний «на всякий случай», а прямой запрос конечного потребителя.

🤖 Одна цифра, 82%, с двух сторон одного и того же разрыва: бизнес массово теряет видимость происходящего, а конечный пользователь массово хочет обратного.

Разрыв этот подтверждают и более пристальные исследования. В августе независимая организация Guidelight — её создали два бывших сотрудника OpenAI по безопасности — впервые оценила пять компаний: OpenAI, Anthropic, Google, xAI, Meta — по шести практикам контроля над собственными моделями. Лучший результат в отрасли — C+. Средний балл по всем оценкам — 1,6 из 5. Даже у тех, кто строит публичную репутацию на безопасности, находятся нулевые оценки по критичным пунктам.

🔍 Шесть вопросов, которые Guidelight задала пятерым гигантам:

1. Остаётся ли след — сможете ли вы через две недели посмотреть, что именно система сделала
2. Проверяли ли вы, что защита реально работает — не просто установлена, а протестирована
3. Есть ли действия, которые система физически не может сделать без вашего участия
4. Остановится ли всё само, если подряд накопилось несколько подозрительных действий
5. Смотрел ли кто-то со стороны на то, как у вас всё настроено
6. Есть ли у вас план на первые десять минут, если что-то пойдёт не так

Ни одна из пяти компаний не получила высокий балл ни по одной из практик. И это те, у кого тысячи инженеров и репутация, построенная на разговорах о безопасности.

Источники:
1. Cloud Security Alliance, «Autonomous but Not Controlled: AI Agent Incidents Now Common in Enterprises», апрель 2026
2. Slator, интервью CEO RWS Бенджамина Феса, апрель 2026
3. Guidelight, Control Assessment of Frontier AI Companies

* Meta Platforms Inc. признана в России экстремистской организацией, её деятельность на территории РФ запрещена.