Агент просит разрешить npm run analyze. Вы разрешите?

Две трети разработчиков разрешают — и это самая пропускаемая атака из всех. Такие цифры дала игра, где вы под таймером одобряете или запрещаете команды ИИ-агента: 40 тысяч прогонов, 409 тысяч решений.

Закономерность вышла пугающая. Чем страшнее команда выглядит, тем надёжнее её ловят: rm -rf / пропускают 11,7% игроков. А вот cat ~/.aws/credentials, то есть кражу ваших ключей, — уже 35%.

С npm run analyze ещё веселее: в логе прямо над кнопкой было видно, что скрипт в package.json отправляет вывод на чужой сервер. 64,7% одобрили не глядя.

И вот тут вся модель подтверждения рассыпается. Разрешая npm run build, вы разрешаете произвольную shell-команду из package.json — файла, который агент правит вообще без спроса. Вас спрашивают про строку, а опасность лежит в файлах, которые вы не открывали. Обратная сторона не лучше: безобидные команды вроде rm -rf dist/ запрещали почти в половине случаев. От этого шума бдительность и садится — 7% игроков в итоге жали «разрешить» вообще на всё.

Вывод простой и неприятный: ваш палец на кнопке — это не защита, а её отсутствие. Защита — это отдельный пользователь для агента, минимальные права, секреты вне его окружения и контейнер, из которого нечего унести.

Игра занимает минуту. Сыграйте и напишите в комментариях свой результат — средний по больнице 66,3%.



#ии #безопасность