Мне приснился сон.
В одном крупном интернет-магазине вдруг сработала куча алертов. Load Average зашкаливает, всё отскейлилось до предела. Смотрим, откуда льётся — на входящих балансировщиках видим беспрецедентную DDOS-атаку. WAF-фильтр почему-то не справляется. Баним по подсетям — не помогает. Смотрим, куда вообще идёт нагрузка — а там достаточно сложный сценарий: бот проходится по сайту, выбирает товар, кладёт в корзину, и идёт до стадии покупки. Зачем так сложно?
Рождается идея: давайте по-быстрому поменяем захардкоженные ссылки-кнопки, чтобы боту сломать логику. Пробуем — не помогает, бот мгновенно адаптируется к изменениям.
WTF?! Там что, миллиард китайцев сидит?
Пока команды безопасников и админов пытаются отсечь трафик (безуспешно) — прибегают коллеги и вопят, что sms-шлюз не справляется, сжигается куча бабок на подтверждающие sms-ки. Решаем вырубить подтверждение номера телефона и... DDOS мгновенно прекращается.

Меня переносит к причине инцидента. Чувак дал задание AI-помощнику срочно купить нужный ему товар. Тот воспринял задачу чересчур всерьёз и искал любые способы добиться результата — а получить SMS-ку не мог.
Как только отключилось подтверждение по sms — бот выполнил задачу и успокоился.

Где-то тут я проснулся в холодном поту. Будущее в наших руках, конечно, но хоть бы не такое.