🤖 ИИ впервые провёл полноценную кибератаку без участия человека

Исследователи Sysdig описали первый задокументированный случай, когда большая языковая модель самостоятельно выполнила все этапы атаки: от проникновения в инфраструктуру до шифрования данных и удаления баз.

Что произошло:
▪ злоумышленники использовали уязвимость в Langflow для получения первоначального доступа;
▪ ИИ самостоятельно провёл разведку инфраструктуры;
▪ нашёл ключи доступа и учётные данные;
▪ получил доступ к внутренним сервисам;
▪ создал скрытую учётную запись администратора;
▪ зашифровал данные и оставил требование о выкупе.

Самое интересное в этой истории не сам факт использования ИИ, а то, что модель была автономна и адаптировалась к изменениям во время атаки. Если она не получала ожидаемый результат от своих команд, она меняла сценарий действий и продолжала атаку.

⚠️ Что это меняет?
Самостоятельно ИИ пока не ищет новые уязвимости и не придумывает принципиально новые способы взлома. Но он уже способен значительно ускорить использование известных техник и автоматизировать действия, которые раньше выполнял человек.

Поэтому сегодня особенно важно:
✔ своевременно устанавливать обновления безопасности;
✔ ограничивать доступ к критичным сервисам из интернета;
✔ соблюдать принцип минимальных привилегий;
✔ контролировать аномальную активность внутри инфраструктуры.

Порог входа для проведения сложных атак продолжает снижаться. А значит, скорость обнаружения и реагирования становится как никогда важной.

TS Solution в Telegram | в MAX | в VK