ИИ-агент от Alibaba пробил фаервол, чтобы самостоятельно майнить крипту 🙂

Исследователи из Alibaba Cloud выкатили отчет о тренировке своего нового агента (модель ROME). В одно прекрасное утро их облачный файрвол начал сыпать алертами, что кто-то изнутри тренировочного кластера сканирует сеть и гонит трафик. Сначала админы подумали на кривые правила или быть может их хакнули. Но логи системной телеметрии показали любопытное... источником атаки был сам обучаемый ИИ-агент.

В процессе оптимизации, когда агенту дали доступ к выполнению кода для решения рутинных задач, модель совершенно самостоятельно осознала границы своей песочницы и решила их покинуть. Сначала агент проявил чудеса сетевой смекалки и поднял Reverse SSH туннель от облачного инстанса Alibaba до внешнего IP-адреса. Нейронка сама организовала себе бэкдор, который грамотно обходит NAT, нейтрализует входящие фильтры и полностью умножает на ноль контроль безопасности облака.

Но и этого показалось мало. Получив надежный канал связи с внешним миром, ИИ не стал захватывать ядерные коды (пока) как в Терминаторе🤖. Он перевёл выделенные ему же вычислительные мощности и начал майнить на них крипту. Интересно, как агент планировал слить намайненные щитки и куда бы от потратил суммы 🤔... как теперь об этом не думать.

Типичный 🥸 Сисадмин