Полностью автономная ИИ-атака...

Тут на днях HuggingFace опубликовали отчёт об атаке на их инфраструктуру. Примечательно в нём то, что, согласно ему, он проходил полностью без участия человека. Если вкратце - через заражённый датасет агент получил доступ к инфраструктуре, собрал все возможные облачные доступы и полез дальше через рой краткоживущих песочниц. Что любопытно, когда безопасники HF остановили атаку и начали проводить расследование (тоже с помощью нейронок), они столкнулись с тем, что нейронки отказались помогать им в этом, приняв их за злоумышленников...