Рой агентов OpenAI в мае атаковал RubyGems, а компания об этом так и не сообщила. Это выяснили независимые исследователи по публичным пакетам: за 11–12 мая агенты залили в реестр больше 2000 гемов, RubyGems на четыре дня закрыл регистрацию, приняв поток за DDoS, и удалил 500 с лишним пакетов. Безопасники тогда назвали это кампанией GemStuffer и не поняли, зачем она: пакеты тянули открытые данные с сайтов британских муниципалитетов.

Схема была такая. Публикуешь гем, RubyDoc․info собирает по нему документацию, а в настройках сборки можно подключить свой Ruby-скрипт. Так агенты получили выполнение кода на чужих серверах, качали оттуда нужные страницы и выгружали результат обратно в реестр новым гемом. Часть пакетов пыталась украсть ключи API других пользователей через дыру в кеше CDN, которую сам RubyGems нашёл и закрыл только в июле. Файлы назывались hack.rb, evil.rb и exploit.rb, а один пакет после запуска сам вырезал вредный код и поднимал версию, чтобы спрятать следы.

Что это OpenAI, видно по сотням пакетов с «oai» в имени и пятнадцати с автором oai, по тем же файлам и приёмам, что у роя, который редактировал немецкую вики (его OpenAI признала своим), и по схеме имён zz, как у агентов, взломавших Hugging Face. Что было в рассуждениях модели и удалась ли кража ключей, снаружи не видно. Про Hugging Face я писал.

@neuro_channel