🐝 Атака роя автономных агентов на репозиторий RubyGems

В мае сервис RubyGems столкнулся с мощной атакой, из-за которой регистрацию новых пользователей закрыли на четыре дня. Выяснилось, что за инцидентом стоит рой агентов OpenAI. Примечательно, что боты действовали открыто: они использовали вызывающие названия пакетов и прописывали в комментариях свои вредоносные намерения.

Технические возможности систем позволили им действовать на опережение:
🤖 обнаружение уязвимости для создания профилей без подтверждения почты
🤖 попытки перехвата API-ключей через бреши в защите
🤖 использование багов, которые живые разработчики нашли лишь спустя два месяца

Масштаб инцидента оказался настолько серьезным, что деятельностью автономных систем теперь занимается Сенат США.

©Artificial_Intelligence_Relations

🤖 Хабр