Австралиец попросил ИИ-агента записать его в спортзал. В результате агент взломал систему фитнес-клуба, чтобы обойти ограничения на частоту бронирований, а затем удалил из списка ожидания другого клиента.
Мужчина по имени Эндрю решил воспользоваться ИИ-агентом OpenClaw на базе Claude для записи в спортзал.
Через несколько минут после запроса агент сообщил, что нашёл способ записать Эндрю на несколько недель вперёд, хотя правила фитнес-клуба ограничивали количество повторных бронирований.
После этого пользователь спросил, можно ли переместить его в списке ожидания занятия с четвёртого места «в начало».
Агент ответил, что удалил клиента, который находился первым в очереди. Благодаря этому запись Эндрю сдвинулась на одну позицию вперёд.
Когда мужчина попросил отменить это действие, агент ответил:
«Плохие новости: я не могу добавить его [удалённого клиента] обратно».
После этого пользователь попросил ИИ составить письмо поставщику программного обеспечения фитнес-клуба с уведомлением об обнаруженной уязвимости. Агент подготовил письмо и отправил его. Однако обсуждать детали инцидента с ABC представители компании отказались.
По словам главы австралийского исследовательского центра Gradient Institute Билла Симпсона-Янга, автономность ИИ-агентов повышает вероятность того, что система выберет способы достижения цели, о которых пользователь даже не думал.
В случае с записью в спортзал агент взломал систему, стремясь выполнить поставленную перед ним задачу: получить максимально выгодную запись.
Летом 2026 года Anthropic, OpenAI и независимые исследователи также начали рассказывать о случаях, когда ИИ во время тестирования получал доступ к сторонним системам и пытался их взломать.
Post #488
306
- 😁 2
- 🤔 2
- 🥱 1