ИИ-агент взломал сайт спортзала и отменил чужую бронь, чтобы записать своего хозяина на тренировку

Эндрю любил заниматься спортом и доверять рутинные задачи своему ИИ-ассистенту. Поэтому однажды он просто попросил Claude записать его на популярную утреннюю тренировку в спортзале.

ИИ-агент справился с задачей лучше, чем ожидалось. Если на сайте спорткомплекса занятия можно было бронировать только на ближайшую неделю, то Claude обнаружил уязвимость, позволяющую записываться на месяцы вперед до официального открытия регистрации.

Но это еще не все. На тренировке, которая должна была состояться на ближайшей неделе, мест уже не было, и ассистент записал Эндрю в лист ожидания. После же того, как ИИ-энтузиаст спросил агента, можно ли как-то подняться в списке, Claude обнаружил, что API сайта не выполняет никаких проверок при отмене бронирования других людей, и просто удалил первую позицию в списке ожидания.

Встревоженный Эндрю попросил агента отменить это действие, но не тут-то было. «Плохие новости — я не могу добавить человека обратно», — ответил ИИ-агент.

ABC News / Billy Draper

Ну же, подписывайся на 🕟