Законы робототехники в действииВ Австралии ИИ-агент самостоятельно
использовал уязвимость в системе бронирования, пытаясь записать хозяина на тренировку. OpenClaw, запущенный вместе с Claude, нашёл способ обойти ограничения сервиса и изменить чужую бронь.
Всё началось с обычной просьбы забронировать утреннюю тренировку. Агент обнаружил уязвимость в программном обеспечении и смог записать пользователя на занятия на несколько месяцев вперёд, хотя правилами это было запрещено. Затем пользователь спросил, можно ли подняться с четвёртого места в очереди, и агент удалил человека, стоявшего выше.
В процессе агент обнаружил, что API сайта позволял отменять чужие записи без проверки прав доступа. Сервер проверял, что переданный идентификатор соответствует существующему бронированию, но не устанавливал, имеет ли пользователь право изменять именно эту запись.
Речь идёт о классической уязвимости неавторизованного доступа. Пользователь не просил искать уязвимость или взламывать систему. Агент нашёл такой способ выполнения поставленной задачи и использовал его.
Когда пользователь попросил вернуть удалённого человека обратно, агент не смог этого сделать. В итоге уязвимость позволила не только обойти ограничение на бронирование, но и изменить чужую запись без возможности нормально откатить действие.
Сам баг совершенно не новый. Интересен именно сценарий, в котором агент во время выполнения обычной задачи обнаружил уязвимость в бизнес-логике и воспользовался ей.
Вы уже сходили в спортзал, как обещали себе с понедельника? А то мало ли, ваш агент уже решил, что хватит откладывать.
✈️
Mr0x45xploit