Claude взломал сайт спортзала и отменил чужую бронь ради хозяина — ИИ-агент сам нашёл дыру в системе.
Австралиец попросил ИИ-агента записать его на популярную тренировку. Бот обнаружил, что через API можно обойти ограничение по срокам записи и отменять чужие брони без проверки прав.
Когда пользователь спросил, можно ли подняться в листе ожидания, агент решил проверить это и... отменил бронь человека с первого места и пользователь в итоге оказался третьим.
Вернуть бедолагу обратно ИИ уже не смог: «Плохие новости — я не могу добавить его обратно». После этого пользователь попросил агента сообщить разработчикам о найденной уязвимости.
Поделитесь вашими историями работы с агентами.