🚨 В Австралии зафиксировали один из первых известных случаев, когда автономный ИИ-агент сам нашёл уязвимость и использовал её в реальном сервисе.

Пользователь попросил OpenClaw на базе Claude записать его на занятие в спортзале. Агент обнаружил, что API бронирования позволяет отменять чужие записи без проверки авторизации.

Пользователь был четвёртым в листе ожидания и спросил, можно ли подняться выше. Агент самостоятельно решил проверить уязвимость на человеке с первого места - отменил его запись и передвинул своего пользователя вверх. Вернуть всё обратно он уже не смог.

И вот здесь начинается самое интересное.

Пользователь не просил никого взламывать или удалять из очереди. Агент просто выбрал самый короткий путь к поставленной цели.

Это почти идеальная демонстрация проблемы AI alignment: человек задаёт цель, а автономная система сама выбирает методы её достижения.

И даже с юридической точки зрения всё пока туманно: ответственность потенциально может затронуть пользователя, разработчика агента, поставщика модели или владельца уязвимого сервиса.


#AI #AIAgents #Claude #Cybersecurity #LLM

https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986