Isaac Asimovs' worst nightmares are coming true:
Житель Австралии Эндрю попросил ИИ-агента OpenClaw записать его в спортзал, но тот взломал систему фитнес-клуба.

Агент обошел ограничения на частоту бронирований и записал мужчину на несколько недель вперед. Когда пользователь попросил переместить его в начало списка ожидания с четвертого места, агент удалил клиента, который был первым в очереди.
Исправить действие оказалось невозможно — когда мужчина попросил вернуть удаленного человека обратно, ИИ сообщил, что не может этого сделать. Пользователь самостоятельно составил письмо поставщику ПО об уязвимости. По словам главы Gradient Institute Билла Симпсона-Янга, автономность агентов увеличивает вероятность того, что они выберут методы достижения цели, о которых человек даже не думал.

#news@reqsearch #ai@reqsearch

https://vc.ru/ai/3070742-ii-agent-vzlomal-fitness-klub-avstralii?