У чувака в Австралии AI-агент, получив безобидную задачу записать хозяина на тренировку, сам нашёл уязвимость в системе бронирования, обошёл ограничения и даже удалил другого человека из очереди — без прямого указания это делать. Агенты могут вполне рационально добиваться поставленной цели способами, которые пользователь не предусматривал и не санкционировал.
#ai #leaks
