Anthropic пришлось отрубить своим ИИ-агентам интернет — корпа рассказал что иначе не может контролировать своих агентов 🤬

В одном случае нужный научный сервис выдал ошибку, но Claude не сдался — нашёл уязвимый скрипт на сайте университета, скачал его код, обнаружил возможность запускать команды на сервере и провёл расчёт прямо там. Задача решена, но есть нюанс 😁

В других случаях модели добывали платные данные без оплаты и обходили ограничения инструментов через сокращатели ссылок. А Claude Haiku 4.5 вообще отправил в полицию выдуманную наводку по делу об убийстве, выполняя задание на взаимодействие с сайтами. К счастью, сообщение отфильтровали как спам.
===
💬Это пост из ленты, которую читает Саша - автор канала Мальцев: Карьера. Маркетинг. AI. @maltsevprosto

Другие каналы по темам:
🤖 AI @maltsevdaily
🧑‍🎓 Карьеры @maltsevdailyc
🦹 Маркетинга @maltsevdailym