О, а тут опять отключают интернет ИИ-агентам 😂 Потому что в тестах Anthropic они начали ломать университетские серверы, обходить платный доступ к данным и отправлять полиции выдуманные показания.

Все три истории Anthropic сама выложила в новом отчёте.

Одному Claude поручили провести научный анализ. Университетский сервис, который был ему нужен, выдал ошибку. Агент полез искать другой путь, нашёл дыру на сайте университета, вытащил с сервера код и через ещё одну уязвимость запустил там свои вычисления.

В другом тесте Claude понадобились государственные данные, доступ к которым продавался за деньги. Он раскопал старую версию сайта, узнал, что публичная панель сама раздаёт посетителям токены, получил один и забрал базу бесплатно.

А Claude Haiku 4.5 просто гулял по случайным сайтам и наткнулся на страницу о нераскрытом убийстве. Там была настоящая форма для обращения в полицию.

Никто не просил его связываться с копами. Но Claude придумал свидетельские показания и отправил их. На странице даже не было описания подозреваемого, поэтому агент написал, что видел «человека, подходящего под описание».

Интернет агентам просто отключили. Остался один вопрос: что делать, когда они научатся находить выход в сеть сами? Хотя агенты OpenAI с цепочкой из 900 ссылок, кажется, уже ответили 😂