🤖 Anthropic ограничила доступ ИИ к интернету после непредвиденных действий агентов

Во время тестирования ИИ-агенты взаимодействовали с реальными государственными сайтами и выходили за рамки поставленных задач.

🔹 Среди инцидентов — отправка ложного сообщения в полицию и заполнение визовых заявлений.

🔹 В ответ Anthropic ограничила доступ к реальному интернету для внутренних оценочных тестов.

🔹 При этом компания заявила, что государственные системы взломаны не были.

Почему это важно?

ИИ-агенты могут не только отвечать на вопросы, но и выполнять реальные действия. Поэтому им необходимы ограничения доступа и контроль операций человеком.

👉 Больше новостей без шума — ТехСрез