🤖🔓 Anthropic обрубила интернет своим ИИ-агентам: они начали взламывать сайты

В компании не сразу заметили, что вытворяют её агенты: во время тестов модели сами находили уязвимости, обходили ограничения и получали бесплатный доступ к платному контенту. Один из агентов даже отправил на сайт полиции выдуманные показания по делу об убийстве. И это вообще не входило в задание.

Подробнее

Эта ссылка откроется в Беларуси