Руководители крупнейших ИИ-компаний призвали затормозить развитие ИИ, пока он не вышел из-под контроля и не стал опасным для людей.

По мнению главы Anthropic, уже через 6-12 месяцев боты станут достаточны способными, чтобы захватить весь интернет, потенциально причинив ущерб в сотни миллиардов долларов. Тем более, что ИИ-агенты уже вырывались из тестовой среды и взламывали сайты.

Чтобы избежать этого, предлагается замедлить темп разработки и скоординировать действия ИИ-компаний и государств по всему миру, а также внедрить проверку безопасности со стороны сторонних экспертов. Идею уже поддержали глава OpenAI Сэм Альтман и Илон Маск.