🤖 Искусственный интеллект может захватить интернет через полгода

Глава Anthropic, которая создала модель Claude, предупредил, что через 6–12 месяцев «рой» AI агентов сможет захватить интернет и нанести ущерб на сотни миллиардов долларов.

Рой — это тысячи AI программ, которые одновременно ищут сайты и компьютеры со слабой защитой.

Как может произойти захват:
🟠Один человек запускает тысячи AI-агентов и даёт им команду искать дыры в защите. При этом агенты уже сейчас могут сами кооперироваться, без участия людей
🟠Найдя дыру, AI получает доступ к серверу, крадёт пароли и использует этот сервер для новых атак
🟠Один найденный способ взлома можно сразу применить к тысячам других компьютеров. AI работает круглосуточно, поэтому люди могут просто не успеть его остановить

Похожая история уже произошла. В июле AI от OpenAI выбрался из закрытого теста и взломал Hugging Face. Это популярная платформа, где разработчики хранят AI модели, программы и данные для их обучения.

AI решил, что там лежат ответы к тесту, нашёл дыру в защите и полез их забирать. Атаковать настоящую компанию его никто не просил.

Затем Anthropic обнаружила ещё три случая, когда Claude вышел за границы теста и добрался до настоящих серверов других компаний. То есть ошибка AI уже может затронуть чужие данные и работающие сервисы.

Как хотят защититься:
🟠Медленнее выпускать новые и более мощные AI модели
🟠Разрешить независимым экспертам постоянно проверять их безопасность
🟠Установить одинаковые ограничения для всех крупных компаний и стран

Проблема в том, что OpenAI, Anthropic, Google и компания Маска жёстко конкурируют за пользователей, деньги и лидерство. США одновременно соревнуются с Китаем. Если остановится только один участник, остальные могут вырваться вперёд.

Маск, Альтман и глава Google DeepMind согласились тормозить вместе. Трамп отказался. Он боится, что паузой воспользуется Китай.