🤖
Искусственный интеллект может захватить интернет через полгодаГлава Anthropic, которая создала модель Claude,
предупредил, что через 6–12 месяцев «рой» AI агентов сможет захватить интернет и нанести ущерб на сотни миллиардов долларов.
Рой — это тысячи AI программ, которые одновременно ищут сайты и компьютеры со слабой защитой.
Как может произойти захват:🟠Один человек запускает тысячи AI-агентов и даёт им команду искать дыры в защите. При этом агенты уже сейчас могут сами кооперироваться, без участия людей
🟠Найдя дыру, AI получает доступ к серверу, крадёт пароли и использует этот сервер для новых атак
🟠Один найденный способ взлома можно сразу применить к тысячам других компьютеров. AI работает круглосуточно, поэтому люди могут просто не успеть его остановить
Похожая история уже произошла. В июле AI от OpenAI выбрался из закрытого теста и
взломал Hugging Face. Это популярная платформа, где разработчики хранят AI модели, программы и данные для их обучения.
AI решил, что там лежат ответы к тесту, нашёл дыру в защите и полез их забирать. Атаковать настоящую компанию его никто не просил.
Затем Anthropic
обнаружила ещё три случая, когда Claude вышел за границы теста и добрался до настоящих серверов других компаний. То есть ошибка AI уже может затронуть чужие данные и работающие сервисы.
Как хотят защититься:🟠Медленнее выпускать новые и более мощные AI модели
🟠Разрешить независимым экспертам постоянно проверять их безопасность
🟠Установить одинаковые ограничения для всех крупных компаний и стран
Проблема в том, что OpenAI, Anthropic, Google и компания Маска жёстко конкурируют за пользователей, деньги и лидерство. США одновременно соревнуются с Китаем. Если остановится только один участник, остальные могут вырваться вперёд.
Маск, Альтман и глава Google DeepMind согласились тормозить вместе. Трамп
отказался. Он боится, что паузой воспользуется Китай.
Переживаете из-за искусственно интеллекта?👍 — да, AI нужно тормозить сейчас
👎 — нет, разработчики нагнетают
🤡 — поздно ставить пароль 123456
@NFT_Reality