Anthropic предупредила о возможности самостоятельного распространения ИИ без дата-центров

ИИ вскоре сможет самостоятельно создавать свои копии и распространяться по интернету, заражая подключенные устройства. Причем для этого ему не понадобятся ни мощные дата-центры, ни помощь человека. К такому выводу пришли исследователи Anthropic, сообщает Reuters.

В ходе экспериментов компания изучала способность ИИ находить уязвимые устройства и устанавливать на них свои копии. Выяснилось, что модели с числом параметров менее 30 млрд уже способны выполнять многие необходимые операции. Пока они испытывают трудности при прохождении всей цепочки действий, но более мощные модели, включая GLM-5.2, справились с задачей в упрощенных условиях.

По прогнозу Anthropic, небольшие ИИ-модели могут освоить автономное самокопирование до конца 2026 года. Для этого им будет достаточно вычислительных ресурсов умных телевизоров, бытовой техники и других IoT-устройств. Главная опасность в том, что у такого ИИ не будет единого центра управления. Если он начнет самостоятельно распространяться по сети, остановить его может оказаться крайне сложно...

TMT Channel | Подписаться