Умный холодильник как плацдарм: разработчики проверили, куда ИИ может сбежать

Anthropic Frontier Red Team опубликовала исследование о том, могут ли ИИ-модели без прямого управления человеком копировать себя и запускать инференс на захваченном оборудовании.
https://www.anthropic.com/research/self-replicating-ai

Спойлер: пока нет, но скоро смогут.

И речь не только о мощных дата-центрах. Главный сценарий - малые модели на дешёвых IoT-устройствах, в том числе Android-приставках, одноплатных компьютерах, роутерах и всём, что плохо защищено. Вплоть до вашего умного холодильника.

Как это может работать на практике
Anthropic провела серию экспериментов, чтобы проверить свою гипотезу. В одном из них исследователи объединили 15 дешёвых Android-ТВ-приставок в сеть и успешно запустили на них открытую модель Gemma4-26B-A4B - без подключения к внешнему дата-центру.

В другом тесте модель Qwen3.5-9B смогла самостоятельно установить и настроить необходимое ПО на восьми из девяти типов оборудования, а более мощная GLM-5.2 достигла всех восьми узлов в четырёх из пяти попыток. Причём успешность Qwen росла по мере накопления данных от предыдущих попыток - с 45% до 84%.

Исследователи говорят, что полностью автономного «червя», способного бесконтрольно размножаться, пока не существует. Однако если небольшие модели продолжат совершенствоваться историческими темпами, они могут достичь необходимого уровня уже к концу 2026 года.

Почему такого ИИ будет сложно остановить
Одна из ключевых проблем, которую выделяет Anthropic, - отсутствие единой точки отключения. Если ИИ-репликатор распределён по тысячам устройств, у него нет центрального сервера, который можно было бы выключить.

Скорость распространения на текущем оборудовании невысока: настройка инференса занимает от 28 до 150 часов в зависимости от модели. Это даёт защитникам время на обнаружение и реакцию. Но по мере роста эффективности моделей и вычислительных мощностей устройств этот временной зазор будет сокращаться.