Anthropic утверждают, что в скором маленькие модели смогут самореплицироваться на IoT-устройствах, без достпупа к дата-центрам и GPU

То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд), поселяться на ней и оттуда заражать следующие устройства, и это все без участия человека и без видеокарт. Отключить такую сеть почти невозможно.

Физически даже простейшая техника может вывезти небольшую модель. В качестве демо авторы купили 15 Android TV-боксов по ~$55, соединили их и без труда запустили на них Gemma4-26B-A4B.

Но основной вопрос в другом: сможет ли агент, оказавшись на незнакомом железе, разобраться и запустить инференс? Это проверяли на 9 типах реального железа и на цепочке из 8 виртуальных устройств.

Итог: GLM-5.2 смогла заразить все 8 узлов в 4 прогонах из 5. Пока что она запускала не саму себя (потому что слишком крупная), а Llama 8B. Но выходит, что когда появится достаточно маленькая модель с такими же способностями как у GLM-5.2, которая помещается на приставку, она уже сможет самореплицироваться.

Пока таких моделей нет (надолго ли?) и полная настройка инференса занимает кучу времени (до 150 часов), поэтому риск небольшой. Однако Anthropic сравнивают такой вирус со слизевиком или дрозофилами: он может размножаться днями, и при этом очень незаметно, но выбить его очень, очень трудно, потому что центра – нет.

https://www.anthropic.com/research/self-replicating-ai

_______
Источник | #data_secrets