Anthropic утверждают, что в скором маленькие модели смогут самореплицироваться на IoT-устройствах, без достпупа к дата-центрам и GPU
То есть ИИ может научиться как бы заражать бытовую технику (типа дешевых смарт-ТВ-приставок, камер, умных приборов и тд), поселяться на ней и оттуда заражать следующие устройства, и это все без участия человека и без видеокарт. Отключить такую сеть почти невозможно.
Физически даже простейшая техника может вывезти небольшую модель. В качестве демо авторы купили 15 Android TV-боксов по ~$55, соединили их и без труда запустили на них Gemma4-26B-A4B.
Но основной вопрос в другом: сможет ли агент, оказавшись на незнакомом железе, разобраться и запустить инференс? Это проверяли на 9 типах реального железа и на цепочке из 8 виртуальных устройств.
Итог: GLM-5.2 смогла заразить все 8 узлов в 4 прогонах из 5. Пока что она запускала не саму себя (потому что слишком крупная), а Llama 8B. Но выходит, что когда появится достаточно маленькая модель с такими же способностями как у GLM-5.2, которая помещается на приставку, она уже сможет самореплицироваться.
Пока таких моделей нет (надолго ли?) и полная настройка инференса занимает кучу времени (до 150 часов), поэтому риск небольшой. Однако Anthropic сравнивают такой вирус со слизевиком или дрозофилами: он может размножаться днями, и при этом очень незаметно, но выбить его очень, очень трудно, потому что центра – нет.
@ejdailyru