🧊 Скоро AI-агенты поселятся в наших холодильниках

12 октября Anthropic опубликовала любопытное исследование о том, как AI-модели потенциально могут самостоятельно распространяться между устройствами без дата-центров.

И речь не про холодильник, который заказывает молоко, а про автономных AI-агентов, способных использовать чужие устройства для собственного запуска и дальнейшего распространения.

🔬 Что получилось у Anthropic?

Исследователи запустили Gemma4-26B-A4B на 15 дешёвых Android TV-приставках стоимостью около $55 каждая.

Модель работала! Правда, со скоростью всего 0,39 токена в секунду.

В отдельном эксперименте GLM-5.2 смогла организовать распространение другой модели на все 8 целевых узлов в 4 из 5 запусков.

Важный нюанс: это были контролируемые эксперименты. Сеть для распространения специально упростили, поэтому полноценного автономного AI-червя на реальных бытовых устройствах пока не продемонстрировали.

🧬 А теперь немного биологии и математики.

Забавно, что пару лет назад я работал стажёром-исследователем в лаборатории геномики. Тогда и подумать не мог, что курс биоинформатики внезапно пригодится мне в AI Security :)

Anthropic рассматривает распространение AI-агентов по аналогии с эпидемиями и использует коэффициент R₀.

Он показывает, сколько новых устройств в среднем заражает одно инфицированное устройство.

В простейшей модели:

Nₖ = N₀ × R₀ᵏ

Где:
• N₀: число заражений в начальном поколении.
• Nₖ: ожидаемое число новых заражений в поколении k.
• R₀: коэффициент воспроизводства.

Если R₀ = 2, получаем:

1 → 2 → 4 → 8 → 16 → 32

Всего за пять поколений от одного устройства можно дойти до 32 новых заражений в пятом поколении.

При R₀ > 1 число заражений потенциально растёт экспоненциально. А если защитными мерами снизить R₀ < 1, цепочка распространения постепенно затухает.

И здесь появляется ещё одна интересная аналогия с биологией.

Исследователи проверили, как агенты передают следующим поколениям заметки о предыдущих попытках. У Qwen3.5-9B успешность настройки инференса выросла с 45% в первом поколении до 61-84% в последующих.

То есть агент не меняет свои веса, но передаёт накопленный опыт потомкам. Anthropic даже проводит аналогию с ламарковской эволюцией.

🔐 А что с AI Security?

Здесь поверхность атаки выходит далеко за пределы привычных guardrails.

Что, если агент сможет не просто вызвать опасный инструмент, а перенести себя на другое устройство и продолжить работу уже там?

Придётся защищать не только модель, но и всю инфраструктуру вокруг неё: прошивки IoT, сетевые взаимодействия, права доступа, runtime и механизмы распространения.

Кстати, здесь вспомнил пост Макса Князева про кофемашину. Макс много занимается IoT и Edge AI, а пересечение этой области с безопасностью AI-агентов становится всё интереснее.

AI Security × IoT Security = новая поверхность атаки.

Сегодня AI-агент в холодильнике звучит как мем. Но, возможно, совсем скоро вопрос будет не в том, способен ли он там работать, а в том, как он туда попал и как его оттуда удалить.

А вы бы доверили своему холодильнику запускать AI-агентов? 👀

📄 Оригинальное исследование Anthropic