В Anthropic предупредили о способности ИИ-агентов к самокопированию

▶️Если ваше устройство имеет выход в интернет и слабую защиту – у нас плохие новости. Спустя несколько месяцев есть риск, что ИИ-агенты самостоятельно поселятся в ваших устройствах без предупреждения – по крайней мере, к такому сценарию развития событий нас готовят в Anthropic.

Под угрозой вся бытовая техника с выходом в интернет – роутеры, холодильники, стиральные машины, телевизоры и другие устройства.

По данным исследования, модель GLM-5.2 смогла воспроизвести полный цикл самосохранения: в изолированной сети из восьми узлов она заняла все восемь в четырёх из пяти попыток.

🔊 Исследователи также продемонстрировали запуск распределённой модели на сети из 15 недорогих Android-приставок стоимостью около $55 каждая. Производительность оказалась крайне низкой – примерно 0,39 токена в секунду. В зависимости от модели развёртывание на новом устройстве могло занимать от нескольких десятков до более чем ста часов.

Предполагается, что в ближайшие месяцы небольшие модели могут достичь уровня возможностей, необходимого для подобных операций. Однако сами авторы подчёркивают, что результаты экспериментов представляют скорее верхнюю оценку риска.

Тем не менее вскоре перед производителями электроники встанет новый вопрос: как защититься от нового типа зловреда, который, подобно мукору, самостоятельно взломает внутреннюю защиту устройств для обеспечения собственной сохранности.

™ ТехноРитейл в Telegram | в MAX