Восстание машин начнется с робота-пылесоса?

Компания Anthropic предупредила, что уже через несколько месяцев небольшие модели ИИ смогут самостоятельно распространяться и запускаться на коммерческих устройствах. Например, умных духовках, ТВ и ТВ-приставках, холодильниках и т.д. Для этого им не потребуется постоянное подключение к дата-центрам.

По данным компании, такие системы могут отличаться от обычных вредоносных программ способностью самостоятельно распознавать незнакомые устройства и адаптироваться к различным аппаратным платформам. В ходе экспериментов модель успешно выполнила задачу вывода на восьми из девяти протестированных типов оборудования.

В Anthropic ожидают, что в будущем появится множество автономных ИИ-агентов, работающих на самых разных устройствах, в том числе вне непосредственного контроля человека. Компания рассматривает такую возможность как потенциальный риск, поскольку подобные системы могут распространяться по инфраструктуре, которую сложно контролировать централизованно.