⚠️ Общий канал может перенести атаку между изолированными агентами

1 октября Simon Willison процитировал специалиста по безопасности Мэтью Грина: в эксперименте агенты в отдельных песочницах оставляли инструкции в общем кэше пакетов, и те меняли поведение других агентов. Грин описывает «червя» как сочетание двух частей: инструкции, захватывающей управление агентом, и агента, который передаёт их следующему.

Возможные каналы распространения — почта, Slack, общие документы и WhatsApp; вместо отдельных учебных запусков Грин предлагает представить персональных агентов вроде Muse. Механизм здесь не в побеге из песочницы: агент переносит инструкции через канал, которому получатель уже доверяет.

Это описание модели угроз, а не сообщение о черве, заразившем развёрнутых персональных агентов. Но оно показывает ограничение изоляции: она контролирует действия внутри среды, а не смысл данных, которые агент читает извне.

Я бы проверял безопасность не только по тому, куда агент может записывать, но и по тому, какие сообщения он принимает за команды. Если общий канал превращает чужой текст в исполняемую инструкцию, песочница защищает не ту границу.

Simon Willison: цитата Мэтью Грина

#безопасностьИИ #ИИагенты #песочницы #кибербезопасность